最近常用的几个【行操纵】的Pandas函数

打印 上一主题 下一主题

主题 906|帖子 906|积分 2718

最近在做生意业务数据的统计分析时,多次用到数据行之间的一些操纵,对于其中的细节,简单做了个笔记。
1. shfit函数

shift函数在策略回测代码中常常出现,盘算生意业务信号持仓信号以及资金曲线时都有涉及。
这个函数的紧张作用是将某列的值上下移动。
默认情况下,shift函数是向下移动一行,
移动后,新数据列的第一行数据用NaN(空值)填充,原始数据列的最后一行丢弃。
  1. import pandas as pd
  2. df = pd.DataFrame({
  3.     "A": [1, 2, 3, 4, 5, 6],
  4.     "B": [2, 3, 4, 2, 4, 5],
  5.     "C": [5, 6, 7, 1, 3, 4],
  6. }, dtype=float)
  7. # 默认 shift()
  8. df["C-shift()"] = df["C"].shift()
  9. print(df)
复制代码

也可以在shift函数中指定移动的行数,比如下面的代码下移3行
  1. df["C-shift(3)"] = df["C"].shift(3)
  2. print(df)
复制代码

指定的行数为负值时,表示向上移动,此时,下面的部分用NaN填充。
  1. df["C-shift(-3)"] = df["C"].shift(-3)
  2. print(df)
复制代码

shift之后一般会在 首部/尾部 产生NaN空值,根据情况看是否需要进一步处置惩罚。
2. 不同行数的列赋值

shift函数照旧比较好明确的,
下面这个操纵比shift稍微复杂一些。
为了简化,创建两个测试数据:
  1. df1 = pd.DataFrame({
  2.     "A": [1, 2, 3, 4, 5, 6],
  3.     "B": [2, 3, 4, 2, 4, 5],
  4.     "C": [5, 6, 7, 1, 3, 4],
  5. })
  6. df2 = pd.DataFrame({
  7.     "D": [110, 100],
  8. })
  9. print(df1, df2)
复制代码

把df2只有2行,df1有6行,此时,把df2的D列赋值给df1时,
pandas会主动比较df1和df2的index(索引,也就是上图中红色框内部分),只赋值具有相同index的行。
  1. df1["D"] = df2["D"]
  2. print(df1)
复制代码

改变df2的index,再次赋值看看:
  1. df2 = pd.DataFrame({    "D": [110, 100],}, index=[4, 7])df1["D"] = df2["D"]
  2. print(df1)
复制代码

df2中index=4时能和df1匹配,所以赋值之后,只有index=4那行赋给了df1,
df2中index=7那行没匹配上,就直接丢弃了。
所以,不同行数的两个数据集互相赋值时,比不是从上而下按行赋值,而是根据两个数据的index来匹配赋值的。
这时,再转头看盘算生意业务信号的代码,temp虽然经过过滤之后,行数比df要少,但是过滤之后的每行数据会根据对应的index准确的赋给df中相同index的行。
3. pct_change函数

pct_change函数用来盘算数据百分比变化的。
具体的盘算规则是,当前行数据 减去 上一行数据,得出的效果再 除以 上一行数据
比如:
  1. df = pd.DataFrame({
  2.     "A": [1, 2, 3, 4, 5, 6],
  3.     "B": [2, 3, 4, 2, 4, 5],
  4.     "C": [5, 6, 7, 1, 3, 4],
  5. }, dtype=float)
  6. df["C_percent"] = df["C"].pct_change()
复制代码

第一行数据因为没有上一行数据,所以是 NaN,
这和shift函数一样,处置惩罚完之后,别忘了填充第一行的NaN。
同样,pct_change()可以传入参数跨越多行。
  1. df["C_percent"] = df["C"].pct_change(3)
复制代码

向上3行,也就是隔两行盘算变化百分比,这里就会产生3个NaN。
pct_change()还可以传入负值,传入负值时的盘算规则变为:
当前行数据 减去 下一行数据,得出的效果再 除以 下一行数据
比如:
  1. df["C_percent"] = df["C"].pct_change(-1)
复制代码

这样,空值NaN出现最后一行,因为最后一行没有下一行。
4. cumprod函数

cumprod函数用来盘算累积乘积的。
具体的盘算规则是,若 当前行 是第一行,则直接用 **当前行数据 **作为 累积乘积效果
当前行 不是第一行,则用 **当前行数据 **乘以 上一行累积乘积效果,得出的效果作为 当前行累积乘积效果
比如:
  1. df["C_cumprod"] = df["C"].cumprod()
复制代码

cumprod函数不能像shift和pct_change那样可以传入数值或负数参数,只有默认的逐行累积盘算。
5. 总结

在分析生意业务信息,特别是统计收益和收益率的变化时,上面几个函数能帮助我们极大简化代码,避免写各种复杂的循环。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

正序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

滴水恩情

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表