Pandas高级操作，建议收藏（一）

小灰灰 2024-03-24 14:32 27阅读 0赞

在数据分析和数据建模的过程中需要对数据进行清洗和整理等工作，有时需要对数据增删字段。下面为大家介绍Pandas对数据的复杂查询、数据类型转换、数据排序的使用。

复杂查询

实际业务需求往往需要按照一定的条件甚至复杂的组合条件来查询数据,接下来为大家介绍如何发挥Pandas数据筛选的无限可能，随心所欲地取用数据。

1、逻辑运算

  1. # Q1成绩大于36
  2. df.Q1> 36
  3. # Q1成绩不小于60分，并且是C组成员
  4. ~(df.Q1< 60) & (df['team'] == 'C')

2、逻辑筛选数据

切片（[ ]）、.loc[ ]和.iloc[ ]均支持上文所介绍的逻辑表达式。

以下是切片（[ ]）的逻辑筛选示例：

  1. df[df['Q1']== 8] # Q1等于8
  2. df[~(df['Q1']== 8)] # 不等于8
  3. df[df.name== 'Ben'] # 姓名为Ben
  4. df[df.Q1> df.Q2]

以下是.loc[ ]和.lic[ ]示例：

  1. # 表达式与切片一致
  2. df.loc[df['Q1']> 90, 'Q1':] # Q1大于90，只显示Q1
  3. df.loc[(df.Q1> 80) & (df.Q2 < 15)] # and关系
  4. df.loc[(df.Q1> 90) | (df.Q2 < 90)] # or关系
  5. df.loc[df['Q1']== 8] # 等于8
  6. df.loc[df.Q1== 8] # 等于8
  7. df.loc[df['Q1']> 90, 'Q1':] # Q1大于90，显示Q1及其后所有列

3、函数筛选

  1. # 查询最大索引的值
  2. df.Q1[lambdas: max(s.index)] # 值为21
  3. # 计算最大值
  4. max(df.Q1.index)
  5. # 99
  6. df.Q1[df.index==99]

4、比较函数

  1. # 以下相当于 df[df.Q1 == 60]
  2. df[df.Q1.eq(60)]
  3. df.ne() # 不等于 !=
  4. df.le() # 小于等于 <=
  5. df.lt() # 小于 <
  6. df.ge() # 大于等于 >=
  7. df.gt() # 大于 >

5、查询df.query()

  1. df.query('Q1 > Q2 > 90') # 直接写类型SQL where语句

还支持使用@符引入变量

  1. # 支持传入变量，如大于平均分40分的
  2. a = df.Q1.mean()
  3. df.query('Q1 > @a+40')
  4. df.query('Q1 > `Q2`+@a')

df.eval()与df.query()类似，也可以用于表达式筛选。

  1. # df.eval()用法与df.query类似
  2. df[df.eval("Q1 > 90 > Q3 >10")]
  3. df[df.eval("Q1 > `Q2`+@a")]

6、筛选df.filter()

  1. df.filter(items=['Q1', 'Q2']) # 选择两列
  2. df.filter(regex='Q', axis=1) # 列名包含Q的列
  3. df.filter(regex='e$', axis=1) # 以e结尾的列
  4. df.filter(regex='1$', axis=0) # 正则，索引名以1结尾
  5. df.filter(like='2', axis=0) # 索引中有2的
  6. # 索引中以2开头、列名有Q的
  7. df.filter(regex='^2',axis=0).filter(like='Q', axis=1)

7、按数据类型查询

  1. df.select_dtypes(include=['float64']) # 选择float64型数据
  2. df.select_dtypes(include='bool')
  3. df.select_dtypes(include=['number']) # 只取数字型
  4. df.select_dtypes(exclude=['int']) # 排除int类型
  5. df.select_dtypes(exclude=['datetime64'])

数据类型转换

在开始数据分析前，我们需要为数据分配好合适的类型，这样才能够高效地处理数据。不同的数据类型适用于不同的处理方法。

  1. # 对所有字段指定统一类型
  2. df = pd.DataFrame(data, dtype='float32')
  3. # 对每个字段分别指定
  4. df = pd.read_excel(data, dtype={'team':'string', 'Q1': 'int32'})

1、推断类型

  1. # 自动转换合适的数据类型
  2. df.infer_objects() # 推断后的DataFrame
  3. df.infer_objects().dtypes

2、指定类型

  1. # 按大体类型推定
  2. m = ['1', 2, 3]
  3. s = pd.to_numeric(s) # 转成数字
  4. pd.to_datetime(m) # 转成时间
  5. pd.to_timedelta(m) # 转成时间差
  6. pd.to_datetime(m, errors='coerce') # 错误处理
  7. pd.to_numeric(m, errors='ignore')
  8. pd.to_numeric(m errors='coerce').fillna(0) # 兜底填充
  9. pd.to_datetime(df[['year', 'month', 'day']])
  10. # 组合成日期

3、类型转换astype()

  1. df.Q1.astype('int32').dtypes
  2. # dtype('int32')
  3. df.astype({'Q1': 'int32','Q2':'int32'}).dtypes

4、转为时间类型

  1. t = pd.Series(['20200801', '20200802'])

数据排序

数据排序是指按一定的顺序将数据重新排列，帮助使用者发现数据的变化趋势，同时提供一定的业务线索，还具有对数据纠错、分类等作用。

1、索引排序df.sort_index()

  1. s.sort_index() # 升序排列
  2. df.sort_index() # df也是按索引进行排序
  3. df.team.sort_index()s.sort_index(ascending=False)# 降序排列
  4. s.sort_index(inplace=True) # 排序后生效，改变原数据
  5. # 索引重新0-(n-1)排，很有用，可以得到它的排序号
  6. s.sort_index(ignore_index=True)
  7. s.sort_index(na_position='first') # 空值在前，另'last'表示空值在后
  8. s.sort_index(level=1) # 如果多层，排一级
  9. s.sort_index(level=1, sort_remaining=False) #这层不排
  10. # 行索引排序，表头排序
  11. df.sort_index(axis=1) # 会把列按列名顺序排列

2、数值排序sort_values()

  1. df.Q1.sort_values()
  2. df.sort_values('Q4')
  3. df.sort_values(by=['team', 'name'],ascending=[True, False])

其他方法：

  1. s.sort_values(ascending=False) # 降序
  2. s.sort_values(inplace=True) # 修改生效
  3. s.sort_values(na_position='first') # 空值在前
  4. # df按指定字段排列
  5. df.sort_values(by=['team'])
  6. df.sort_values('Q1')
  7. # 按多个字段，先排team，在同team内再看Q1
  8. df.sort_values(by=['team', 'Q1'])
  9. # 全降序
  10. df.sort_values(by=['team', 'Q1'], ascending=False)
  11. # 对应指定team升Q1降
  12. df.sort_values(by=['team', 'Q1'],ascending=[True, False])
  13. # 索引重新0-(n-1)排
  14. df.sort_values('team', ignore_index=True)

3、混合排序

  1. df.set_index('name', inplace=True) # 设置name为索引
  2. df.index.names = ['s_name'] # 给索引起名
  3. df.sort_values(by=['s_name', 'team']) # 排序

4、按值大小排序nsmallest()和nlargest()

  1. s.nsmallest(3) # 最小的3个
  2. s.nlargest(3) # 最大的3个
  3. # 指定列
  4. df.nlargest(3, 'Q1')
  5. df.nlargest(5, ['Q1', 'Q2'])
  6. df.nsmallest(5, ['Q1', 'Q2'])

发表评论

表情：
评论列表 （有 0 条评论，27人围观）

还没有评论，来说两句吧...

相关阅读