今天分享几个不为人知的pandas
函数,大家可能平时看到的不多,但是使用起来倒是非常的方便,也能够帮助我们数据分析人员大幅度地提高工作效率,同时也希望大家看完之后能够有所收获
items()
方法
iterrows()
方法
insert()
方法
assign()
方法
eval()
方法
pop()
方法
truncate()
方法
count()
方法
add_prefix()
方法/add_suffix()
方法
clip()
方法
filter()
方法
first()
方法
isin()
方法
df.plot.area()
方法
df.plot.bar()
方法
df.plot.box()
方法
df.plot.pie()
方法
items()
方法pandas当中的items()
方法可以用来遍历数据集当中的每一列,同时返回列名以及每一列当中的内容,通过以元组的形式,示例如下
df = pd.DataFrame({'species': ['bear', 'bear', 'marsupial'],
'population': [1864, 22000, 80000]},
index=['panda', 'polar', 'koala'])
df
output
species population
panda bear 1864
polar bear 22000
koala marsupial 80000
然后我们使用items()
方法
for label, content in df.items():
print(f'label: {label}')
print(f'content: {content}', sep='\n')
print("=" * 50)
output
label: species
content: panda bear
polar bear
koala marsupial
Name: species, dtype: object
==================================================
label: population
content: panda 1864
polar 22000
koala 80000
Name: population, dtype: int64
==================================================
相继的打印出了‘species’和‘population’这两列的列名和相应的内容
iterrows()
方法而对于iterrows()
方法而言,其功能则是遍历数据集当中的每一行,返回每一行的索引以及带有列名的每一行的内容,示例如下
for label, content in df.iterrows():
print(f'label: {label}')
print(f'content: {content}', sep='\n')
print("=" * 50)
output
label: panda
content: species bear
population 1864
Name: panda, dtype: object
==================================================
label: polar
content: species bear
population 22000
Name: polar, dtype: object
==================================================
label: koala
content: species marsupial
population 80000
Name: koala, dtype: object
==================================================
insert()
方法insert()
方法主要是用于在数据集当中的特定位置处插入数据,示例如下
df.insert(1, "size", [2000, 3000, 4000])
output
species size population
panda bear 2000 1864
polar bear 3000 22000
koala marsupial 4000 80000
可见在DataFrame
数据集当中,列的索引也是从0开始的
assign()
方法assign()
方法可以用来在数据集当中添加新的列,示例如下
df.assign(size_1=lambda x: x.population * 9 / 5 + 32)
output
species population size_1
panda bear 1864 3387.2
polar bear 22000 39632.0
koala marsupial 80000 144032.0
从上面的例子中可以看出,我们通过一个lambda
匿名函数,在数据集当中添加一个新的列,命名为‘size_1’,当然我们也可以通过assign()
方法来创建不止一个列
df.assign(size_1 = lambda x: x.population * 9 / 5 + 32,
size_2 = lambda x: x.population * 8 / 5 + 10)
output
species population size_1 size_2
panda bear 1864 3387.2 2992.4
polar bear 22000 39632.0 35210.0
koala marsupial 80000 144032.0 128010.0
eval()
方法eval()
方法主要是用来执行用字符串来表示的运算过程的,例如
df.eval("size_3 = size_1 + size_2")
output
species population size_1 size_2 size_3
panda bear 1864 3387.2 2992.4 6379.6
polar bear 22000 39632.0 35210.0 74842.0
koala marsupial 80000 144032.0 128010.0 272042.0
当然我们也可以同时对执行多个运算过程
df = df.eval('''
size_3 = size_1 + size_2
size_4 = size_1 - size_2
''')
output
species population size_1 size_2 size_3 size_4
panda bear 1864 3387.2 2992.4 6379.6 394.8
polar bear 22000 39632.0 35210.0 74842.0 4422.0
koala marsupial 80000 144032.0 128010.0 272042.0 16022.0
pop()
方法pop()方法主要是用来删除掉数据集中特定的某一列数据
df.pop("size_3")
output
panda 6379.6
polar 74842.0
koala 272042.0
Name: size_3, dtype: float64
而原先的数据集当中就没有这个‘size_3’这一例的数据了
truncate()
方法truncate()方法主要是根据行索引来筛选指定行的数据的,示例如下
df = pd.DataFrame({'A': ['a', 'b', 'c', 'd', 'e'],
'B': ['f', 'g', 'h', 'i', 'j'],
'C': ['k', 'l', 'm', 'n', 'o']},
index=[1, 2, 3, 4, 5])
output
A B C
1 a f k
2 b g l
3 c h m
4 d i n
5 e j o
我们使用truncate()方法来做一下尝试
df.truncate(before=2, after=4)
output
A B C
2 b g l
3 c h m
4 d i n
我们看到参数before
和after
存在于truncate()
方法中,目的就是把行索引2之前和行索引4之后的数据排除在外,筛选出剩余的数据
count()
方法count()
方法主要是用来计算某一列当中非空值的个数,示例如下
df = pd.DataFrame({"Name": ["John", "Myla", "Lewis", "John", "John"],
"Age": [24., np.nan, 25, 33, 26],
"Single": [True, True, np.nan, True, False]})
output
Name Age Single
0 John 24.0 True
1 Myla NaN True
2 Lewis 25.0 NaN
3 John 33.0 True
4 John 26.0 False
我们使用count()
方法来计算一下数据集当中非空值的个数
df.count()
output
Name 5
Age 4
Single 4
dtype: int64
add_prefix()
方法和add_suffix()
方法分别会给列名以及行索引添加后缀和前缀,对于Series()
数据集而言,前缀与后缀是添加在行索引处,而对于DataFrame()
数据集而言,前缀与后缀是添加在列索引处,示例如下
s = pd.Series([1, 2, 3, 4])
output
0 1
1 2
2 3
3 4
dtype: int64
我们使用add_prefix()
方法与add_suffix()
方法在Series()
数据集上
s.add_prefix('row_')
output
row_0 1
row_1 2
row_2 3
row_3 4
dtype: int64
又例如
s.add_suffix('_row')
output
0_row 1
1_row 2
2_row 3
3_row 4
dtype: int64
而对于DataFrame()
形式数据集而言,add_prefix()
方法以及add_suffix()
方法是将前缀与后缀添加在列索引处的
df = pd.DataFrame({'A': [1, 2, 3, 4], 'B': [3, 4, 5, 6]})
output
A B
0 1 3
1 2 4
2 3 5
3 4 6
示例如下
df.add_prefix("column_")
output
column_A column_B
0 1 3
1 2 4
2 3 5
3 4 6
又例如
df.add_suffix("_column")
output
A_column B_column
0 1 3
1 2 4
2 3 5
3 4 6
clip()
方法clip()
方法主要是通过设置阈值来改变数据集当中的数值,当数值超过阈值的时候,就做出相应的调整
data = {'col_0': [9, -3, 0, -1, 5], 'col_1': [-2, -7, 6, 8, -5]}
df = pd.DataFrame(data)
output
df.clip(lower = -4, upper = 4)
output
col_0 col_1
0 4 -2
1 -3 -4
2 0 4
3 -1 4
4 4 -4
我们看到参数lower
和upper
分别代表阈值的上限与下限,数据集当中超过上限与下限的值会被替代。
filter()
方法pandas
当中的filter
()方法是用来筛选出特定范围的数据的,示例如下
df = pd.DataFrame(np.array(([1, 2, 3], [4, 5, 6], [7, 8, 9], [10, 11, 12])),
index=['A', 'B', 'C', 'D'],
columns=['one', 'two', 'three'])
output
one two three
A 1 2 3
B 4 5 6
C 7 8 9
D 10 11 12
我们使用filter()
方法来筛选数据
df.filter(items=['one', 'three'])
output
one three
A 1 3
B 4 6
C 7 9
D 10 12
我们还可以使用正则表达式来筛选数据
df.filter(regex='e$', axis=1)
output
one three
A 1 3
B 4 6
C 7 9
D 10 12
当然通过参数axis
来调整筛选行方向或者是列方向的数据
df.filter(like='B', axis=0)
output
one two three
B 4 5 6
first()
方法当数据集当中的行索引是日期的时候,可以通过该方法来筛选前面几行的数据
index_1 = pd.date_range('2021-11-11', periods=5, freq='2D')
ts = pd.DataFrame({'A': [1, 2, 3, 4, 5]}, index=index_1)
ts
output
A
2021-11-11 1
2021-11-13 2
2021-11-15 3
2021-11-17 4
2021-11-19 5
我们使用first()
方法来进行一些操作,例如筛选出前面3天的数据
ts.first('3D')
output
A
2021-11-11 1
2021-11-13 2
isin()
方法isin()
方法主要是用来确认数据集当中的数值是否被包含在给定的列表当中
df = pd.DataFrame(np.array(([1, 2, 3], [4, 5, 6], [7, 8, 9], [10, 11, 12])),
index=['A', 'B', 'C', 'D'],
columns=['one', 'two', 'three'])
df.isin([3, 5, 12])
output
one two three
A False False True
B False True False
C False False False
D False False True
若是数值被包含在列表当中了,也就是3、5、12当中,返回的是True
,否则就返回False
df.plot.area()
方法下面我们来讲一下如何在Pandas
当中通过一行代码来绘制图表,将所有的列都通过面积图的方式来绘制
df = pd.DataFrame({
'sales': [30, 20, 38, 95, 106, 65],
'signups': [7, 9, 6, 12, 18, 13],
'visits': [20, 42, 28, 62, 81, 50],
}, index=pd.date_range(start='2021/01/01', end='2021/07/01', freq='M'))
ax = df.plot.area(figsize = (10, 5))
output
df.plot.bar()
方法下面我们看一下如何通过一行代码来绘制柱状图
df = pd.DataFrame({'label':['A', 'B', 'C', 'D'], 'values':[10, 30, 50, 70]})
ax = df.plot.bar(x='label', y='values', rot=20)
output
当然我们也可以根据不同的类别来绘制柱状图
age = [0.1, 17.5, 40, 48, 52, 69, 88]
weight = [2, 8, 70, 1.5, 25, 12, 28]
index = ['A', 'B', 'C', 'D', 'E', 'F', 'G']
df = pd.DataFrame({'age': age, 'weight': weight}, index=index)
ax = df.plot.bar(rot=0)
output
当然我们也可以横向来绘制图表
ax = df.plot.barh(rot=0)
output
df.plot.box()
方法我们来看一下箱型图的具体的绘制,通过pandas
一行代码来实现
data = np.random.randn(25, 3)
df = pd.DataFrame(data, columns=list('ABC'))
ax = df.plot.box()
output
df.plot.pie()
方法接下来是饼图的绘制
df = pd.DataFrame({'mass': [1.33, 4.87 , 5.97],
'radius': [2439.7, 6051.8, 6378.1]},
index=['Mercury', 'Venus', 'Earth'])
plot = df.plot.pie(y='mass', figsize=(8, 8))
output
除此之外,还有折线图、直方图、散点图等等,步骤与方式都与上述的技巧有异曲同工之妙,大家感兴趣的可以自己另外去尝试。
往
期
回
顾
教程
Python实现社交网络可视化,看看你的人脉影响力如何
转载
8000字概括精髓,pandas必知必会50例
注意
4000字归纳总结 Pandas+Sklearn 带你做数据预处理
新闻
7000字 23张图,Pandas一键生成炫酷的动态交互式图表
分享收藏点赞在看