比较系统的学习Pandas(8)—添加与修改

1、修改数值

修改具体的数值

在Pandas中修改数值非常简单，先筛选出需要修改的数值范围，再 为这个范围重新赋值。

df.iloc[0,0] = 'Lily' # 修改值
df.iloc[0,0] # 查看结果               #Lily

修改大范围的值

# 将小于60分的成绩修改为60
df[df.Q1 < 60] = 60


#按对应的索引位进行修改

# 筛选数据
df.loc[1:3, 'Q1':'Q2']
'''
Q1 Q2
1 60 60
2 60 60
3 93 96
'''

# 指定修改的目的数据
df1 = pd.DataFrame({'Q1':[1,2,3],'Q2':[4,5,6]})
df1
'''
Q1 Q2
0 1 4
1 2 5
2 3 6
'''

# 执行修改
df.loc[1:3, 'Q1':'Q2'] = df1

# 查看结果
df.loc[1:3, 'Q1':'Q2']
'''
Q1 Q2
1 2.0 5.0
2 3.0 6.0
3 NaN NaN
'''

2、替换数据

replace方法可以对数据进行批量替换

df.replace(0, 5) # 将数据中的所有0换为5

df.replace([0, 1, 2, 3], 4) # 将0～3全换成4

df.replace([0, 1, 2, 3], [4, 3, 2, 1]) # 对应修改

# {'pad', 'ffill', 'bfill', None} 试试

s.replace([1, 2], method='bfill') # 向下填充

df.replace({0: 10, 1: 100}) # 字典对应修改

df.replace({'Q1': 0, 'Q2': 5}, 100) # 将指定字段的指定值修改为100

df.replace({'Q1': {0: 100, 4: 400}}) # 将指定列里的指定值替换为另一个指定的值

# 使用正则表达式
df.replace(to_replace=r'^ba.$', value='new', regex=True)

df.replace({'A': r'^ba.$'}, {'A': 'new'}, regex=True)

df.replace(regex={r'^ba.$': 'new', 'foo': 'xyz'})

df.replace(regex=[r'^ba.$', 'foo'], value='new')

3、填充空值

fillna对空值填入指定数据，通常应用于数据清洗。

df.fillna(0) # 将空值全修改为0      默认为None

df.fillna(method='ffill') # 将空值都修改为其前一个值

values = {'A': 0, 'B': 1, 'C': 2, 'D': 3}

df.fillna(value=values) # 为各列填充不同的值

df.fillna(value=values, limit=1) # 只替换第一个

4、修改索引名

修改索引名最简单也最常用的办法就是将df.index和df.columns重新 赋值为一个类似于列表的序列值，这会将其覆盖为指定序列中的名称。使用df.rename和df.rename_axis对轴名称进行修改

#例将列名team修改为class
df.rename(columns={'team':'class'})

df.rename(columns={"Q1": "a", "Q2": "b"}) # 对表头进行修改

df.rename(index={0: "x", 1: "y", 2: "z"}) # 对索引进行修改

df.rename(index=str) # 对类型进行修改

df.rename(str.lower, axis='columns') # 传索引类型

df.rename({1: 2, 2: 4}, axis='index')

# 对索引名进行修改
s.rename_axis("animal")

df.rename_axis("animal") # 默认是列索引

df.rename_axis("limbs", axis="columns") # 指定行索引

# 索引为多层索引时可以将type修改为class

df.rename_axis(index={'type': 'class'})

# 可以用set_axis进行设置修改

s.set_axis(['a', 'b', 'c'], axis=0)

df.set_axis(['I', 'II'], axis='columns')

df.set_axis(['i', 'ii'], axis='columns', inplace=True)

5、增加列

# 四个季度的成绩相加为总成绩

df['total'] = df.Q1 + df.Q2 + df.Q3 + df.Q4

df['total'] = df.sum(1) # 与以上代码效果相同


df['foo'] = 100 # 增加一列foo，所有值都是100

df['foo'] = df.Q1 + df.Q2 # 新列为两列相加

df['foo'] = df['Q1'] + df['Q2'] # 同上


# 把所有为数字的值加起来
df['total'] = df.select_dtypes(include=['int']).sum(1)

df['total'] = df.loc[:,'Q1':'Q4'].apply(lambda x: sum(x), axis='columns')

df.loc[:, 'Q10'] = '我是新来的' # 也可以


# 增加一列并赋值，不满足条件的为NaN
df.loc[df.num >= 60, '成绩'] = '合格'

df.loc[df.num < 60, '成绩'] = '不合格'

6、插入列df.insert()

Pandas提供了insert()方法来为DataFrame插入一个新列。insert()方法 可以传入三个主要参数：loc是一个数字，代表新列所在的位置，使用 列的数字索引，如0为第一列；第二个参数column为新的列名；最后一 个参数value为列的值，一般是一个Series。

# 在第三列的位置上插入新列total列，值为每行的总成绩
df.insert(2, 'total', df.sum(1))

7、指定列df.assign()

df.assign(k=v)为指定一个新列的操作，k为新列的列名，v为此列的 值，v必须是一个与原数据同索引的Series。

# 增加total列
df.assign(total=df.sum(1))

# 增加两列
df.assign(total=df.sum(1), Q=100)

df.assign(total=df.sum(1)).assign(Q=100) # 效果同上


#我们再增加两列name_len和avg，name_len值为name的长度，avg为平均分。这时有了过多的assign语句，为了美观整齐，将代码放在括号里

(
df.assign(total=df.sum(1)) # 总成绩
.assign(Q=100) # 目标满分值
.assign(name_len=df.name.str.len()) # 姓名长度
.assign(avg=df.mean(1)) # 平均值
.assign(avg2=lambda d: d.total/4) # 平均值2
)





df.assign(Q5=[100]*100) # 新增加一列Q5
df = df.assign(Q5=[100]*100) # 赋值生效
df.assign(Q6=df.Q2/df.Q1) # 计算并增加Q6
df.assign(Q7=lambda d: d.Q1 * 9 / 5 + 32) # 使用lambda
# 添加一列，值为表达式结果：True或False
df.assign(tag=df.Q1>df.Q2)
# 比较计算，True为1，False为0
df.assign(tag=(df.Q1>df.Q2).astype(int))
# 映射文案
df.assign(tag=(df.Q1>60).map({True:'及格',False:'不及格'}))

8、执行表达式df.eval()

df.eval()与之前介绍过的df.query()一样，可以以字符的形式传入表 达式，增加列数据。

# 传入求总分表达式
df.eval('total = Q1+Q3+Q3+Q4')


df['C1'] = df.eval('Q2 + Q3')

df.eval('C2 = Q2 + Q3') # 计算

a = df.Q1.mean()

df.eval("C3 = `Q3`+@a") # 使用变量

df.eval("C3 = Q2 > (`Q3`+@a)") # 加一个布尔值

df.eval('C4 = name + team', inplace=True) # 立即生效

9、增加行

可以使用loc[]指定索引给出所有列的值来增加一行数据。

# 新增索引为100的数据
df.loc[100] = ['tom', 'A', 88, 88, 88, 88]

df.loc[101]={'Q1':88,'Q2':99} # 指定列，无数据列值为NaN

df.loc[df.shape[0]+1] = {'Q1':88,'Q2':99} # 自动增加索引

df.loc[len(df)+1] = {'Q1':88,'Q2':99}


# 批量操作，可以使用迭代

rows = [[1,2],[3,4],[5,6]]
for row in rows:
    df.loc[len(df)] = row

10、追加合并

df = pd.DataFrame([[1, 2], [3, 4]], columns=list('AB'))
df2 = pd.DataFrame([[5, 6], [7, 8]], columns=list('AB'))
df.append(df2)

#pd.concat([s1, s2])可以将两个df或s连接起来：

s1 = pd.Series(['a', 'b'])

s2 = pd.Series(['c', 'd'])

pd.concat([s1, s2])

pd.concat([s1, s2], ignore_index=True) # 索引重新编

# 原数索引不变，增加一个一层索引（keys里的内容），变成多层索引

pd.concat([s1, s2], keys=['s1', 's2'])

pd.concat([s1, s2], keys=['s1', 's2'],names=['Series name', 'Row ID'])

# df同理
pd.concat([df1, df2])

pd.concat([df1, df3], sort=False)

pd.concat([df1, df3], join="inner") # 只连相同列

pd.concat([df1, df4], axis=1) # 连接列

11、删除

删除有两种方法，一种是使用pop()函数。使用pop()，Series会删除 指定索引的数据同时返回这个被删除的值，DataFrame会删除指定列并 返回这个被删除的列。以上操作都是实时生效。

还有一种方法是使用反选法，将需要的数据筛选出来赋值给原变 量，最终实现删除。

# 删除索引为3的数据
s.pop(3)


# 删除Q1列
df.pop('Q1')

删除空值

dropna()方法，能够找到DataFrame类型数据的空值（缺失值），将空值所在的行/列删除后，将新的DataFrame作为返回值返回。

1.函数详解

函数形式：dropna(axis=0, how=’any’, thresh=None, subset=None, inplace=False)

参数：

axis：轴。0或’index’，表示按行删除；1或’columns’，表示按列删除。

how：筛选方式。‘any’，表示该行/列只要有一个以上的空值，就删除该行/列；‘all’，表示该行/列全部都为空值，就删除该行/列。

thresh：非空元素最低数量。int型，默认为None。如果该行/列中，非空元素数量小于这个值，就删除该行/列。

subset：子集。列表，元素为行或者列的索引。如果axis=0或者‘index’，subset中元素为列的索引；如果axis=1或者‘column’，subset中元素为行的索引。由subset限制的子区域，是判断是否删除该行/列的条件判断区域。

inplace：是否原地替换。布尔值，默认为False。如果为True，则在原DataFrame上进行操作，返回值为None。

df.dropna() # 一行中有一个缺失值就删除

df.dropna(axis='columns') # 只保留全有值的列

df.dropna(how='all') # 行或列全没值才删除

df.dropna(thresh=2) # 至少有两个空值时才删除

df.dropna(inplace=True) # 删除并使替换生效



# 按列删除：该列非空元素小于5个的，即删除该列
print(d.dropna(axis='columns', thresh=5))



# 设置子集：删除第0、5、6、7列都为空的行
df.dropna(axis='index', how='all', subset=[0,5,6,7],inplace=True)


# 设置子集：删除第5、6、7行存在空值的列
df.dropna(axis=1, how='any', subset=[5,6,7],inplace=True)