【问题解决】pandas读取excel统计空值数量错误

问题: pd.read_excel()读取excel数据后,用pd.isnull().sum()统计空值数量不对,代码如下

import pandas as pd

df = pd.read_excel('test.xlsx',dtype=str)
# 剔除空格
df = df.applymap(lambda x : str(x).strip())
print("b列为空的个数为"+ str(pd.isnull(df['b']).sum())) # 打印出来b列中为空的是0个

excel数据长这样,B2是一个空格,希望得到空值为2的结果
【问题解决】pandas读取excel统计空值数量错误_第1张图片
问题分析:

  1. 读取excel后的df是这样
    【问题解决】pandas读取excel统计空值数量错误_第2张图片
    使用applymap剔除空格后的df是这样
    【问题解决】pandas读取excel统计空值数量错误_第3张图片
  2. 读取excel后的df的值(df.values)
    【问题解决】pandas读取excel统计空值数量错误_第4张图片
    使用applymap剔除空格后的df的值(df.values)
    【问题解决】pandas读取excel统计空值数量错误_第5张图片

可以看到,在applymap方法处理后
值values的变化:一个空格变成了’’,之前的nan变成了’nan’(这里是字符串nan,当然不为空)

pd.isnull()只会统计NaN的数量,一个是字符串’‘,一个是字符串’nan’,因此都统计不到
解决: 将’'和’nan’全部替换为np.nan,isnull就可以统计到

import numpy as np
import pandas as pd

df = pd.read_excel('test.xlsx',dtype=str)
# 剔除空格
df = df.applymap(lambda x : str(x).strip())
df[df == ''] = np.nan
df[df == 'nan'] = np.nan
print("b列为空的个数为"+ str(pd.isnull(df['b']).sum())) # 打印出来b列中为空的是2个

你可能感兴趣的:(pandas,excel,python)