Python 使用pandas 进行查询和统计详解

前言

在使用 Pandas 进行数据分析时，我们需要经常进行查询和统计分析。
但是Pandas 是如何进行查询和统计分析得嘞, let’s go :

数据筛选查询

• 通过列名索引筛选数据：

import pandas as pd

data = {'name': ['Tom', 'Jerry', 'Lucy', 'Amy'],
        'age': [18, 19, 20, 21],
        'gender': ['M', 'M', 'F', 'F']}
df = pd.DataFrame(data)
# 选取 'name' 属性
df['name']
# 选取 'age' 和 'gender' 属性
df[['age', 'gender']]

• 通过位置索引筛选数据：

# 通过位置索引选取第一行数据
df.iloc[0]
# 通过位置索引选取第一行和第二行数据
df.iloc[0:2]

• 通过布尔索引筛选数据：

# 选取年龄大于等于 20 的记录
df[df['age'] >= 20]
# 选取性别为女的记录
df[df['gender'] == 'F']

数据统计分析

Pandas 提供丰富的统计函数，可以方便地进行数据分析。

• 描述性统计分析：

# 统计数值型数据的基本描述性统计信息
df.describe()
# 统计各属性的非空值数量
df.count()
# 统计各属性的平均值
df.mean()
# 统计各属性的方差
df.var()
# 统计各属性的标准差
df.std()

• 分组统计分析：

# 按照性别分组，统计年龄均值
df.groupby('gender')['age'].mean()
# 按照性别和年龄分组，统计人数
df.groupby(['gender', 'age'])['name'].count()

• 交叉表分析：

# 构造一个交叉表，统计不同性别和年龄的人数
pd.crosstab(df['gender'], df['age'])

数据排序

• 按照某列数据进行升序排列：

df.sort_values(by='age')

• 按照某列数据进行降序排列：

df.sort_values(by='age', ascending=False)

数据聚合

• 对整个 DataFrame 进行聚合操作：

# 聚合函数：求和、均值、中位数、最大值、最小值
df.aggregate([sum, 'mean', 'median', max, min])

• 对某列数据进行聚合操作：

# 统计年龄平均值
df['age'].mean()
# 统计年龄总和
df['age'].sum()
# 统计年龄最大值
df['age'].max()

处理缺失数据

• 判断数据是否为缺失值：

# 返回一个布尔型 DataFrame，表明各元素是否为缺失值
df.isnull()

• 删除缺失值所在的行或列：

# 删除所有含有缺失值的行
df.dropna()
# 删除所有含有缺失值的列
df.dropna(axis=1)

• 用指定值填充缺失值：

# 将缺失值使用 0 填充
df.fillna(0)

数据去重

• 对 DataFrame 去重：

# 根据所有列值的重复性进行去重
df.drop_duplicates()
# 根据指定列值的重复性进行去重
df.drop_duplicates(subset=['name', 'age'])

• 对 Series 去重：

# 对 'name' 列进行去重
df['name'].drop_duplicates()

数据合并

• 横向（按列）合并 DataFrame：

# 创建一个新的 DataFrame
other_data = {'name': ['Tom', 'Jerry', 'Lucy', 'Amy'],
              'score': [80, 90, 85, 95]}
other_df = pd.DataFrame(other_data)
# 将两个 DataFrame 在列上合并
pd.concat([df, other_df], axis=1)

• 纵向（按行）合并 DataFrame：

# 创建一个新的 DataFrame
other_data = {'name': ['Kate', 'Jack'],
              'age': [19, 20],
              'gender': ['F', 'M']}
other_df = pd.DataFrame(other_data)
# 将两个 DataFrame 在行上合并
pd.concat([df, other_df], axis=0)

数据透视表

• 创建数据透视表：

# 统计不同性别和年龄的人数，以 'gender' 为行、'age' 为列，'name' 计数
pd.pivot_table(df, values='name', index='gender', columns='age', aggfunc='count')

完结