了解了 DataFrame 之后,我们开始对电影数据进行筛选。
如果给你一个 Excel 表格,最容易想到的就是筛选出这个表格的某几行或某几列,那么在Pandas 中如何做这种筛选呢,可以分为三种情况:
- 按一行或多行筛选
使用非常好用的 loc( ) 函数,可以按照索引进行筛选
import pandas as pd
movie_pd = pd.read_csv('douban_movie.csv', header = 0, sep = '\t')
print movie_pd.loc[0]
print movie_pd.loc[range(10)]
print movie_pd.loc[[1, 3, 8]]
loc( ) 函数既可以传入某个索引值,也可以传入索引值的列表,一般情况下,DataFrame 的索引值是 0 ~ N-1 的数字 ( 其中 N 为 DataFrame的长度 )。所以,loc[0] 查询的其实是第一行的数据,loc[range(10)] 查询的是前 10 行的数据,而 loc[[1, 3, 8]]则是跳着查询第 2、4、9 行的数据。
- 按一列或多列筛选
按列筛选就比较简单了,不需要用到什么函数,直接筛就可以,简单粗暴。
比如说筛选电影数据的标题 title 和 评分 score 中的一列或两列:
print movie_pd['title']
print movie_pd[ ['title', 'score'] ]
- 按一行一列或多行多列同时筛选
也是借助 loc( ) 函数,但这个时候需要通过传入两个参数。
print movie_pd.loc[5, 'actors']
print movie_pd.loc[[1, 5, 8], ['title', 'actors'] ]
loc[5, 'actors'] 表示筛选出索引值是 5 的行,且列名是 actors 的列。
loc[[1, 5, 8], ['title', 'actors'] ] 表示筛选出索引值是 1、5、8 的行,且列名是 title 和 actors 的列。
这种筛选看起来还是挺简单的,那么问题来了,请问以下两种写法有什么区别。。。
print movie_pd['title']
print movie_pd[['title']]
一会一对中括号,一会两对中括号,傻傻分不清,当年我也是纠结了好久。
其实,这涉及到了 Pandas 中的另一种数据类型:Series,我们先来直观感受一下:
print type(movie_pd['title'])
print type(movie_pd[['title']])
输出结果如下:
带有一个中括号的类型是 Series,带有两个中括号的类型是 DataFrame。
之前提到过 DataFrame 类似于 Excel 中的表,那么 Series 就是 Excel 表中的某一行或某一列的数据类型,多个有相同索引的 Series 就可以组成一个 DataFrame。
Series 类似于 Python 中的列表,和 DataFrame 一样有索引和值,基本使用如下:
temp_series = pd.Series([1, 4, 6, 10], name = 'simple_count')
print temp_series
print temp_series.index
print temp_series.values
输出结果如下:
0 1
1 4
2 6
3 10
Name: simple_count, dtype: int64
RangeIndex(start=0, stop=4, step=1)
[ 1 4 6 10]
pd.Series ( ) 中可以传入一个列表进去,name 是 Series 本身的一个属性,index 表示索引,values 表示对应的值。
所以,movie_pd['title'] 返回的是 name 属性值为 title 的 Series,和 DataFrame 没有任何联系了;而 movie_pd[['title']] 返回的是列名为 title 的 DataFrame。
当需要单独对某一行或某一列进行运算时,才会使用一对中括号的方式。
除了按行或按列筛选,还可以按照一个或多个条件对数据进行筛选:
# 筛选电影类型是剧情的 title 和 score 两列
print movie_pd[ movie_pd['category'] == '剧情' ][['title', 'score']]
# 筛选电影排名小于等于 5 且评分高于 9.0 的 title 一列
print movie_pd[ (movie_pd['rank'] <=5) & (movie_pd['score'] > 9.0) ][['title']]
# 筛选电影发布日期大于 2010-01-01 或 评论数超过 50万 的所有列
print movie_pd[ (movie_pd['release_date'] > '2010-01-01') | (movie_pd['vote_count'] > 500000) ]
& 表示多个条件同时满足,类似于 and,| 表示多个条件满足一个即可,类似于 or。
有时候还需要借助一些函数进行筛选,比如:
isnull ( ) 函数:筛选空值
notnull ( ) 函数:筛选非空值
isin( ) 函数:筛选某个字段的值在给定列表中
print movie_pd[ movie_pd['url'].isnull() ]
print movie_pd[ movie_pd['regions'].notnull() ]
print movie_pd[ movie_pd['score'].isin([8.0, 9.0, 9.5]) ]
讲了这么多,该你自己动手实践,去筛选喜欢的电影了。
划重点
- loc( ) 按照索引筛选数据
- Series DataFrame 中某一行或某一列的数据类型
- & 和 | 多条件筛选时 同时满足 和 只满足其一即可
- isnull( ) 空值、notnull( ) 非空值、isin( ) 值在给定列表中