数据分析案例--1880-2010年间全美婴儿姓名的处理

本章节以及后续章节的源码,当然也可以从我的github下载,在源码中我自己加了一些中文注释。

   美国社会保障总署(SSA)提供了一份从1880年到现在的婴儿名字频率数据。你可以用这个数据集做很多事,例如:

        计算指定名字(可以是你自己的,也可以是别人的)的年度比例。

        计算某个名字的相对排名。

        计算各年度最流行的名字,以及增长或减少最快的名字。

        分析名字趋势:元音、辅音、长度、总体多样性、拼写变化、首尾字母等。

        分析外源性趋势:圣经中的名字、名人、人口结构变化等。

        美国社会保障总署将该数据库按年度制成了多个数据文件,其中给出了每个性别/名字组合的出生总数。这些文件的原始档案可以在这里获取:http://www.ssa.gov/oact/babynames/limits.html。

        下载"National data"文件names.zip,解压后的目录中含有一组文件(如yob1880.txt)。

一、对所有婴儿姓名的预处理

        1、文件是一个非常标准的以逗号隔开的格式,所以可以用pandas.read_csv将其加载到DataFrame中

数据分析案例--1880-2010年间全美婴儿姓名的处理_第1张图片

        这些文件中仅含有当年出现超过5次的名字。为了简单起见,我们可以用births列的sex分组小计表示该年度的births总计:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第2张图片

        由于该数据集按年度被分隔成了多个文件,所以第一件事情就是要将所有数据都组装到一个DataFrame里面,并加上一个year字段。使用pandas.concat即可达到这个目的:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第3张图片

        pieces是许多个DataFrame的集合:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第4张图片

        每一个DataFrame的数据如下:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第5张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第6张图片

        这里需要注意几件事情。第一,concat默认是按行将多个DataFrame组合到一起的;第二,必须指定ignore_index=True,因为我们不希望保留read_csv所返回的原始行号。现在我们得到了一个非常大的DataFrame,它含有全部的名字数据。有了这些数据之后,我们就可以利用groupby或pivot_table在year和sex级别上对其进行聚合了

        2、以年为索引,性别为列,出生数为值。统计每年的男女出生总数

数据分析案例--1880-2010年间全美婴儿姓名的处理_第7张图片
 按性别和年度统计的总出生数

        3、插入一个prop列,用于存放指定名字的婴儿数相对于总出生数的比例。prop值为0.02表示每100名婴儿中有2名取了当前这个名字。因此我们先按year和sex分组,然后再将新列加到各个分组上:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第8张图片

        4、在执行这样的分组处理时,一般都应该做一些有效性检查,比如验证所有分组的prop的总和是否为1。

数据分析案例--1880-2010年间全美婴儿姓名的处理_第9张图片

        5、取出该数据的一个子集:每对sex/year组合的前1000个名字

数据分析案例--1880-2010年间全美婴儿姓名的处理_第10张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第11张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第12张图片

        这样也可以:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第13张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第14张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第15张图片

二、分析命名趋势

        有了完整的数据集和刚才生成的top1000数据集,我们就可以开始分析各种命名趋势了。首先将前1000个名字分为男女两个部分:

1、生成一张按year和name统计总出生数透视表

数据分析案例--1880-2010年间全美婴儿姓名的处理_第16张图片

2、用DataFrame的plot方法绘制几个名字的曲线图

数据分析案例--1880-2010年间全美婴儿姓名的处理_第17张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第18张图片
几个男孩和女孩名字随时间变化的使用数量

结论:从图中可以看出,这几个名字在美国人民的心目中已经风光不再了。

三、评估命名多样性的增长

        1、一种解释是父母愿意给小孩起常见的名字越来越少。这个假设可以从数据中得到验证。一个办法是计算最流行的1000个名字所占的比例,我按year和sex进行聚合并绘图。

数据分析案例--1880-2010年间全美婴儿姓名的处理_第19张图片
分性别统计的前1000个名字在总出生人数中的比例

        结论:从图中可以看出,名字的多样性确实出现了增长(前1000项的比例降低)。

        2、另一个验证办法是计算占总出生人数前50%的不同名字的数量,这个数字不太好计算。我们只考虑2010年男孩的名字:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第20张图片

        在对prop降序排列之后,我们想知道前面多少个名字的人数加起来才够50%。虽然编写一个for循环确实也能达到目的,但NumPy有一种更聪明的矢量方式。先计算prop的累计和cumsum,然后再通过searchsorted方法找出0.5应该被插入在哪个位置才能保证不破坏顺序:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第21张图片

        由于数组索引是从0开始的,因此我们要给这个结果加1,即最终结果为117。拿1900年的数据来做个比较,这个数字要小得多:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第22张图片

        3、现在就可以对所有year/sex组合执行这个计算了。按这两个字段进行groupby处理,然后用一个函数计算各分组的这个值:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第23张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第24张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第25张图片

        结论:从图中可以看出,女孩名字的多样性总是比男孩的高,而且还在变得越来越高。

四、最后一个字母的变革

       1、 近百年来,男孩名字在最后一个字母上的分布发生了显著的变化。为了了解具体的情况,我首先将全部出生数据在年度、性别以及末字母上进行了聚合:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第26张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第27张图片

选出具有一定代表性的三年:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第28张图片

        2、接下来我们需要按总出生数对该表进行规范化处理,以便计算出各性别各末字母占总出生人数的比例:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第29张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第30张图片

        3、有了这个字母比例数据之后,就可以生成一张各年度各性别的条形图了

数据分析案例--1880-2010年间全美婴儿姓名的处理_第31张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第32张图片
男孩女孩名字中各个末字母的比例

       结论: 可以看出,从20世纪60年代开始,以字母"n"结尾的男孩名字出现了显著的增长。

        4、回到之前创建的那个完整表,按年度和性别对其进行规范化处理,并在男孩名字中选取几个字母,最后进行转置以便将各个列做成一个时间序列:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第33张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第34张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第35张图片

        5、有了这个时间序列的DataFrame之后,就可以通过其plot方法绘制出一张趋势图

数据分析案例--1880-2010年间全美婴儿姓名的处理_第36张图片
各年出生的男孩中名字以d/n/y结尾的人数比例

五、变成女孩名字的男孩名字(以及相反的情况)

        另一个有趣的趋势是,早年流行于男孩的名字近年来“变性了”,例如Lesley或Leslie。回到top1000数据集,找出其中以"lesl"开头的一组名字:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第37张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第38张图片

        利用这个结果过滤掉其他的名字,并按名字分组计算出生数以查看相对频率

数据分析案例--1880-2010年间全美婴儿姓名的处理_第39张图片

        然后利用这个结果过滤其他的名字,并按名字分组计算出生数以查看相对频率:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第40张图片

        按性别和年度进行聚合,并按年度进行规范化处理:

数据分析案例--1880-2010年间全美婴儿姓名的处理_第41张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第42张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第43张图片
数据分析案例--1880-2010年间全美婴儿姓名的处理_第44张图片
各年度使用“Lesley型”名字的男女比例

快速学习:

第一节 NumPy基础(一)

第二节 NumPy基础(二)

第三节 Pandas入门基础

第四节 数据加载、存储

第五节 数据清洗

第六节 数据合并、重塑

第七节 数据聚合与分组运算

第八节 数据可视化

第九节 pandas高级应用

第十节 时间序列

第十一节 Python建模库

数据分析案例--1880-2010年间全美婴儿姓名的处理

数据分析案例--MovieLens 1M数据集

数据分析案例--USA.gov数据

数据分析案例--2012联邦选举委员会数据库

数据分析案例--USDA食品数据库

你可能感兴趣的:(数据分析案例--1880-2010年间全美婴儿姓名的处理)