concat函数_pandas数据合并之一文弄懂pd.concat()

在工作中经常会遇到多个表进行拼接合并的需求,在pandas中有多个拼接合并的方法,每种方法都有自己擅长的拼接方式,这篇文章只对pd.concat()进行详细讲解,希望能帮助有需要的朋友一次彻底弄清楚它的用法。

pd.concat()函数简介

pd.concat()函数可以沿着指定的轴将多个dataframe或者series拼接到一起,这一点和另一个常用的pd.merge()函数不同,pd.merge()函数只能实现两个表的拼接。文章的主题是pd.concat()函数,接下来认识一下这个函数吧:

pd.concat( objs, axis=0, join='outer', join_axes=None, ignore_index=False, keys=None, levels=None, names=None, verify_integrity=False, sort=None, copy=True, )

以上是有关pd.concat()函数的所有参数,接下来通过例子对常用参数进行讲解。

参数objs和 ignore_index

假设有两张来自两个分公司的表格,一般这种情况下两个表的格式是相同的,但是记录不一样,也就是列名一样行索引不一样,这种情况是pd.concat()很擅长的。

concat函数_pandas数据合并之一文弄懂pd.concat()_第1张图片

concat函数_pandas数据合并之一文弄懂pd.concat()_第2张图片

这两个表进行拼接,直接把两个表的名字丢给pd.concat()函数,这里需要注意的一点,函数有且仅有一个参数objs接收需要拼接的表格,所以需要把表名打包到一起作为一个参数传递给函数

concat函数_pandas数据合并之一文弄懂pd.concat()_第3张图片

拼接后能够看到索引有点奇怪,因为拼接后的表格保留了两个原表的索引,所以索引不连续且有重复,这种时候就需要另一个参数ignore_index出马了,这个参数的意思是在询问要不要忽视掉原表格的索引,默认是保留原表索引,只要设置成Ture,告诉函数忽视原表索引就可以了,来看下效果:

concat函数_pandas数据合并之一文弄懂pd.concat()_第4张图片

和上一个拼接结果相比是不是顺眼很多了?其实对索引的控制除了ignore_index参数,还有另一个参数,与ignore_index参数相比,出场次数不是很多,就是verify_integrity参数。

参数verify_integrity

这个参数是对重复索引的限制,默认是不限制的,如果设置verify_integrity=True,如果拼接的多个表中有相同的索引,会报错。

来个例子看下,设置用来拼接的两个表有重复索引:

concat函数_pandas数据合并之一文弄懂pd.concat()_第5张图片

verify_integrity默认为False,不限制是否有重复索引:

concat函数_pandas数据合并之一文弄懂pd.concat()_第6张图片

其实这样是有隐患的,因为出现重复索引标签,会对选取数据带来不方便,除了ignore_index忽视掉原索引,这个参数也可以避免这种情况:

concat函数_pandas数据合并之一文弄懂pd.concat()_第7张图片

设置verify_integrity=True,两个表中出现重复索引,拼接不成功并报错。

参数axis

假设有两个来自不同部门的表格,一个来自销售部门,一个来自人力部门,这两个表一般会有一两个相同的列,大多数列名不同,但是行索引相同,因为是对同一批人不同信息的统计。

来看个例子:

concat函数_pandas数据合并之一文弄懂pd.concat()_第8张图片

来自销售部门的表df_s

concat函数_pandas数据合并之一文弄懂pd.concat()_第9张图片

来自人力部门的表df_h

通过上边的例子,能够看出在函数pd.concat()中的默认拼接方式是上下堆叠,而销售和人力的表格很明显需要左右拼接,这时候就需要参数axis出场了:

concat函数_pandas数据合并之一文弄懂pd.concat()_第10张图片

keys和names

当表格拼接完成后,就不能判断到底哪些数据是来自于哪一个表了,如果需要保留来源信息,就可以通过keys参数进行设置,而names参数可以给拼接后形成的数据结构添加名字。

来,看代码:

concat函数_pandas数据合并之一文弄懂pd.concat()_第11张图片

这是上下拼接情况下标记每条记录来自于哪个表,添加名字说明

concat函数_pandas数据合并之一文弄懂pd.concat()_第12张图片

这是左右拼接情况下标记每条记录来自于哪个表,添加名字说明

参数join和join_axes

前边的代码中对这两个参数都没有进行设置,其中join参数控制的是外连接还是内连接,默认外连接,保留两个表中的所有信息;如果设置成内连接,拼接结果只保留两个表共有的信息,而join_axes参数是在内连接时选择要完整保留哪个表的索引,但是这个参数在官方文档中提醒即将被弃用,所以不做详细讲解,只看一下join参数的表现吧:

concat函数_pandas数据合并之一文弄懂pd.concat()_第13张图片

这两个表有部分相同的列名和部分相同的行索引,来对这两个表进行两个方向的拼接,设置join=“inner”后查看下效果:

concat函数_pandas数据合并之一文弄懂pd.concat()_第14张图片

上下拼接的时候,保留了共有的列信息!

concat函数_pandas数据合并之一文弄懂pd.concat()_第15张图片

左右拼接的时候保留了共有的行信息!

参数sort:

布尔值,默认值无

  • 当“ join”为“ outer”时,如果有未对齐的轴,则对轴信息进行排序。 当前默认的排序默认值已弃用,在以后的pandas版本中将更改为不排序。
    显式传递``sort = True''使警告和排序保持沉默。
    显式传递``sort = False''以使警告静音而不进行排序。
  • 当“join ='inner'”已经保留了非串联轴的顺序时,这个命令无效。

如下图,默认上下拼接,不进行sort参数设置会跳出警告,并且能看到列名已经被重新排序了:

concat函数_pandas数据合并之一文弄懂pd.concat()_第16张图片

设置sort=True,使警告沉默但是依然会被重新排序:

concat函数_pandas数据合并之一文弄懂pd.concat()_第17张图片

设置sort = False,使警告沉默并且不会被重新排序:

concat函数_pandas数据合并之一文弄懂pd.concat()_第18张图片

其他参数

levels:序列列表,默认值无。用于构建MultiIndex的特定级别(唯一值)。否则,它们将从键推断。

copy:bool,默认为True,如果为False,则不要不必要地复制数据。

这两个参数不是很常用,这里不多做介绍了。通过这篇文章有没有对pd.concat()函数有更深的认识?

你可能感兴趣的:(concat函数,dataframe两个表合并,pandas,concat,pandas,concat函数)