将数据帧重整为整齐的格式可能是数据整理中最常见的事情之一。在本文中,我们将学习如何使用Pandas的melt()
函数和wide_long_long()
函数来将Pandas数据框从宽数据格式整形为长数据格式。
melt函数
pandas.melt(frame,id_vars=None,value_vars=None,Var_name=None,value_name='Value',col_level = None)
其中
frame:Dataframe;
id_vars:不需要被转换的列名,用做标识符变量的列;
value_vars: 需要转换的列名,若未指定,则使用未设置为id_vars的所有列;
var_name:用于变量
列的名称,如果为None,则使用frame.columns.name或者variable
;
value_name:用于值
列的名称;
col_level: 如果列名是MultiIndex,则使用此级别进行融合。
在第1个示例中,我们将看到一个简单的数据框示例,它具有更广泛的形式,并使用Pandas融合函数将其重塑为更长的条理形式。
data = {'Name': ['John', 'Smith', 'Liz',],
'Weight': [150, 170, 110],
'BP': [120, 130, 100]}
wide_df = pd.DataFrame(data)
wide_df
Name Weight BP
0 John 150 120
1 Smith 170 130
2 Liz 110 100
我们可以使用Pandas melt()
函数将数据框重塑为满足整洁数据原则的长形式。对于Pandas melt函数,我们需要指定需要在长格式数据框中需要保留的变量,并且可以选择指定变量的名称和值。在此示例中,我们仅将变量命名为key,将值命名为value。
wide_df.melt(id_vars='Name', var_name='key', value_name='value')
Name key value
0 John Weight 150
1 Smith Weight 170
2 Liz Weight 110
3 John BP 120
4 Smith BP 130
5 Liz BP 100
Wide to Long()函数
gapminder = pd.read_csv(r"https://goo.gl/ioc2Td")
gapminder.head()
间隔形式的gapminder数据以列的形式包含lifeExp,gdpPercap和每年的人口。对于此示例,让我们仅使用lifeExp列。我们将使用Pandas loc和字符串匹配对数据框进行过滤,以包含每年的预期寿命值。
gapminder_tidy = lifeExp.melt(id_vars=["continent", "country"],
var_name="year",
value_name="lifeExp")
gapminder_tidy.head(3)
数据每列中都有国家,大洲和lifeExp。请注意,对于每一行,国家/地区值都是唯一的。我们可以使用pandas melt函数将这个宽数据帧转换为长格式的数据帧。在此示例中,我们希望将大洲和国家/地区都保留为列,因此我们使用“ id_vars”参数进行指定。在长格式的形式中,我们需要year和lifeExp作为我们的附加列。我们可以指定var_name = year
和value_name =lifeExp
。
我们以长格式获得gapminder数据,每个变量作为单独的列。但是,请注意,年份列包含前缀
lifeExp_
。
我们可以使用Pandas
str.replace
函数删除前缀。我们得到了想要的整齐的长数据帧。
gapminder_tidy.year = gapminder_tidy.year.str.replace("lifeExp_","")
除了
melt
外,Pandas还具有另一个名为wide_to_long
的功能。我们可以使用Pandas的wide_to_long()
将宽数据框重塑为长/高数据框。使用Pandas wide_to_long()
的另一个好处是,我们可以轻松地处理列名中的前缀。
我们需要指定
stubnames
以从列变量名称中提取前缀。在示例中,stubnames = ['lifeExp”]
。我们还需要指定如何分隔列名。我们还需要指定每行唯一的一列。在我们的示例中,i ='country'
对于每一行都是唯一的。最后,我们需要指定我们创建的新变量名称。在我们的示例中j ='year'
。
lifeExp_tidy = pd.wide_to_long(lifeExp,
stubnames=['lifeExp'],
i='country',
j='year',
sep='_')
现在,我们已使用Pandas wide_to_long函数将宽数据帧重塑为长数据帧。
我们可以重新索引以更改多索引列名,并以长格式获取数据。
lifeExp_tidy.reset_index(inplace=True)
其实Pandas wide_to_long()
使用了Pandas的melt
函数。但是Pandas的wide_to_long()更易于使用。例如,原始的gapminder数据框以宽格式包含一段时间内的多个变量,lifeExp,gdpPercap和pop。我们可以使用Pandas的wide_to_long()
存根名称来指定多个变量,然后将其重塑为长格式。例如,要随着时间的推移在gapminder数据框中以宽幅形式重塑所有3个变量,我们可以使用stubnames = ['lifeExp','gdpPercap','pop']
指定前缀。
gapminder_long = pd.wide_to_long(gapminder, ['lifeExp', 'gdpPercap','pop'], #变量值的含义,转化后的表以其为列
i = ['continent','country'],
j='year',
sep='_')
gapminder_long.reset_index(inplace=True)
此处放一张来自木头里有虫911里的图片: