根据数据的不同情况及处理数据的不同需求,通常会分为两种情况,
一种是去除完全重复的行数据,
另一种是去除某几列重复的行数据,就这两种情况可用下面的代码进行处理。
data.drop_duplicates(inplace=True)
data.drop_duplicates(subset=['A','B'],keep='first',inplace=True)
subset: 列名,可选,默认为None
keep: {‘first’, ‘last’, False}, 默认值 ‘first’
first: 保留第一次出现的重复行,删除后面的重复行。
last: 删除重复项,除了最后一次出现。
False: 删除所有重复项。
inplace:布尔值,默认为False,是否直接在原数据上删除重复项或删除重复项后返回副本。inplace=True表示直接在原来的DataFrame上删除重复项,而默认值False表示生成一个副本。