数据集原来的编码encoding格式未知,只有一个.pkl文件用.txt格式查看数据太乱了,所以想将.pkl转换为.csv文件来看,同时也方便后续行列处理。现在需要将其转变为易处理的csv文件。
import pickle as pkl
import pandas as pd
with open(r'PATH', "rb") as f:
object = pkl.load(f,encoding='latin1')
df = pd.DataFrame(object)
df.to_csv(r'newPATH.csv')
注意:object =pkl.load(f,encoding='latin1')
容易在encoding处报错,可以根据实际pkl的编码规则更改为encoding='utf-8'
完成文件类型转换之后,查看csv文件每一行的大小
import pandas as pd
df = pd.read_csv('newcsv.csv')
# 下面是console里面查看句子长度
len(df.iloc[7]) # 查看第8个对话里话语的数量