Python加载和解析包含多个JSON对象的JSON文件

近期工作中,有一个爬虫任务直接将文本内容存为了.json文件,之后领导又给了个解析json文件里部分内容的需求,开始直接用with open打开文件用json.load读取,然而因为一个文件里存在多个json对象,所以,失败。网上相关操作资料貌似也并不多,在这里记录一下解决过程,方便各位码友查阅。

找了很久终于找到了一个jsonlines的库,然而要用这个库,首先你的数据格式要符合它的规范,具体请跳转http://jsonlines.org/,我主要记录的问题也是在这儿,因为通过scrapy保存的json文件,里面的每个json对象的后面都会加一个逗号(,),所以导致格式不对,读取时直接报错。

解决方式如下,思路就是把它的逗号去掉之后在读取,废话不说,直接上代码:


f = open('IAI.json', 'r', encoding='utf-8')
lines = f.read()
f.close()

lines_json = lines.replace('},', '}')

n = open('IAI_1.json', 'w', encoding='utf-8')
n.write(lines_json)
n.close()

之后再用jsonlines读取内容即可:

with open("IAI_1.json", "r+", encoding="utf8") as f:
    for item in jsonlines.Reader(f):
        content = item['content']
        print(content)

至此就可以完美读取出json文件里的多个json对象,思路很简单,由于相关资料不多,在此只是为了记录一下,方便各位查阅,不喜勿喷。

你可能感兴趣的:(Python)