关键词: 可视化,D3.js,python,前端,代码
0.Why
今天新来的实习生需要对部分分类文本进行多标签的检测,即根据已构建好的一、二级标签Excel文档,对众包平台人工标注的数据以及机器标注的数据进行评测。
此情此景,让我想起了曾经在实验做的文本多标签分类的工作,所以就想用Echart 或D3.js实现层级标签可视化为一个Tree的结构,方便实习生们查阅,提高工作效率。
说干就干!
1.How
1.1 处理数据
首先,找一个标准的基于D3.js实例程序,明确一下我们的工作目标以及步骤[数据的格式+前端代码]。
看一下需要将我们目前的结构化数据:
体育,篮球,NBA
体育,篮球,CNA
体育,篮球,CUBA
体育,足球,中超
体育,足球,欧冠
体育,羽毛球
体育,羽毛球,汤姆斯杯
数码,手机,iPhone
数码,手机,小米
数码,电脑,MacPro
数码,电脑,Dell
数码,电脑,小米
数码,照相机,索尼
数码,照相机,尼康
教育,大学,高数
教育,大学,英语
教育,高中,物理
教育,高中,化学
教育,高中,生物
教育,小学
教育,幼儿
标准的可以被D3.js加载的数据格式:
加载之后的Tree型结构效果图:
以上的Tree型图就是我们想要达到的目标。
我们需要将我们的数据,转换为D3.js可以加载的标准数据。
我决定使用python编写处理的脚本:
编写的逻辑完全是自己瞎想的,如果各位有什么更好、更标准的方法,欢迎指出。
# coding:utf-8
import sys
reload(sys)
sys.setdefaultencoding( "utf-8" )
dic={}
with open("testtag.txt") as f:
for i in f:
# print i
i=i.split(",")
k=str(i[0]).strip()
if k not in dic:
dic[k]=[".".join(i[1:]).strip()]
# 是为了预防存在二级标签的缺失
dic[k].append(str(i[1]).strip())
# 又不能存在重复,使用set去重
dic[k]=list(set(dic[k]))
else:
dic[k].append(str(i[1]).strip())
dic[k].append(".".join(i[1:]).strip())
dic[k]=list(set(dic[k]))
with open("3tag.csv","w") as w:
w.writelines("id,value"+'\n')
w.writelines("3Tag"+'\n')
for i in dic.keys():
w.writelines("3Tag."+i+'\n')
for j in dic[i]:
w.writelines("3Tag."+str(i)+"."+str(j).strip()+'\n')
处理之后的结果存储到本地的文件3tag.csv中:
一定要完全按照标准的D3.js的格式处理的。
id,value
3Tag
3Tag.体育
3Tag.体育.篮球.CNA
3Tag.体育.足球.中超
3Tag.体育.篮球.CUBA
3Tag.体育.篮球
3Tag.体育.羽毛球
3Tag.体育.足球
3Tag.体育.羽毛球.汤姆斯杯
3Tag.体育.篮球.NBA
3Tag.体育.足球.欧冠
3Tag.教育
3Tag.教育.大学.高数
3Tag.教育.高中
3Tag.教育.幼儿
3Tag.教育.高中.生物
3Tag.教育.大学
3Tag.教育.大学.英语
3Tag.教育.高中.物理
3Tag.教育.小学
3Tag.教育.高中.化学
3Tag.数码
3Tag.数码.电脑.MacPro
3Tag.数码.手机.小米
3Tag.数码.照相机.索尼
3Tag.数码.电脑.Dell
3Tag.数码.手机.iPhone
3Tag.数码.电脑.小米
3Tag.数码.手机
3Tag.数码.电脑
3Tag.数码.照相机.尼康
3Tag.数码.照相机
注意事项:
正确的数据:
'''
id,value
3Tag
3Tag.体育
3Tag.体育.篮球
3Tag.体育.篮球.CNA
3Tag.体育.足球.中超
3Tag.体育.足球
'''
1.处理数据的过程中要注意,不允许存在隔级的情况:
eg:
'''
id,value
3Tag
3Tag.体育
3Tag.体育.篮球.CNA
'''
*是错误,必须存在“3Tag.体育.篮球”这一级才可以,否则数据加载失败!
2.不允许存在重复的行数据,否则加载失败!
'''
id,value
3Tag
3Tag.体育
3Tag.体育
3Tag.体育.篮球.CNA
'''
所以,整个处理的过程中,其实最麻烦的就是数据的处理了。
1.2 前端的Web界面
标准数据有了,剩下的就是需要一个前端的web界面,这个代码在上面的示例页面中已经有了,只需要我们自己替换为我们的数据源就可以了,我还是贴出自己的代码吧。