基于Scrapy的数据分析可视系统

将自己最近做的系统好好介绍一番。。。

刚开始想做的是爬虫,就是去爬取一些招聘网站的信息,但是感觉单独用一个Scrapy框架来完成工作量好像有点跟不上。于是就想加上数据分析。

整个系统大致可以分为三个部分:数据采集(前程无忧,智联招聘,拉勾),应用程序(tkinter),数据分析可视(pandas+Matplotlib)

数据采集:用scrapy采集招聘中的IT岗位信息。

应用程序:用tkinter开发了登录界面与主界面。

数据分析可视:用Pandas从不同维度分析数据库中数据,生成csv文件并进行保存,最后用Matplotlib读取csv文件,生成不同图表。

下面贴一些效果图(选取一些模块分多篇文章详细介绍):

基于Scrapy的数据分析可视系统_第1张图片

登录成功后界面:

基于Scrapy的数据分析可视系统_第2张图片

数据分析可视部分截图:

基于Scrapy的数据分析可视系统_第3张图片

后面的博客会详细介绍。。。。。。。。。。。

你可能感兴趣的:(爬虫,Scrapy,手机验证码登录,tkinter,数据分析)