抖音短视频数据抓取实战系列(〇)——前言

前言:
博主因为项目需要抓取大量的用户信息,所以便开始在网上搜素有没有什么监测数据的方法,博主查到了两种,1、fiddler监测和2、Mitmproxy监测,通过对两者的不断研究实验,博主得出了一下对两者的评价:
fiddler监测:数据可视化更清晰,它可以清楚地显示数据接口,数据请求头和数据返回值等信息,它可以将数据内容进行保存,所以博主这边使用fiddler主要是查找应该抓取的数据接口,以及对数据结构,字段进行分析。
Mitmproxy监测:相较于fiddler它的可视化就十分难受,因为它是在cmd里展示的,可是没想到的是,它可以联动python进行操作。也就说我们通过fiddler分析出数据接口和结构之后,通过Mitmproxy进行数据库操作。
实际上,博主在进行项目的时候,也是两者一起使用的。
但是随着,数据需求的不但增加,一直人工的抓取是不可能的,既费时又费力,所以博主便开始考虑进行自动化监测抓取——appium。
之后的几篇博客,便是博主在进行抖音短视频数据抓取项目过程中的学习测试经历,如果大家喜欢,可以支持博主哦。

项目目录
1、抖音短视频数据抓取实战系列(〇)——前言
2、抖音短视频数据抓取实战系列(一)——模拟器的选择与设置
3、抖音短视频数据抓取实战系列(二)——Fiddler安装配置以及模拟器监测环境配置
4、抖音短视频数据抓取实战系列(三)——Fiddler抓取抖音用户详细信息数据
5、抖音短视频数据抓取实战系列(四)——Java解析Json文件数据并存库
6、抖音短视频数据抓取实战系列(五)——Mitmproxy的安装以及模拟器Mitmproxy证书安装
7、抖音短视频数据抓取实战系列(六)——Mitmproxy+python编写监测程序
8、抖音短视频数据抓取实战系列(七)——python连接MySQL数据库
9、抖音短视频数据抓取实战系列(八)——Mitmproxy抓取用户详细信息并入库
10、抖音短视频数据抓取实战系列(九)——自动化Appium的环境与参数配置
11、抖音短视频数据抓取实战系列(十)——获取抖音dom元素属性
12、抖音短视频数据抓取实战系列(十一)——Appium与Mitmproxy联合-自动取存抖音用户信息
13、抖音短视频数据抓取实战系列(十二)——抓取实战BUG总集

你可能感兴趣的:(数据抓取,自动化,java,python,爬虫,数据库)