Python爬虫：爬取招聘网站系列 - 前程无忧(1)

本次以前程无忧为例，看看Python的工资如何。

这是今天的重点

1、爬虫的基本流程

2、re正则表达式模块的简单使用

3、requests模块的使用

4、保存csv

使用的软件

python 3.8

pycharm 2021专业版

pycharm 社区版 (免费) 没有主题

专业版 (需要激活码)

使用的模块

requests >>> pip install requests (数据请求模块) 第三方模块

re

json

csv

time

爬虫最基本的思路

一. 数据来源分析

1. 确定我们要的爬取的内容是什么?

招聘基本数据信息

2. 通过开发者工具进行抓包分析, 分析这些数据是从哪里可以获得

开发者工具怎么打开 : F12 或者 鼠标右键点击检查

二. 代码实现步骤: 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据

1. 发送请求, 对于url地址发送请求

https://search.51job.com/list/010000%252C020000%252C030200%252C040000%252C090200,000000,0000,00,9,99,python,2,1.html

2. 获取数据, 获取服务器发给我们返回的数据响应数据

3. 解析数据, 提取我们想要的数据内容 (比如 招聘标题, 招聘薪资…)

4. 保存数据, 保存到csv文件

OK，思路都清楚的话，咱们来康康代码。

首先导入模块

不会安装模块以及安装失败看这篇教程：如何安装python模块, python模块安装失败的原因以及解决办法

import requests # 数据请求 第三方模块 pip install requests

import re # 正则表达式模块

import json # 序列化与反序列化

import pprint # 格式化输出模块

import csv # 保存csv数据

算了，我直接贴代码吧，流程都写清楚了，我把注释也标上了。

兄弟们在学习的时候没有人解答和好的学习资料教程就很痛苦，解答或者其它教程都在这了 电子书、视频都有！

对应视频教程：

【Python爬虫】招聘网站实战合集第一弹：爬取前程无忧，零基础也能学会！

f = open(‘python招聘数据1.csv’, mode=‘a’, encoding=‘utf-8’, newline=‘’)

csv_writer = csv.DictWriter(f, fieldnames=[

‘标题’,

‘公司名字’,

‘城市’,

‘薪资’,

‘招聘信息’,

‘公司属性’,

‘公司规模’,

‘企业性质’,

‘招聘发布日期’,

‘公司详情页’,

‘招聘详情页’,

])

csv_writer.writeheader() # 写入表头数据

for page in range(1, 11):

1. 发送请求, 对于url地址发送请求

最后

硬核资料：关注即可领取PPT模板、简历模板、行业经典书籍PDF。
技术互助：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。
面试题库：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。
知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！