一个简单的爬虫代码爬取糗事百科段子（selenium+ChromeDriver）

一个简单的爬虫入门代码，爬取糗事百科主页的段子（不包括图片，仅文字）。

---

前期准备：

1. 需要安装selenium和ChromeDriver。
2. 将chromedriver.exe放在Chrome的安装目录下。
3. 配置环境变量。点击我的电脑->属性->高级系统设置->PATH->新建（Chrome的安装位置，比如我的是：C:\Program Files (x86)\Google\Chrome\Application）

---

一切就绪以后就可以开始最重要的工作——分析需要爬取的目标网页。
首先打开糗事百科主页和开发者工具（F12），然后我们会发现，这个页面的左侧都是笑话，右侧都是广告。
通过开发者工具可以发现左侧笑话区域的id是content-left，content-left 中还有很多用户的头像、姓名等信息，这些是我们不需要的，我们只需要看笑话、段子就好了。继续用之前的方法，我们可以发现，包裹着笑话文字div的class为 content。所以我们实则需要的内容是id为content-left中的class为content的内容。

代码如下：

#/usr/bin/env python
#coding:utf-8

#导入selenium
from selenium import webdriver

class Qiubai:
    def __init__(self):
        #打开Chrome浏览器
        self.dr = webdriver.Chrome()
        #访问糗事百科主页
        self.dr.get('https://www.qiushibaike.com/')

    def print_content(self):
        #获取id为“content-left”的元素
        main_content = self.dr.find_element_by_id('content-left')
        #获取class为“content”的元素
        contents = main_content.find_elements_by_class_name('content')

        #通过for循环输出获取到的内容
        i = 1
        for content in contents:
            print(str(i) + "." + content.text +'\n')
            i += 1

        self.quit()

    def quit(self):
        #关闭浏览器
        self.dr.quit()

Qiubai().print_content()

参考资料：陈斌 Python爬虫课