猫眼正则表达式(原版)

猫眼正则表达式(原版)


```python
import json
import requests
from requests.exceptions import RequestException
import re
import time

def get_one_page(url):

    try:

        headers = {

            'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.162 Safari/537.36'

        }

        response = requests.get(url, headers=headers)

        if response.status_code == 200:

            return response.text

        return None

    except RequestException:

        return None


def parse_one_page(html):

    pattern = re.compile('
.*?board-index.*?>(\d+).*?data-src="(.*?)".*?name">(.*?).*?star">(.*?)

.*?releasetime">(.*?)

' + '.*?integer">(.*?).*?fraction">(.*?).*?
', re.S) items = re.findall(pattern, html) for item in items: yield { 'index': item[0], 'image': item[1], 'title': item[2], 'actor': item[3].strip()[3:], 'time': item[4].strip()[5:], 'score': item[5] + item[6] } #yield 带有 yield 的函数在 Python 中被称之为 generator(生成器) #一个带有 yield 的函数就是一个 generator,它和普通函数不同,生成一个 generator 看起来像函数调用, # 但不会执行任何函数代码,直到对其调用 next()(在 for 循环中会自动调用 next())才开始执行。 # 虽然执行流程仍按函数的流程执行,但每执行到一个 yield 语句就会中断,并返回一个迭代值, # 下次执行时从 yield 的下一个语句继续执行。 # 看起来就好像一个函数在正常执行的过程中被 yield 中断了数次,每次中断都会通过 yield 返回当前的迭代值。 #str.strip()就是把这个字符串头和尾的空格,以及位于头尾的\n \t之类给删掉。而[5:]为切片 即表示从第五个开始 def write_to_file(content): with open('result.txt', 'a', encoding='utf-8') as f: f.write(json.dumps(content, ensure_ascii=False) + '\n') #(1)json.dumps()函数是将一个Python数据类型列表进行json格式的编码(可以这么理解,json.dumps()函数是将字典转化为字符串)'+' # (2)json.loads()函数是将json格式数据转换为字典(可以这么理解,json.loads()函数是将字符串转化为字典) def main(offset): url = 'http://maoyan.com/board/4?offset=' + str(offset) html = get_one_page(url) for item in parse_one_page(html): #parse_one_page(html)不参加循环,即得到一个页面后的数据后再 通过下面的语句写入文档 print(item) write_to_file(item) if __name__ == '__main__': for i in range(10): main(offset=i * 10) time.sleep(1)

``

你可能感兴趣的:(python,爬虫)