大家好,我是辣条,这是班花系列终章前的最后一篇,下一篇会完结这个系列。
上次经过给班花邮箱脚本乌龙事件之后,我也心里过意不去,几次帮忙都没搞成,也快毕业了,不想给室友心中留有遗憾,是男人总得自己大大方方的表白一次才行嘛,于是我想到了最原始的表白,写情书!想想以前初中、高中不都流行这种方式嘛。我就爬取了情书网,给室友弄一份手写万字情书,我原以为事情要么成功,要么失败。也算了却心事,只是让我没想到事情却复杂起来了,原来这才是班花的终极秘密...我们三个人又该走向何方...
采集情书网 爱情故事 标题与文章内容
http://www.qingshu.so/aiqing/aqgs.html
开发工具:pycharm 开发环境:python3.7, Windows10 使用工具包:requests,pyquery
1. requests请求 2. 请求头反爬设置 3. 文件二级存储
使用快捷键 F12 打开浏览器控制台 在源代码页面有包含 该网站为静态页面数据格式
下面上代码:
1. 安装对应第三方库 (requests pyquery) 2. pip install requests
import requests
from pyquery import PyQuery as pq
url = 'http://www.qingshu.so/aiqing/aqgs.html'
headers = {
# 请求服务器 获取需要的数据类型
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9',
'Referer': 'http://www.qingshu.so/bbqs.html', # 防盗链接 主要是验证你是从哪里来的
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36' # 浏览器类型
}
# 发送请求 content.decode('utf-8') 返回数据解码
response = requests.get(url, headers=headers).content.decode('utf-8')
print(response)
详情页地址提取
doc = pq(response) # 创建pyquery对象
details = doc('.t a').items() # 通过前端css 的 类选择器提取对应数据 (a是标签 在 class='t'的下级) (类选择器对应 . id选择器对应#)
for i in details:
href = i.attr('href') # 提取a标签当中的属性
urls = 'http://www.qingshu.so' + href # 拼接url地址
print(urls)
详情页代码:
response = requests.get(urls).content.decode('utf-8')
doc = pq(response)
title = doc('.a_title').text() # 标题
content = doc('.a_content.clearfix').text() # 文章内容
print(title)
print(content)
def Save(title, content):
'''
文章存储
:param title: 文章标题
:param content: 文章内容
:return:
'''
path = './情书网文章/'
if not os.path.exists(path): # 判断文件夹不存在 就新建一个文件夹
os.makedirs(path)
with open(path + '{}.txt'.format(title), 'a') as f:
f.write(content)
print('{}已经下载完成....'.format(title))
代码太乱了 做了一个简单的函数封装 实现代码解耦
import requests
from pyquery import PyQuery as pq
import os
def Tools(url):
'''
请求工具函数
:param url: 请求地址
:return: 响应
'''
headers = {
# 请求服务器 获取需要的数据类型
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9',
# 'Referer': 'http://www.qingshu.so/bbqs.html', # 防盗链接 主要是验证你是从哪里来的
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.61 Safari/537.36'
# 浏览器类型
}
# 发送请求 content.decode('utf-8') 返回数据解码
response = requests.get(url, headers=headers).content.decode('utf-8')
return response
def Save(title, content):
'''
文章存储
:param title: 文章标题
:param content: 文章内容
:return:
'''
path = './情书网文章/'
if not os.path.exists(path): # 判断文件夹不存在 就新建一个文件夹
os.makedirs(path)
with open(path + '{}.txt'.format(title), 'a') as f:
f.write(content)
print('{}已经下载完成....'.format(title))
def Details(urls):
'''
请求详情页地址 获取 标题也 文章内容
:param urls: 详情页地址
:return:
'''
response = Tools(urls)
doc = pq(response)
title = doc('.a_title').text() # 标题
content = doc('.a_content.clearfix').text() # 文章内容
Save(title, content)
url = 'http://www.qingshu.so/aiqing/aqgs.html'
response = Tools(url)
doc = pq(response) # 创建pyquery对象
details = doc('.t a').items() # 通过前端css 的 类选择器提取对应数据 (a是标签 在 class='t'的下级) (类选择器对应 . id选择器对应#)
for i in details:
href = i.attr('href') # 提取a标签当中的属性
urls = 'http://www.qingshu.so' + href # 拼接url地址
Details(urls)
在我第二天满怀期待等待室友消息的时候,却收到了班花的一条消息,顿时懵了...彻底懵了...
我整理整理思绪,也就是说,我以为的班花的秘密前面那些都是我以为的???原来班花的终极秘密就是曾经对我这个钢铁直男有好感!!!啊这...电视剧也不敢拍这么狗血的剧情啊...
我凌乱了..然后缓缓想想怎么处理这个吧...
我用Python修改了班花的开机密码,重新登录后竟然发现了她的秘密!
我用Python采集了班花的空间数据集,除了美照竟然再一次发现了她另外的秘密!
室友单恋班花失败,我爬了一个网站发给他瞬间治愈,男人的快乐就这么简单【每天一遍,忘记初恋】
我用Python写了一个邮箱脚本发给班花,没想到事情闹大了...
答:这个问题其实很早之前我就回答过大家,包括在我的万粉总结、半年总结也说到,我的创作心路历程都详细说了,这里不做过多解释了,其实真假的问题我说了你们也不会相信,我凭几张截图就能证明我文章里的事情是真实的吗,但是我可以告诉你们的是,我写班花系列的第一篇,就是我找到自己风格定位的第一篇,我把生活中的事结合技术博文写到一起,大大激发了我的创作灵感,生活中的事情被我夸大化了放进博文中,所以你相信就是真的,就当学习里面涉及的技术了,不相信就当假的学习技术的同时看了故事。
答:首先声明,涉及到班花、室友包括我自己所有出现的信息我都打码了的,不管是照片还是其他所有的,至于在文章中写到别人确实需要征得别人的同意才行,我在前两篇中确实没注意到这个问题,但是在这篇中我是征得同意了的,但是因为涉及到文章内容的问题,我就不先公开,在最后一篇中公开了,这个问题大家可以放心?
答:故事文判断的标准是什么?我的班花系列文章里没有讲技术吗,相反我的这些文章里技术才是核心,故事只不过是为技术服务的,只不过你的眼光总是盯着这点故事,不在乎我大篇的代码和解析。其二有没有价值判断的标准是什么,你写个多么深度多么牛逼的技术文章结果0个人看,你都没找到自己文章输出的价值点,以及你的受众群体需求点,以及自媒体运营的核心内容,你跟我聊价值,说白了博客的好坏判断标准在用户手里,用户喜欢就能为网站带来流量,能为你快速吸粉,你的文章写出来有人看,有人评论收藏才说明你的文章有价值,当然如果你是一个用爱心发电,写博客纯粹自己学习,服务自己的人,当我没说,你不看就行了,我是写给我的粉丝和我的受众群体看的。
让我真正写下去的,正是粉丝们的认可,他们的评论、点赞、收藏让我感觉到我输出的内容是有价值的,是被大众接受的,更是能和他们产生共情的。
行业资料:添加即可领取PPT模板、简历模板、行业经典书籍PDF。
面试题库:历年经典,热乎的大厂面试真题,持续更新中,添加获取。
学习资料:含Python、爬虫、数据分析、算法等学习视频和文档,添加获取
交流加群:大佬指点迷津,你的问题往往有人遇到过,技术互助交流。