爬虫学习日记2021-5-1

5.1日记录异步加载问题：

首先，祝大家五一劳动节快乐！
今天是从学校到家的第二天。昨天赶了一下午的车。
今天上午拿出课本，翻看了与urllip相关的知识点。晚上开始爬取一个新的网页，这当中遇到了新的问题。这次先记录一下最主要的问题：异步加载。其他的小问题后续再慢慢更新。毕竟五一期间的主要任务要复习概率论！QAQ！！

异步加载：

今晚，我发现爬取网页时，代码应该是没有问题：

blueball=soup.find_all('span',class_= 'blueball_bigst')
blueball_bigst = [span.get_text() for span in blueball]
print(blueball_bigst)

但是爬取结果反馈为：[’’]，经过查阅资料，发现是遇到了异步加载的网页。
异步加载指在加载的同时执行代码。向网站进行一次请求，一次只传部分数据。也就是说，这个网站没有第一页、第二页……等，我们直接鼠标下滑就能不断的向下浏览。
爬取异步加载的网页首要任务是找到网页的正确链接。

解决方法附在这里：

https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control

引用：

【1】https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control