- 爬虫学习笔记-scrapy链接提取器爬取读书网链接写入MySQL数据库
DevCodeMemo
爬虫学习笔记
1.终端运行scrapystartprojectscrapy_read,创建项目2.登录读书网,选择国学(随便点一个)3.复制链接(后面修改为包括其他页)4.创建爬虫文件,并打开5.滑倒下方翻页处,右键2,点击检查,查看到a标签网址,复制6.修改爬虫文件规则allow(正则表达式),'\d'表示数字,'+'表示多个,'\.'使'.'生效7.在parse_item中编写打印,scrapycrawlr
- 爬虫学习笔记-scrapy爬取电影天堂(双层网址嵌套)
DevCodeMemo
爬虫学习笔记
1.终端运行scrapystartprojectmovie,创建项目2.接口查找3.终端cd到spiders,cdscrapy_carhome/scrapy_movie/spiders,运行scrapygenspidermvhttps://dy2018.com/4.打开mv,编写代码,爬取电影名和网址5.用爬取的网址请求,使用meta属性传递name,callback调用自定义的parse_sec
- 爬虫学习笔记-scrapy爬取当当网
DevCodeMemo
爬虫学习笔记
1.终端运行scrapystartprojectscrapy_dangdang,创建项目2.接口查找3.cd100个案例/Scrapy/scrapy_dangdang/scrapy_dangdang/spiders到文件夹下,创建爬虫程序4.items定义ScrapyDangdangItem的数据结构(要爬取的数据)src,name,price5.爬取src,name,price数据导入items
- 爬虫学习笔记-scrapy爬取汽车之家
DevCodeMemo
爬虫学习笔记
1.终端运行scrapystartprojectscrapy_carhome,创建项目2.接口查找3.终端cd到spiders,cdscrapy_carhome/scrapy_carhome/spiders,运行scrapygenspideraudihttps://car.autohome.com.cn/price/brand-33.html4.打开audi,编写代码,xpath获取页面车型价格列
- 爬虫学习笔记-scrapy安装及第一个项目创建问题及解决措施
DevCodeMemo
爬虫学习笔记
1.安装scrapypycharm终端运行pipinstallscrapy-ihttps://pypi.douban.com/simple2.终端运行scrapystartprojectscrapy_baidu,创建项目问题1:lxml版本低导致无法找到解决措施:更新或者重新安装lxml3.项目创建成功4.终端cd到项目的spiders文件夹下,cdscrapy_baidu\scrapy_baid
- python爬虫学习笔记之数据提取
py爱好者~
笔记1024程序员节python爬虫
参考博客:python爬虫学习笔记_fdk少东家的博客-CSDN博客1、XPath语法和lxml库1.01、什么是XPath?xpath(XMLPathLanguage)是一门在XML和HTML文档中查找信息的语言,可用来在XML和HTML文档中对元素和属性进行遍历。1.02、XPath工具Chrome插件XPathHelper。Firefox插件XPathChecker。1.03、XPath语法
- python爬虫学习笔记之数据存储
py爱好者~
笔记python爬虫
参考博客:python爬虫学习笔记_fdk少东家的博客-CSDN博客1、json文件处理:1.01、什么是json:JSON(JavaScriptObjectNotation,JS对象标记)是一种轻量级的数据交换格式。它基于ECMAScript(w3c制定的js规范)的一个子集,采用完全独立于编程语言的文本格式来存储和表示数据。简洁欸和清晰的层次结构使得JSON成为理想的数据交换语言。易于人阅读和
- python爬虫学习笔记之网络请求
py爱好者~
笔记分类爬虫python
参考博客:python爬虫学习笔记_fdk少东家的博客-CSDN博客'requests'库安装和文档地址:利用pip进行安装:pipinstallrequests中文文档:Requests:让HTTP服务人类—Requests2.18.1文档发送GET请求:1.最简单的发送get请求就是通过requests.get来调用:response=requests.get('http://www.baid
- 爬虫学习笔记-Cookie登录古诗文网
DevCodeMemo
爬虫学习笔记
1.导包请求importrequests2.获取古诗文网登录接口url='https://so.gushiwen.cn/user/login.aspxfrom=http%3a%2f%2fso.gushiwen.cn%2fuser%2fcollect.aspx'#请求头headers={'User-Agent':'Mozilla/5.0(WindowsNT10.0;Win64;x64)AppleWe
- 爬虫学习笔记-handless的使用
DevCodeMemo
爬虫学习笔记
1.封装handless函数#定义函数defshare_browser():#导包fromseleniumimportwebdriverfromselenium.webdriver.chrome.optionsimportOptionschrome_options=Options()chrome_options.add_argument('--headless')chrome_options.ad
- 爬虫学习笔记-requests的使用
DevCodeMemo
爬虫学习笔记
get请求百度北京源码importrequestsurl='http://www.baidu.com/s?'headers={'User-Agent':'Mozilla/5.0(WindowsNT10.0;Win64;x64)AppleWebKit/537.36(KHTML,likeGecko)Chrome/120.0.0.0Safari/537.36'}data={'wd':'北京'}respo
- 爬虫学习笔记-selenium交互
DevCodeMemo
python开发语言
1.导包fromseleniumimportwebdriverimporttimefromselenium.webdriver.common.byimportBy2.打开浏览器访问百度页面,睡眠2秒url='https://www.baidu.com'browser=webdriver.Chrome()browser.get(url)time.sleep(2)3.获取输入框,输入搜索的内容,睡眠2
- 爬虫学习笔记-post请求获取翻译详情
DevCodeMemo
爬虫学习笔记
1.导入爬虫需要使用的包importurllib.requestimporturllib.parse2.定义url如图查看请求urlurl='https://fanyi.baidu.com/v2transapi?from=en&to=zh'3.定义请求头查看preview带有数据的请求接口,复制headers中requestheaders所有内容,格式如下:headers={'Accept':'*
- 爬虫学习笔记-站长素材网站图片下载
DevCodeMemo
爬虫学习笔记
1.导入必要的模块:-`urllib.request`:用于发送HTTP请求和获取响应。-`urllib.parse`:用于解析URL。-`lxml.etree`:用于解析HTML内容。2.创建一个`create_request`函数该函数接受一个参数`page`表示页面编号。根据`page`的值,构造相应的URL,并设置请求头信息。3.创建一个`get_content`函数该函数接受一个参数`r
- python hack-requests_Python爬虫学习笔记(二)——requests库的使用
weixin_39832628
pythonhack-requests
准备工作requests库不是python自带的库,可以用pip安装。在使用时导入requests即可。基本用法GET请求r=requests.get(url)print(r.text)其中,网页返回的内容是json格式的字符串类型,所以可以直接调用json()方法得到字典格式的内容print(r.json())此外,如果需要附加额外的信息,可以用params这个参数,示例如下:data={'na
- python爬虫学习笔记(一)——requests库
梦独吟
python爬虫pythonpython
一.HTTP基本原理1.URL和URIURL是URI的子集,URI还包括URN,在互联网中,我们一般的网页链接可以被称为URL或者URI,大多数人称为URL。2.超文本我们平常在网站浏览的网页就是超文本解析而成的,这些源代码是一系列的HTML代码,如img:显示图片,p:指定显示段落等。HTML可以被称为超文本。3.http和httpsHTTP,HypertextTransferProtocol,
- Python爬虫学习笔记(一)---Python入门
摩卡摩卡~
2024科研python爬虫学习
一、pycharm的安装及使用二、python的基础使用1、字符串连接2、单双引号转义3、换行4、三引号跨行字符串5、命名规则6、注释7、优先级not>and>or8、列表(list)9、字典(dictionary)10、元组(tuple)11、迭代12、format方法13、引入模块14、文件15、异常与测试一、pycharm的安装及使用pycharm的安装可以自行去搜索教程。pycharm的使
- 爬虫学习笔记(十八)—— 点触验证码:超级鹰、12306自动登录
别呀
Python系列#爬虫学习篇
一、打码平台点触验证码是一种常见的反爬手段。解决方案有两种:一种是直接解决,这需要深度学习机器学习等图像处理技术,以大量的数据训练识别模型,最终达到模型足矣识别图片中的文字提示和应该点击的区域之间的对应关系。这需要非常专业的设备,比如TPU运算,和专业的开发和维护人员。因此市面上有专业解决此类问题的OCR解决提供商。也就是第二种间接解决的方案,调用第三方接口。接下来将给大家介绍一款好用的第三方接口
- 第一个Python程序_获取网页 HTML 信息[Python爬虫学习笔记]
宇宙超粒终端控制中心
PythonPython爬虫pythonhtml爬虫
使用Python内置的urllib库获取网页的html信息。注意,urllib库属于Python的标准库模块,无须单独安装,它是Python爬虫的常用模块。获取网页HTML信息1)获取响应对象向百度(http://www.baidu.com/)发起请求,获取百度首页的HTML信息,代码如下:#导包,发起请求使用urllib库的request请求模块importurllib.request#urlo
- 爬虫爬取裁判文书网_爬取中国裁判文书网的初步尝试——爬虫学习笔记(3)...
我投三分
爬虫爬取裁判文书网
今天在CSDN上看了不少帖子,发现裁判文书网的爬取难度很高,据说是由国内顶尖的瑞数信息提供的防护措施,在请求参数中加入了三个加密参数,什么DES3加密直接把我看懵了。对于初学者,我们只好另找一种笨办法——selenium。如果说requests是将我们伪装成浏览器发送请求,那么selenium就是将浏览器当做我们的提线木偶。相比requests,selenium既有优点也有缺点。优点在于selen
- 爬虫学习笔记(一)
蛋黄果
importrequestsURL=’http://www.douban.com‘data=requests.get(URL)print(data.text)说明:importrequests.#调入需要的库requestsURL:将变量网址URL赋值为网址地址data=requests.get(URL)#利用requests库的get方法,向此URL发起请求,并将服务器返回的内容存入变量data
- Python爬虫学习笔记 (9) [初级] 小练习 爬取慕课网课程清单
Alice
Python爬虫python爬虫xlwings
更新日期:2021.03.28本节学习内容:练习使用bs4和xlwings-爬取慕课网免费课程清单并存为Excel文件。目录1.目标信息2.爬取步骤3.代码5.几个想法~~1.目标信息目标网站:https://www.imooc.com/目标信息:所有免费课程的名称,链接,方向,分类,讲师,难度,时长等。2020.03.28日慕课网免费课程清单有20个网页,每页有40个课程,点击课程的链接可进一步
- c#使用正则表达式获取TR中的多个TD_python爬虫学习笔记:XPath语法和使用示例
weixin_39845206
python获取class下所有td内容xpath第一个元素
python爬虫:XPath语法和使用示例XPath(XMLPathLanguage)是一门在XML文档中查找信息的语言,可以用来在XML文档中对元素和属性进行遍历。选取节点XPath使用路径表达式来选取XML文档中的节点或者节点集。这些路径表达式和我们在常规的电脑文件系统中看到的表达式非常相似。常用路径表达式:实例在下面的表格中,列出一些路径表达式以及表达式的结果:
- 爬虫学习笔记(1)-- 利用Python从网页抓取数据
baliang9989
爬虫python开发工具
最近想从一个网站上下载资源,懒得一个个的点击下载了,想写一个爬虫把程序全部下载下来,在这里做一个简单的记录Python的基础语法在这里就不多做叙述了,黑马程序员上有一个基础的视频教学,可以跟着学习一下本篇博客为基础章:利用Python从网页端抓取数据,闲话不多说,开始正题:首先需要学习这几个模块:1webbrowser:Python自带的模块,打开浏览器获取到指定的页面2requests:从英特网
- python爬虫笔记_Python 爬虫学习笔记之多线程爬虫
weixin_39854681
python爬虫笔记
likeoneliketwolikethreehateonehatetwohatethree百度一下好123
- 爬虫学习笔记(一)——爬取酷狗TOP500
roadkiller.
Python爬虫
参考学习网址:https://python123.io/python/muxiatong/5dd14d1b71efdc10be55ee22---------------------------------------------------------------------------------------------------------------------工具:用到requests库
- 爬虫学习笔记
大鱼不会飞丶
爬虫笔记爬虫笔记
爬虫学习笔记爬虫的概念模拟浏览器发起请求,获取响应数据爬虫的流程url--->响应内容--->抓取数据--->保存到数据库爬虫要根据当前URL地址对应的响应为准,当前URL地址的elements的内容和URL的响应不一样当前URL地址对应的响应中其他URL地址对应的响应中比如ajax请求中js生成的部分数据在响应中全部通过js生成URL组成部分形式scheme://host[:port#]/pat
- 【Python爬虫学习笔记_day04】
LKL1026
Python爬虫学习笔记python爬虫学习
1.爬虫入门网络爬虫:(又称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。爬虫步骤:1.准备有效的URL2.发送请求,获取响应对象3.从响应对象中提取数据4.检索自己想要的数据5.数据保存或者数据可视化requests模块:模拟人去浏览器中发送请求给web服
- 【笔记】2、初学python3网络爬虫——爬虫的基本原理
BenkoZhao
初学python爬虫python网络爬虫
python3网络爬虫——爬虫的基本原理这是我的第二篇python3网络爬虫学习笔记学习指引:视频教程《python3网络爬虫实战》为了避免学习后短时间内遗忘,让自己随时可以查阅前方自己学过的知识,特意注册csdn博客,方便自己学习时做笔记,也方便随时回顾。也希望自己的学习过程能给同样初学python爬虫的你带来一点指引!由于自己是新手,只有一点点的python基础,所以笔记中难免会有很多纰漏,还
- 商业爬虫学习笔记day1
weixin_30617737
day1一.HTTP1.介绍:https://www.cnblogs.com/vamei/archive/2013/05/11/3069788.htmlhttp://blog.csdn.net/guyuealian/article/details/525352942.当用户输入网址(如www.baidu.com),发送网络请求的过程是什么?上图应该还有往回的箭头(即服务器从数据库获取得到指定的请求
- Java实现的简单双向Map,支持重复Value
superlxw1234
java双向map
关键字:Java双向Map、DualHashBidiMap
有个需求,需要根据即时修改Map结构中的Value值,比如,将Map中所有value=V1的记录改成value=V2,key保持不变。
数据量比较大,遍历Map性能太差,这就需要根据Value先找到Key,然后去修改。
即:既要根据Key找Value,又要根据Value
- PL/SQL触发器基础及例子
百合不是茶
oracle数据库触发器PL/SQL编程
触发器的简介;
触发器的定义就是说某个条件成立的时候,触发器里面所定义的语句就会被自动的执行。因此触发器不需要人为的去调用,也不能调用。触发器和过程函数类似 过程函数必须要调用,
一个表中最多只能有12个触发器类型的,触发器和过程函数相似 触发器不需要调用直接执行,
触发时间:指明触发器何时执行,该值可取:
before:表示在数据库动作之前触发
- [时空与探索]穿越时空的一些问题
comsci
问题
我们还没有进行过任何数学形式上的证明,仅仅是一个猜想.....
这个猜想就是; 任何有质量的物体(哪怕只有一微克)都不可能穿越时空,该物体强行穿越时空的时候,物体的质量会与时空粒子产生反应,物体会变成暗物质,也就是说,任何物体穿越时空会变成暗物质..(暗物质就我的理
- easy ui datagrid上移下移一行
商人shang
js上移下移easyuidatagrid
/**
* 向上移动一行
*
* @param dg
* @param row
*/
function moveupRow(dg, row) {
var datagrid = $(dg);
var index = datagrid.datagrid("getRowIndex", row);
if (isFirstRow(dg, row)) {
- Java反射
oloz
反射
本人菜鸟,今天恰好有时间,写写博客,总结复习一下java反射方面的知识,欢迎大家探讨交流学习指教
首先看看java中的Class
package demo;
public class ClassTest {
/*先了解java中的Class*/
public static void main(String[] args) {
//任何一个类都
- springMVC 使用JSR-303 Validation验证
杨白白
springmvc
JSR-303是一个数据验证的规范,但是spring并没有对其进行实现,Hibernate Validator是实现了这一规范的,通过此这个实现来讲SpringMVC对JSR-303的支持。
JSR-303的校验是基于注解的,首先要把这些注解标记在需要验证的实体类的属性上或是其对应的get方法上。
登录需要验证类
public class Login {
@NotEmpty
- log4j
香水浓
log4j
log4j.rootCategory=DEBUG, STDOUT, DAILYFILE, HTML, DATABASE
#log4j.rootCategory=DEBUG, STDOUT, DAILYFILE, ROLLINGFILE, HTML
#console
log4j.appender.STDOUT=org.apache.log4j.ConsoleAppender
log4
- 使用ajax和history.pushState无刷新改变页面URL
agevs
jquery框架Ajaxhtml5chrome
表现
如果你使用chrome或者firefox等浏览器访问本博客、github.com、plus.google.com等网站时,细心的你会发现页面之间的点击是通过ajax异步请求的,同时页面的URL发生了了改变。并且能够很好的支持浏览器前进和后退。
是什么有这么强大的功能呢?
HTML5里引用了新的API,history.pushState和history.replaceState,就是通过
- centos中文乱码
AILIKES
centosOSssh
一、CentOS系统访问 g.cn ,发现中文乱码。
于是用以前的方式:yum -y install fonts-chinese
CentOS系统安装后,还是不能显示中文字体。我使用 gedit 编辑源码,其中文注释也为乱码。
后来,终于找到以下方法可以解决,需要两个中文支持的包:
fonts-chinese-3.02-12.
- 触发器
baalwolf
触发器
触发器(trigger):监视某种情况,并触发某种操作。
触发器创建语法四要素:1.监视地点(table) 2.监视事件(insert/update/delete) 3.触发时间(after/before) 4.触发事件(insert/update/delete)
语法:
create trigger triggerName
after/before 
- JS正则表达式的i m g
bijian1013
JavaScript正则表达式
g:表示全局(global)模式,即模式将被应用于所有字符串,而非在发现第一个匹配项时立即停止。 i:表示不区分大小写(case-insensitive)模式,即在确定匹配项时忽略模式与字符串的大小写。 m:表示
- HTML5模式和Hashbang模式
bijian1013
JavaScriptAngularJSHashbang模式HTML5模式
我们可以用$locationProvider来配置$location服务(可以采用注入的方式,就像AngularJS中其他所有东西一样)。这里provider的两个参数很有意思,介绍如下。
html5Mode
一个布尔值,标识$location服务是否运行在HTML5模式下。
ha
- [Maven学习笔记六]Maven生命周期
bit1129
maven
从mvn test的输出开始说起
当我们在user-core中执行mvn test时,执行的输出如下:
/software/devsoftware/jdk1.7.0_55/bin/java -Dmaven.home=/software/devsoftware/apache-maven-3.2.1 -Dclassworlds.conf=/software/devs
- 【Hadoop七】基于Yarn的Hadoop Map Reduce容错
bit1129
hadoop
运行于Yarn的Map Reduce作业,可能发生失败的点包括
Task Failure
Application Master Failure
Node Manager Failure
Resource Manager Failure
1. Task Failure
任务执行过程中产生的异常和JVM的意外终止会汇报给Application Master。僵死的任务也会被A
- 记一次数据推送的异常解决端口解决
ronin47
记一次数据推送的异常解决
需求:从db获取数据然后推送到B
程序开发完成,上jboss,刚开始报了很多错,逐一解决,可最后显示连接不到数据库。机房的同事说可以ping 通。
自已画了个图,逐一排除,把linux 防火墙 和 setenforce 设置最低。
service iptables stop
- 巧用视错觉-UI更有趣
brotherlamp
UIui视频ui教程ui自学ui资料
我们每个人在生活中都曾感受过视错觉(optical illusion)的魅力。
视错觉现象是双眼跟我们开的一个玩笑,而我们往往还心甘情愿地接受我们看到的假象。其实不止如此,视觉错现象的背后还有一个重要的科学原理——格式塔原理。
格式塔原理解释了人们如何以视觉方式感觉物体,以及图像的结构,视角,大小等要素是如何影响我们的视觉的。
在下面这篇文章中,我们首先会简单介绍一下格式塔原理中的基本概念,
- 线段树-poj1177-N个矩形求边长(离散化+扫描线)
bylijinnan
数据结构算法线段树
package com.ljn.base;
import java.util.Arrays;
import java.util.Comparator;
import java.util.Set;
import java.util.TreeSet;
/**
* POJ 1177 (线段树+离散化+扫描线),题目链接为http://poj.org/problem?id=1177
- HTTP协议详解
chicony
http协议
引言
- Scala设计模式
chenchao051
设计模式scala
Scala设计模式
我的话: 在国外网站上看到一篇文章,里面详细描述了很多设计模式,并且用Java及Scala两种语言描述,清晰的让我们看到各种常规的设计模式,在Scala中是如何在语言特性层面直接支持的。基于文章很nice,我利用今天的空闲时间将其翻译,希望大家能一起学习,讨论。翻译
- 安装mysql
daizj
mysql安装
安装mysql
(1)删除linux上已经安装的mysql相关库信息。rpm -e xxxxxxx --nodeps (强制删除)
执行命令rpm -qa |grep mysql 检查是否删除干净
(2)执行命令 rpm -i MySQL-server-5.5.31-2.el
- HTTP状态码大全
dcj3sjt126com
http状态码
完整的 HTTP 1.1规范说明书来自于RFC 2616,你可以在http://www.talentdigger.cn/home/link.php?url=d3d3LnJmYy1lZGl0b3Iub3JnLw%3D%3D在线查阅。HTTP 1.1的状态码被标记为新特性,因为许多浏览器只支持 HTTP 1.0。你应只把状态码发送给支持 HTTP 1.1的客户端,支持协议版本可以通过调用request
- asihttprequest上传图片
dcj3sjt126com
ASIHTTPRequest
NSURL *url =@"yourURL";
ASIFormDataRequest*currentRequest =[ASIFormDataRequest requestWithURL:url];
[currentRequest setPostFormat:ASIMultipartFormDataPostFormat];[currentRequest se
- C语言中,关键字static的作用
e200702084
C++cC#
在C语言中,关键字static有三个明显的作用:
1)在函数体,局部的static变量。生存期为程序的整个生命周期,(它存活多长时间);作用域却在函数体内(它在什么地方能被访问(空间))。
一个被声明为静态的变量在这一函数被调用过程中维持其值不变。因为它分配在静态存储区,函数调用结束后并不释放单元,但是在其它的作用域的无法访问。当再次调用这个函数时,这个局部的静态变量还存活,而且用在它的访
- win7/8使用curl
geeksun
win7
1. WIN7/8下要使用curl,需要下载curl-7.20.0-win64-ssl-sspi.zip和Win64OpenSSL_Light-1_0_2d.exe。 下载地址:
http://curl.haxx.se/download.html 请选择不带SSL的版本,否则还需要安装SSL的支持包 2. 可以给Windows增加c
- Creating a Shared Repository; Users Sharing The Repository
hongtoushizi
git
转载自:
http://www.gitguys.com/topics/creating-a-shared-repository-users-sharing-the-repository/ Commands discussed in this section:
git init –bare
git clone
git remote
git pull
git p
- Java实现字符串反转的8种或9种方法
Josh_Persistence
异或反转递归反转二分交换反转java字符串反转栈反转
注:对于第7种使用异或的方式来实现字符串的反转,如果不太看得明白的,可以参照另一篇博客:
http://josh-persistence.iteye.com/blog/2205768
/**
*
*/
package com.wsheng.aggregator.algorithm.string;
import java.util.Stack;
/**
- 代码实现任意容量倒水问题
home198979
PHP算法倒水
形象化设计模式实战 HELLO!架构 redis命令源码解析
倒水问题:有两个杯子,一个A升,一个B升,水有无限多,现要求利用这两杯子装C
- Druid datasource
zhb8015
druid
推荐大家使用数据库连接池 DruidDataSource. http://code.alibabatech.com/wiki/display/Druid/DruidDataSource DruidDataSource经过阿里巴巴数百个应用一年多生产环境运行验证,稳定可靠。 它最重要的特点是:监控、扩展和性能。 下载和Maven配置看这里: http
- 两种启动监听器ApplicationListener和ServletContextListener
spjich
javaspring框架
引言:有时候需要在项目初始化的时候进行一系列工作,比如初始化一个线程池,初始化配置文件,初始化缓存等等,这时候就需要用到启动监听器,下面分别介绍一下两种常用的项目启动监听器
ServletContextListener
特点: 依赖于sevlet容器,需要配置web.xml
使用方法:
public class StartListener implements
- JavaScript Rounding Methods of the Math object
何不笑
JavaScriptMath
The next group of methods has to do with rounding decimal values into integers. Three methods — Math.ceil(), Math.floor(), and Math.round() — handle rounding in differen