R网络爬虫-RCurl包

RCurl这个程序包提供了由R到libcurl库的接口,从而实现HTTP的一些功能。例如,从服务器下载文件、保持连接、上传文件、采用二进制格式读取、句柄重定向、密码认证等等。
超文本传输协议(HTTP)是一种通信协议,它允许将超文本标记语言(HTML)文档从Web服务器传送到客户端的浏览器。
URL详解:
基本格式:schema://host[:port#]/path/…/[?query-string][#anchor]
scheme指定低层使用的协议(例如:http, https, ftp)
hostHTTP服务器的IP地址或者域名
port#HTTP服务器的默认端口是80,这种情况下端口号可以省略。
path 访问资源的路径
query-string 发送给http服务器的数据
anchor-锚
getURL函数是一个基础get请求函数,其核心参数主要有URL、.opt、curl、.encoding。
URL就是请求的对应网址链接。
curl参数是一个句柄函数,它的参数指定对象是一个内嵌函数,通常是curl = getCurlHandle() ,getCurlHandle()函数内同样是配置信息,不过curl句柄函数内的所有配置信息是可以提供给全局使用的,多次携带,维持整个回话状态,相对于一组初始化参数,而.opt参数内的各项配置信息是当前get请求使用的,它会覆盖和修改curl句柄函数内的初始化信息(当没有提供.opt参数时,get请求仍然使用curl中的初始化参数。)
.opt是一个配置参数,它就收一组带有命名的list参数,这些通常包括httpheader、proxy、timeout、verbose、cookiefile(cookiejar)等配置信息。
.encoding是字符集编码,这个通常可以通过请求的相应头ContType获取。

install.packages(“RCurl”)
library(bitops)
library(RCurl)
#查看网址是否存在
url.exists(“http:

你可能感兴趣的:(R与数据分析)