bilibili视频下载信息获取

一、开发者工具

1. 开启方式

  1. 进浏览器后F12(这里以window为例,其他需要自行查询)
  2. 三个点的图标->更多工具->开发者工具(以Chrome版本 85.0.4183.121(正式版本)为例)

2. 使用方式

PS: 这里仅解释较为常用的选项

选项名称 作用
Elements 网页 HTML、JS 及其他相关前端页面代码的查询
Console 网页版的控制台(元素查找等功能)
Sources 根据页面请求的 URL 地址,进行页面请求的不同主机目录及其文件的层级关系进行归类处理
Network 获取网页源码的链接向服务器发出请求的响应信息(状态码,类型,大小,响应时长,请求头、响应头、各类请求信息的参数,比如:GET、POST …)
Application 信息获取主要用于查看网页服务器存储在本地的信息(Cookie、Storage、Session …)
图标 元素选取器(点击页面元素,并返回该元素代码所在Elements的位置)、设备工具调整(主要用于 PC、Phone 这两种常用的设备模式切换)

二、页面信息抓取

1. 信息返回类型

嵌套于网页标签中、数据文件形式返回。

2. 获取信息(网页)

网页的基本组成单位为元素标签,那么这个需要自行查找。【该网页右击另存为其源码及配套文件】使用时请打开相关页面及其开发者工具的network,并进行页面刷新操作。

3. 获取信息(数据文件)

由于这类数据以纯数据返回为主,那么请求及其参数设置的方式会更为严谨,相比于一般的页面请求。

4. 信息获取的疑问(网页)

  1. 主网页的内容与 Elements 的标签数量及其内容显示不一致?
    答:这个主要是因为不一致的内容是由主页后期的链接请求所产生的数据。此刻,需要您转移注意力到源头上。
  2. 为何视频标签(video)上的 src 获取失败?
    答:如上述,非源数据文件。主要过程可能在 js 代码中。这种情况则需要你灵活地使用开发者工具及其他工具。

5. 网络数据

并非所有的数据都以原有的形式返回。有些情况下,他们可能遭到企业的加密。以百度图片的原图片链接为例。以下链接为百度图片的基本数据文件json的请求https://www.jianshu.com/p/faa79717fc34。那么这时候则需要逐步寻找其解密文件,其过程及其繁琐,不过百度图片就不算过于繁琐,可以的话就自行尝试。

正题:Bilibili 视频信息的获取(以番剧为例)

PS:

不同的视频种类有不同的 API 请求接口。
这里就采用反推的方法进行。

1. 获取视频请求源

由图可知,这里的请求需要 ep_id、cid、bvid、eq、 otype、fnval 等 params。params 也就是拼接在 URL 后的参数,以 & 为参数分隔符,以 = 进行赋值操作。

Key 作用
eq 视频质量,参数 [112, 80, 64, 32, 16, 0]
eqid 各集 id,与 bvid、cid 相似,却只有番剧等官方的视频才拥有
otype 返回的数据类型
fnval 视频是否分流有关,甚至也与流畅有关 [112, 80, 1] 可理解为 [flv, m4s, mp4]

这里的 m4s 是视频与音频的分流文件,自然会有不同的信息返回。MP4 则只有 流畅360P 视频。

2. 网页获取各集的基础信息

由于网页的数据展示不适合肉眼观看,https://www.bejson.com/可以以人畜无害的形式展示在网页上。

附录

1. PART OF API

API_URL PARAMS FUNCTION FEATURE
https://api.bilibili.com/x/player/playurl cid、bvid、eq、fnval、otype 以UP主上传的视频为主 服务器目录:/video
https://api.bilibili.com/pgc/player/web/playurl cid、bvid、ep_id、eq、fnval、otype 以官方的视频为主 服务器目录:/bangumi/play/

2. 分流视频合并

请使用 ffmepg 工具,并设置 bin 目录作为系统变量目录。

ffmpeg -i video.m4s -i audio.m4s -codec copy success.mp4

3. 文件下载时的请求头

Part Mean
Range 表示请求文件的大小
Range: bytes A-B bytes 表示文件的单位字节,A 开始 到 B 结束。如果 B 不写的话,则默认到该文件的尾巴

4. 会员的东西,最好就留意下 Cookie

5. 源码

参考:https://www.jianshu.com/p/031e78ec4782

你可能感兴趣的:(爬虫,bilibili)