当你写爬虫时遇上Flash+加密的解决方式
今天在摸鱼逛V2EX的时候,有个帖子引起了我的注意
帖子内容:
视频链接加密之后是这样的:
lxxt6jIID2Byq541xEB6F3u71bYaE5A/A-1dMFS4o9mx8uzpm81KxH25u1E29:Cl7Wg|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_:hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_/hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_\hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_.hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7__hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_AhQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7bhQW5e|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7ChQW5e|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7dhQW5e
网站链接在这:
http://www.tvsky.tv/Industry/Show/278/33875/
请问是什么加密, 求助。
作为一个助人为乐的好青年,当然要顺手帮楼主看一下啦
打开这个网站看看,这是一个用Flash播放器加载并播放视频的页面,传入播放器的参数如帖中所述是有加密的
使用Chrome的开发者工具查看播放器元素
传入播放器的参数:
flvurl=lxxt6jIID2Byq541xEB6F3u71bYaE5A/A-1dMFS4o9mx8uzpm81KxH25u1E29:Cl7Wg|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_:hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_/hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_\hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_.hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7__hQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_AhQ5Ue|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7bhQW5e|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7ChQW5e|lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7dhQW5e&isautoplay=1&adswf=
抓包发现有一个.flv文件的链接,应该就是播放器加载出来的视频
使用Chrome的开发者工具查看网络请求
全局搜索这个URL的部分内容是搜不到的,判断出这个URL应该是在播放器中对传入的flvurl参数进行解密,然后再加载出视频
image
那么,遇到这种情况的时候我们应该怎么做才能破解出这个解密URL的过程呢?
首先,我们需要将这个页面上的Flash播放器给逆向一下,就像在爬HTML5视频网站碰到加密参数时逆向JavaScript一样。
但是Flash播放器是一个被编译后的.swf文件,我们并不能像JavaScript那样直接看到代码,需要先进行反编译。
是时候祭出JPEXS了,在GitHub上可以找到,传送门:https://github.com/jindrapetrik/jpexs-decompiler/releases
下载完后启动它,界面长这样:
JPEXS启动界面
默认的语言是英语,可以切换成中文,在Settings – Change language里选择
JPEXS切换成中文
然后我们将这个播放器的.swf文件给下载下来,并使用JPEXS打开
播放器文件地址在源页面的HTML中可以看到是:
http://www.tvsky.tv/FlvPlay/Playerx.swf
用JPEXS打开播放器文件
然后我们有两种方式快速定位到可能存在解密代码的位置
第一种方式:
打开后找到脚本组下frame1的DoAction脚本
image
点击后窗口右侧会反编译这个脚本的内容,并展示出反编译出来的AS源代码和P代码(类似于汇编语言),我们只需要看AS源代码的部分就行了
播放器加载状态
根据在网页中播放器的样子,在加载时会有一个“正在加载Flv文件”的字样,直接按Ctrl+F搜索它
搜索反编译出来的代码中的字符串
找到init函数
第二种:
随便找一个脚本打开,然后按Ctrl+Shift+F打开全局搜索,同样搜索“正在加载Flv文件”
image
全局搜索
快速定位出加载视频部分后,根据init函数这里的代码可以看出,loc2就是被传进播放器的flvurl
image
那么下面的这部分就是它的解密操作了
# init部分:_flvurl = _loc2_.split("|");var_loc1_ =0;while(_loc1_ < _flvurl.length){ _flvurl[_loc1_] = Pass2Str(_flvurl[_loc1_]); _loc1_ = _loc1_ +1;}varPwdStr ="AbCdEfGhIjKlMnOpQrStUvWxYzaBcDeFgHiJkLmNoPqRsTuVwXyZ1234509876-_.\\/:";varPwdStrRan ="12345678987654321";var_PwdLen =4;var_PwdAddLen =4;functionPass2Str(Str){var_loc2_ ="";var_loc3_ ="";var_loc4_ =0;var_loc1_ =1;while(_loc1_ <= Str.length) { _loc2_ = Str.substr(_loc1_,1);if(_loc1_ % (_PwdLen +1) !=0) { _loc3_ = _loc3_ + NumS(_loc2_,_loc4_); }else{ _loc4_ = parseInt(_loc2_); } _loc1_ = _loc1_ +1; }return_loc3_;}functionNumS(s, _PwdAddLen1){var_loc1_ = PwdStr.indexOf(s); _loc1_ = _loc1_ - (_PwdAddLen + _PwdAddLen1 -1);if(_loc1_ <=0) {returnPwdStr.substr(_loc1_ + PwdStr.length,1); }returnPwdStr.substr(_loc1_,1);}
然后将反编译出来的ActionScript代码的解密URL部分改写成Python代码:
# http://www.tvsky.tv/Industry/Show/278/33875/ 的视频url解密部分# 为方便对照AS代码阅读,这里只对反编译出来的AS代码直接进行“翻译”,没有使用Python的一些更简洁的写法_pwd_len =4_pwd_add_len =4pwd_str ="AbCdEfGhIjKlMnOpQrStUvWxYzaBcDeFgHiJkLmNoPqRsTuVwXyZ1234509876-_.\\/:"defdecode(flv_url: str):"""
function init()
{
......
var _loc2_ = flvurl;
......
_flvurl = _loc2_.split("|");
var _loc1_ = 0;
while(_loc1_ < _flvurl.length)
{
_flvurl[_loc1_] = Pass2Str(_flvurl[_loc1_]);
_loc1_ = _loc1_ + 1;
}
......
}
:param flv_url: flash参数里的flvurl部分的value
:return: 解密后视频url列表
"""new_flv_url = flv_url.split("|") _loc1_ =0while_loc1_ < len(new_flv_url): new_flv_url[_loc1_] = pass2str(new_flv_url[_loc1_]) _loc1_ +=1returnnew_flv_urldefpass2str(str_: str):"""
function Pass2Str(Str)
{
var _loc2_ = "";
var _loc3_ = "";
var _loc4_ = 0;
var _loc1_ = 1;
while(_loc1_ <= Str.length)
{
_loc2_ = Str.substr(_loc1_,1);
if(_loc1_ % (_PwdLen + 1) != 0)
{
_loc3_ = _loc3_ + NumS(_loc2_,_loc4_);
}
else
{
_loc4_ = parseInt(_loc2_);
}
_loc1_ = _loc1_ + 1;
}
return _loc3_;
}
:param str_: 加密的url字符串
:return: 解密后的url字符串
"""_loc1_ =1_loc3_ =""_loc4_ =0while_loc1_ <= len(str_): _loc2_ = str_[_loc1_ -1]if_loc1_ % (_pwd_len +1) !=0: _loc3_ = _loc3_ + num_s(_loc2_, _loc4_)else: _loc4_ = int(_loc2_)if_loc2_.isdigit()else0_loc1_ = _loc1_ +1return_loc3_defnum_s(s, _pwd_add_len1):"""
function NumS(s, _PwdAddLen1)
{
var _loc1_ = PwdStr.indexOf(s);
_loc1_ = _loc1_ - (_PwdAddLen + _PwdAddLen1 - 1);
if(_loc1_ <= 0)
{
return PwdStr.substr(_loc1_ + PwdStr.length,1);
}
return PwdStr.substr(_loc1_,1);
}
"""_loc1_ = pwd_str.index(s) _loc1_ = _loc1_ - (_pwd_add_len + _pwd_add_len1 -1)if_loc1_ <=0:returnpwd_str[_loc1_ + len(pwd_str) -1]returnpwd_str[_loc1_ -1]if__name__ =='__main__': url_list = decode("lxxt6jIID2Byq541xEB6F3u71bYaE5A/A-1dMFS4o9mx8uzpm81KxH25u1E29:Cl7Wg|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_:hQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_/hQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_\hQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_.hQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7__hQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7_AhQ5Ue|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7bhQW5e|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7ChQW5e|""lxxt4hGGB6F3u763zGD9i0X_4EBDh7CAC.6Irkx6q7oz7TYOL2uErB25u1E7dhQW5e") print(url_list)
执行一下看看效果
image
BOOM!
代码和播放器原文件传送门