爬虫学得好，监狱进得早

提起“爬虫”，总有一丝神秘色彩，大家都调侃“爬虫写得好，laofan吃得饱”。

虽然是“高危职业”，但在大数据横行的年代，爬虫与反爬虫的需求却在猛烈增加，他们的关系就像矛与盾，越来越多的公司造“矛”发起攻势，获取数据；又或者在造“盾”，封锁信息。

这种情况下，很多工程师可能会被公司要求，去了解点爬虫技术、反爬虫思路，可以更好地保护自己和业务。

而且爬虫、反爬虫双方的斗争招式愈发疯狂，环境也愈发恶劣，现如今深陷其中的工程师们不得不面对以下这些问题：

如何自保，有没有一套行之有效的生存法则？
反爬虫的手段都有哪些，使用它们的最佳时机又是什么？
面对爬虫各式各样的伪装，怎样才能精准识别？
如何才能在这个领域立足并向上发展？

但是说真的，现在爬虫、反爬虫的资料并不多，有的也过时了。甚至可以说，你现在网上能找到的爬虫方法，都有了反爬虫的策略。

那要如何才能提升反爬效率，开辟新的反爬虫斗争思路呢？我的经验，关键就两个点，「提升思维 → 实战案例融会贯通」，举个例子分析下：

挺清楚的吧，这个案例出自《反爬虫兵法演绎 20 讲》专栏，作者很有意思，举了不少业务场景中的真实故事，讲了爬虫与反爬虫工程师的“生存法则”（划重点，这很重要）；还提炼了10+ 反爬虫疑难点的排查思路，以及经典实用的“反爬虫兵法”，从思维层面上打开视野；最后配合“实战”，深入理解爬虫和反爬虫理论，高效反爬。

讲师是「DS Hunter」，是现一线大厂前端负责人（具体的保密，大家都懂）。但在反爬虫领域，绝对是一流的专家，看他专栏的深度就能感受到。

他的反爬风格独特，既善于长期蛰伏，在竞对不易察觉的角度和时间发起进攻；也能用技术和心理双层攻势， 直接击败或劝退对手，他曾在多个月内，使竞对无法抓取到己方的任何数据，甚至可能影响后续合并。

其实现在网上的反爬虫文章并不多，而且大部分做反爬的人都不愿意分享。毕竟欺骗技巧就像魔术一样，一旦戳破了，就毫无技术含量可言。但他把自己的心法毫不保留的分享出来，让大家都可以接触到、学习到，真的是多少钱都买不到的。

这课可谓是一股清流，另辟蹊径，不单讲反爬虫套路，重点培养思维，从「发爬虫历史 → 反爬虫基础理论 → 反爬虫技术概论」的构建了一个完整的反爬虫知识架构：

作为一门骨灰爬虫反爬虫爱好者，我可以负责任地说，这个内容设计非常系统和扎实。

此外，专栏里还分享了一个「反爬虫从业者层次划分图」，告诉你在爬虫领域，如何从小白用户到内驱达人，一步步成长为架构能手，乃至团队领袖。

第一层：重视如何区分具体每一个爬虫，最好有人手把手教。
第二层：能自己主动识别一个未知的爬虫，即使网上搜不到办法，也能自己创造办法识别。
第三层：更关注系统设计、扩展相关的知识。
第四层：更关注如何组建团队。
第五层：一切都不是问题了，这个时候，返璞归真，发现最关键的还是如何识别爬虫。于是专心搜索这方面的知识。

这个专栏虽然是从反爬虫视角切入的，但作者进行了双向分析，基本上你学习反爬虫的同时也能了解爬虫，最重要的是「不拘泥」案例，从「思路」入手。

就好比告诉你反爬具体是如何做的，如何如何碾压对手，我们有多么多么牛。但是最后回想起来，好像也没有记住什么。就像解数学题，你不能记住这道题，而是应该明确这个道题的解法，举一反三。

反爬无定式，直接实战对于想象力的限制是巨大的。战场瞬息万变，被几个实战的例子困住，实在是得不偿失。有句话说得好，“技术手段大同小异，但使用方法更为精髓”。

做反爬其实和战争差不多，有的时候要闪电出击，有的时候要龟缩示弱。而且一定要记住，不打无意义的战争。除了得到各种技术以外，我希望你通过这个课程，学会这件事，并应用于工作以及生活中，那就是：“我就是想站着，还把钱挣了。”

（转载自极客时间）