【TED】我们在建立一个反乌托邦，仅仅是为了让人们点击广告——Zeynep Tufekci

http://open.163.com/movie/2018/2/V/0/MD7BSFTT3_MD7BTB5V0.html

这是一个关于最近火热的AI主题的演讲。

演讲者从广告开始入手。被各大互联网公司津津乐道的AI技术，目前已经广泛地应用于网络广告推广技术。如果你在超市购物结账时，收银台旁边一定会摆放各种糖果一般，这是通过精心设计的摆设方式，为了让孩子们在最后关头请求父母多买一盒巧克力。这种“persuasion architecture”，即说服架构，在网络世界里依旧成立，只不过，运用AI技术，这种说服架构不再一成不变，而是“私人订制”。大型互联网服务提供商根据收集到的用户数据，为你定制最可能点击和购买的广告服务。甚至出现了专门的data broker，从事贩卖网络用户行为数据的交易。这种行为在欧洲被严格禁止，但是在美国却是合法的。

然而让人感到害怕的并不是这种智能推送，事实上这在某些角度方便了用户。真正令人害怕的是，科技公司运用深度学习或者大数据技术，处理成千上万的数据，然后得出结论。这一过程是没有人监管的，或者说这一过程像一个黑箱一般，data in and data out。中间的过程并不是透明的。或许算法告诉你结果是A，但是我们却无法知道为什么是A。虽然AI技术并不能保证结果总是正确的，但是越来越多的事实证明它在变得强大。

不仅仅在互联网广告领域，AI技术的推送功能正在不断影响我们的生活。一旦你在网络上点击某一个页面，你的行为数据就会被记录，右侧推荐栏就会出现相关内容的推荐，当你继续点击，这些内容就会强化你对某事的看法，算法将继续为你推荐更多更极端的内容，以满足你的需求。在这个过程中，人的观念会被不断地强化，从而变得更加极端，因为你只看到了你愿意看到的东西。

而这一现象最恐怖的应用，或许就是恐怖主义、宗教极端分子或者人种歧视主义者。

另一方面，只要AI系统在为你推送的信息中稍微做些手脚，你就可能在无形中受到操纵。演讲者举了川普竞选总统的例子。其竞选团队通过facebook向非裔发送暗示不要参与投票的信息。

不管是在社交网络上，亦或者购物网站、视频网站上，每个人看到的内容都是不一样的。你无法判断自己是什么时候被影响了，或植入了某种思想。

最值得担心的是当AI技术被独裁主义者应用于公民时，全人类将处于被监视的状态。人类成了明码标价的商品，被各大财主竞拍。虽然各大科技巨头的研发者，都是处于善意以及对科技的追求而研发这些技术，但是任何技术在缺乏有效监管的情况都将成为危害。且惊人的潜力将带来惊人的风险。

---

【简评】在AI操纵人这件事情上，这个TED说得非常清楚和明白。这不是危言耸听，而是事实。只不过是被掩饰得很美好。有多少次你只是想查一个简单的信息，结果网页打开一个又一个，最后开始乐呵呵地看起了视频？有多少次，你只是想买一个预算之内的商品，结果最后因为广告推荐，买了承受能力之外的商品？这些看似是自己的自制能力不足，但其实是AI在作怪，而你在被操纵。

对于推荐广告，我的做法是：

1. 采用浏览器插件，不但屏蔽广告，还要屏蔽相关推荐内容；
2. 尽量选择无痕浏览模式，一般浏览器都支持。这样下次使用时，网络服务商就不能识别你。