AI换脸的”色情产业链“并不可怕，可怕的是世界再无真相

随着AI技术的发展，AI换脸破壳而生，这门听起来高大上的前沿技术，本应在很多领域造福于社会，但是，在社会的某个黑暗角落，一条AI换脸“黑色产业链”正在悄然形成，它对社会造成的危害不可低估。

Deepfake

AI换脸，又叫Deepfake，是人工智能的一个分支，在Deepfake的世界中，身份就是没有身份，比如下面的几张图片。

美猴王可以打起篮球

能把徐锦江变成海王

复活张国荣

其实AI换脸技术，已经在各个领域沿用许久了。

换脸技术运用最广泛的领域就是电影，比方说1994年的《阿甘正传》就用了“原始”的换脸技术，用数字方式，将肯尼迪的影像填充到了电影中，并调节他的表情和肢体语言。

而在《速度与激情7》中，虽然沃克不幸在电影拍摄完成前去世了，但依靠换脸技术，通过电脑合成的沃克，还是能生动地出现在荧幕上，与大伙见面。

但是，随着AI技术的高速发展，AI技术也逐渐普及并出现在大众面前，只不过，它出现的形式有些病态和异化，AI换脸第一次广泛出现在观众视线的，并非令人逗乐的鬼畜创作，而是在Pornhub上流行的“deepfake”系列视频，就是把自己喜欢的女明星的脸，放上色情片女主角脸上。

而这些明星换脸视频的制作源头，往往指向一个地方——Reddit的deepfake论坛。

这个deepfakes论坛的发展过程，有点像倒过来的马斯洛需求金字塔。

在初期，少数了解deepfake技术的精英们，为了传播deepfake技术，创办了这个论坛，不仅满足了自己的成就感，也赢得了网友们的尊重。

不过，久而久之，网友们在讨论学习的过程中，也发现deepfake技术的黑暗面——可以满足自己的私欲、性幻想，网友们将自己“梦中情人”的面庞，放到了各色视频中。

然而，这种发展却逐渐异化、病态化了，有的网友直接收集女生照片，用deepfake技术定制色情片了。

“色情产业链”

在国内市场中，“AI换脸”已经不仅仅是一门技术，一条依附于“AI换脸”的“黑色产业链”已经形成。

AI换脸杨幂

AI换脸佟丽娅

AI换脸唐嫣

根据上面几张图片，AI换脸的效果不言而喻，以假乱真根本是轻而易举，所以，这种技术，便很快被应用于“色情”产业，并且已颇具规模。

女星频被“换脸”，35部视频打包69元

据相关报道，在“换脸”、“Deepfake”以及“FakeApp”贴吧等都存在售卖AI换脸淫秽视频的帖子，并明码标价某知名女明星目录文件中包含35部视频，打包价69元，单卖约5-10元一部。时长10分钟以上的视频为每部20－28元。

卖家称398元包教会，学生打七折

很多卖家不仅售卖明星换脸视频和定制换脸服务，还提供教学服务。

“买教学送全套视频，600多部。”据卖家表示，他提供AI换脸视频的制作教学服务，售价398元，包教会并附赠淫秽视频600多部。“我们用的云电脑，做出来效果是Deepfake的几十倍。”

卖家提供的教学内容显示，用户根据指引，完成“链接到云硬盘、提取脸部数据、训练模型、换脸输出视频”四个步骤就能实现AI换脸视频的制作。

而且，从卖家朋友圈看到，“AI智能暑假期间所有学生凭学生证一律7折，一学就会，不费劲。”而卖家提供的截图显示已有学生提供学生证信息，并购买了该教学服务。

没有真相的世界

如果看待deepfake还停留在恶搞蔡徐坤、对着明星撸管儿、拍点低成本A片的阶段，还不足以概括其中的恶意。

除了色情领域的滥用，Deepfake更大的危害，目前在一片欢声笑语和淫秽视频中还没有显现，就是deepfake这个成本极低的技术，可以篡改视频证据。视频、照片已经不能算作真实的依据。

一些社交媒体疯狂的世界，人们无法识别什么是假新闻。早在2016年，欧洲刑警组织《网络有组织犯罪威胁评估报告》中，就已经点明了deepfake犯罪将成为趋势。

而且，现如今，在人工智能的圈子里，出现了Deepfake2.0概念，就是不止要AI换脸，还要能模仿一个人的行为举止、声音、习惯、动作。要真的实现了，AI换脸视频和真人视频，就根本无法分辨了。

斯坦福研究中心的一个研究项目，研究怎么模仿一个人的口吻和语音

举个例子：AI换脸一个马云、马化腾唱衰经济的视频，结果就很有可能造成一段时间的市场恐慌抛售，那么伪造视频的人可以借此大肆做空获利。你的财产就这么缩水了。

你可能会质疑，市场有这么蠢么？抱歉，这就是事实。2013年4月23日，美联社的推特账号被黑客攻击，发布了一条假新闻，说：“号外：白宫发生两次爆炸，奥巴马受伤”。

这么容易求证的假新闻，却导致道琼斯指数当即暴跌了140多点，在假新闻的冲击下，瞬间蒸发掉了1365亿美元。直到新闻被证伪，市场才渐渐回归理性。

而且，这则流言仅仅是假推特罢了，在deepfake2.0的加持之下，有可能川普今天在白宫宣布核震慑中东，明天普京就在克里姆林宫下令进军乌克兰了。

要是假新闻真的在网上流传了，社会会产生多么剧烈的反应？又需要多少时间重回正轨?

正如美国共和党大佬卢比奥说的，deepfake就是核武器，并且，世界再无真相。

总结

技术不分好坏，但使用者却存在好坏，一旦AI换脸被普及并低门槛化，那这个世界将变得更加复杂和混乱，我们再也不知道应该相信谁，再也分不清这个世界究竟是什么模样，我无法想象这项技术被滥用之后的后果，它究竟是造福人类还是一个诅咒呢？我们无法预知，只希望相关的法律和政府能作出有效的限制和制约，让这个世界多一些真实。