Reddit关闭Deepfakes论坛，遏制“非自愿换脸情色”

大数据文摘作品

编译：蒋宝尚

近日，Reddit终于采取行动，关闭了Deepfakes论坛，并更新了全网规则，称将会严格审查涉及非自愿情色和未成年性暗示的网站。至此，抵制“换脸换脸情色视频”的做法已获得了包括twitter等社交平台，pornhub等色情网站等各大平台的认可。

Reddit官方禁令声明��

事情还要从一个机器学习的程序说起：Reddit论坛的网友deepfake用一种AI技术将“小电影”女主角的脸替换成明星盖尔·加朵(神奇女侠的主演)。很快，这种“换脸”的行为开始迅速在论坛上蔓延起来。

如果仅仅是自娱自乐还不至于此，这位技术咖为这个小程序添加了一些工具，发布了应用“FakeApp”，把“换脸“这件事变得非常自动化且可操作：

你只要先收集一个人的照片集或者视频，然后选择一个小电影进行操作，接下来，耐心等待40分钟，电脑将完成剩下的全部工作。

使用这个小程序，并不需要技术背景和编程经验，每个人都能轻松给爱情动作片的主角换一张其他人的脸。

在Reddit上，deepfakes组建了一个同名社区，短短一个月，这个板块已经聚集了近两万名订阅者。而被“抓来”被迫色情的女星也越来越多，从艾玛·沃森到Sophie Turner……

遏止“非自愿换脸色情片”

不仅仅在reddit，这一“换脸色情片”迅速蔓延到了各大社交网站、论坛，并受到了很多关注。

GIF平台Gfycat首先开始移除相关内容，交流平台Discord 也出手封锁讨论制作“换脸色情影片”的服务器。Twitter 同时表示会阻止这类移花接木内容在平台传播。

昨天，Reddit Inc.也终于发出“抵制AI技术合成的爱情动作片”声明。这标志着抵制“假视频”的做法获得了各大平台的认可。

这些公司发布禁令的最主要原因是“非自愿情色”。

全球最大色情影片平台 Pornhub 表示：“本站不容忍任何非自愿的内容，非自愿内容直接违反我们的使用条款，该条款禁止复仇色情报复（revenge porn）、deepfakes，以及任何未经同意或允许上传的内容。”

这个事件的重点是：虽然视频是假的，但是Deepfakes仍然在未经允许的情况下侵犯了别人。

技术尽管无罪，但有责任感的大平台依然会为道德伦理让步。

关于机器学习换脸技术

其实，换脸的技术早就已经出现了，速七里面的保罗沃克因为车祸没有拍完的部分，就是把替身演员的脸部图像渲染替换掉才完成的拍摄。据说，仅仅是这部分的费用，就花掉了几千万美金。

在接受媒体采访时，deepfakes表示，“人人可参与的机器学习研究不是一件坏事。”

的确，不可否认这一自动化换脸技术的强大。如果有热爱学习的同学想要研究一下这个深度学习的技术，文摘菌搜集了一些资料，基本需要以下这些步骤：

1. 尽可能多的搜集要替换的AB两个人的头像。

2. 训练样本。

3. 找到需要替换的视频，用ffmpeg提取成一帧一帧的图片。

4. 用训练出来的样本对每一帧的图片进行替换。

5. 用ffmpeg合成视频。

知乎用户【李瑞】表示，整个过程中最难的是第二步：训练样本。

这个步骤对显卡的要求十分高，据说已经有了可以在云端训练模型的方法。但整体上代码十分的简单，在计算机视觉任务中，换脸也只是个很常见的任务，比如之前国内的某一部电视剧就是运用了这种高超的技术。最近这个话题又火了起来，也只是因为这个关注点很有噱头罢了。