Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”

Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”_第1张图片

大数据文摘作品

编译:蒋宝尚


近日,Reddit终于采取行动,关闭了Deepfakes论坛,并更新了全网规则,称将会严格审查涉及非自愿情色和未成年性暗示的网站。至此,抵制“换脸换脸情色视频”的做法已获得了包括twitter等社交平台,pornhub等色情网站等各大平台的认可。


Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”_第2张图片

Reddit官方禁令声明��


事情还要从一个机器学习的程序说起:Reddit论坛的网友deepfake用一种AI技术将“小电影”女主角的脸替换成明星盖尔·加朵(神奇女侠的主演)。很快,这种“换脸”的行为开始迅速在论坛上蔓延起来。

Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”_第3张图片

如果仅仅是自娱自乐还不至于此,这位技术咖为这个小程序添加了一些工具,发布了应用“FakeApp”,把“换脸“这件事变得非常自动化且可操作:


你只要先收集一个人的照片集或者视频,然后选择一个小电影进行操作,接下来,耐心等待40分钟,电脑将完成剩下的全部工作。


使用这个小程序,并不需要技术背景和编程经验,每个人都能轻松给爱情动作片的主角换一张其他人的脸。


在Reddit上,deepfakes组建了一个同名社区,短短一个月,这个板块已经聚集了近两万名订阅者。而被“抓来”被迫色情的女星也越来越多,从艾玛·沃森到Sophie Turner……


遏止“非自愿换脸色情片”


不仅仅在reddit,这一“换脸色情片”迅速蔓延到了各大社交网站、论坛,并受到了很多关注。


GIF平台Gfycat首先开始移除相关内容,交流平台Discord 也出手封锁讨论制作“换脸色情影片”的服务器。Twitter 同时表示会阻止这类移花接木内容在平台传播。


昨天,Reddit Inc.也终于发出“抵制AI技术合成的爱情动作片”声明。这标志着抵制“假视频”的做法获得了各大平台的认可。


这些公司发布禁令的最主要原因是“非自愿情色”。


全球最大色情影片平台 Pornhub 表示:“本站不容忍任何非自愿的内容,非自愿内容直接违反我们的使用条款,该条款禁止复仇色情报复(revenge porn)、deepfakes,以及任何未经同意或允许上传的内容。”


这个事件的重点是:虽然视频是假的,但是Deepfakes仍然在未经允许的情况下侵犯了别人。


技术尽管无罪,但有责任感的大平台依然会为道德伦理让步。


关于机器学习换脸技术


其实,换脸的技术早就已经出现了,速七里面的保罗沃克因为车祸没有拍完的部分,就是把替身演员的脸部图像渲染替换掉才完成的拍摄。据说,仅仅是这部分的费用,就花掉了几千万美金。


在接受媒体采访时,deepfakes表示,“人人可参与的机器学习研究不是一件坏事。”


的确,不可否认这一自动化换脸技术的强大。如果有热爱学习的同学想要研究一下这个深度学习的技术,文摘菌搜集了一些资料,基本需要以下这些步骤:


1. 尽可能多的搜集要替换的AB两个人的头像。

2. 训练样本。

3. 找到需要替换的视频,用ffmpeg提取成一帧一帧的图片。

4. 用训练出来的样本对每一帧的图片进行替换。

5. 用ffmpeg合成视频。


知乎用户【李瑞】表示,整个过程中最难的是第二步:训练样本。


这个步骤对显卡的要求十分高,据说已经有了可以在云端训练模型的方法。但整体上代码十分的简单,在计算机视觉任务中,换脸也只是个很常见的任务,比如之前国内的某一部电视剧就是运用了这种高超的技术。最近这个话题又火了起来,也只是因为这个关注点很有噱头罢了。

你可能感兴趣的:(Reddit关闭Deepfakes论坛,遏制“非自愿换脸情色”)