DeepFake疑遭审查

凌晨2:40,加班结束的小红拖着疲惫的身躯进了家门。

刚进客厅,她便看到男友小赵端坐在沙发一侧,眼神中充满了悲伤和无助。她径直走到小赵身边问道:“咋了,一脸生无可恋的样纸?”谁知小赵却跳将起来,甩手就是一记耳光:“走开,你个渣女!”“我咋了?”她并不知道小赵为何发怒,直到她看了一段成人网站视频之后:视频中,她妖娆的身姿一丝不挂......画面可谓不堪入目(请自行脑补)。

她算是彻底懵了,因为自己真的从没干过这种缺德事。

那这视频是咋回事?看来这位倒霉媳妇儿是被人“换脸”了!啥?不可能?瞎扯?不不不,最近 GitHub 中的 DeepFake 就因为这个原因疑似被“和谐”了。

DeepFake 被“和谐”了?

谁被和谐都能接受,你偏偏跟我说这次是 GitHub?不对不对,这也对不上号呀!为啥这么说?我们先来看看 GitHub 是个啥吧:

雷锋网得知,GitHub 是一个面向开源及私有软件项目的托管平台,因为只支持 git 作为唯一的版本库格式进行托管,故名 GitHub。而 DeepFake 则是 GitHub 的一个开源项目代码仓库,按照正常状态来说,即使在尚未登录的情况下该库也是对外开放的。然而,就是这样一个不黄、不赌也无毒的东东在一篇来自 Hacker News 的帖子里被曝出——当在隐身模式下以未登录的方式访问 DeepFake 的 GitHub 仓库时,页面的显示结果却如下图示:

DeepFake疑遭审查_第1张图片

没错,待审核。正如上面说的,DeepFake 是一个开源的项目代码仓库,如今却被提示处在审核状态,那不就是被“和谐”了吗?好端端的 DeepFake 为啥会遭到这般“待遇”呢?对此,该贴吧中开发者们展开了激烈的讨论,这块编辑会在文章的后面详细讲到。那么,能肯定的是这个 DeepFake 开源项目还真不一般,那它究竟是干啥的呢?实际上,这里面的程序代码的确能够让人们实现“换脸”的操作。

没错,就和文章开头讲到的小红不幸遭遇一毛一样。

雷锋网得知,通过采用 GANs(生成式对抗网络)深度学习,在制作 DeepFake 的过程中该算法会让两个神经网络彼此对抗。第一个神经网络被称为生成网络,它负责制作尽可能逼真的生成模型;第二个网络为鉴别器,它将原模型和复制模型与原始数据库中大量的“特征点”进行对比。基于每一次的“对抗”结果,生成网络会调整它制作时使用到的参数,直到鉴别器无法辨别它生成的作品和真迹,就算“成功”。这时候,最终合成的视频基本可以以假乱真了。

简单来说,这个过程就像是两个人都在扮演孙悟空的角色,一个是师傅(生成网络)一个是徒弟(鉴别器),徒弟的任务就是不断向师傅学习演技直至没人能区分出两个孙悟空是谁扮演的为止。

相同的技术原理很早前便被应用到了电影特效拍摄当中,但当时这是一项操作难度很高的工作。GitHub 引入的 DeepFake 技术将这一过程简化到只需要一张目标对象的照片通过配置计算机就可以使用开源算法做出真假难辨的“换脸”视频来。

因此,最先有网友这样猜测:

在 DeepFake 仓库中包含了大量用于开发者“换脸”的项目代码,这些代码一方面可以帮助开发者快速训练出符合使用场景的“演员”,另一方面其开源性质或也难免被一些不法分子用于歧途;此外,GitHub 中大多数素材都包含了敏感内容,这些综合因素可能是这次 GitHub 的 DeepFake 开源项目代码仓库被“和谐”的原因所在。

网友抽丝剥茧:“干爹”嫌疑最大!

GitHub 的“干爹”是互联网三巨头成员之一,是个有钱的主儿——2018 年 6 月 4 日,微软宣布通过 75 亿美元的股票交易收购代码托管平台 GitHub。尽管如此,和 GitHub 主打的开源平台理念不同,微软的相关业务呈现的理念却恰恰相反。

也正因如此,有网友对收购事件发出了这样的感慨:“GitHub 应该会变成下一个 SourceForge 或 CodePlex,我会再找另一个 code 托管的地方。

何况,视频“换脸”这件事的确会助力假新闻、假视频的滋生。值得一提的是,去年 DeepFake 就惊动了美国五角大楼。他们通过美国国防部高级研究计划局(DARPA)委托全美各地的专家,研发了自动检测“换脸”假视频的 AI 工具,准确度达到 99%。

正所谓同命不同根,在帖子中一昵称为 alexeldeib 的用户称:“看来这次行为是微软强制执行的结果,如果这仅仅是一个自上而下的独立决定,那真是令人失望。”值得注意的是,这位网友自称自己是微软的员工。

既然理念不同,那干嘛还要费劲收购 GitHub?2018 年,微软在 Build 大会上称会让旗下云业务 Azure 和 GitHub 开展更密切的合作,并希望 GitHub 能帮助其拓展云服务市场。另外,有网友猜测由于 GitHub 上坐拥数百万公司数以亿计的开发者,这将成为微软在云存储方面打败亚马逊云的一张王牌。

“换脸”时代真的来了

截至目前,无论是微软还是 GitHub 都没有做出明确回应解释这件事情的来龙去脉。但有分析人员称这种影响不会持续太久,相信很快 DeepFake 将恢复正常。

事情到此告一段落,尽管最终结局并没有尘埃落定,但令编辑感叹的是或许 AI“换脸”的时代真的要来了。雷锋网得知,除了 DeepFake 打造的“换脸”神器之外,去年新华社联合搜狗推出了首个 AI 新闻主播。据称,该 AI 主播以新华社当家主播邱浩为原型打造,与冰冷的机器不同,其在发音、表情和动作等方面都像极了邱浩本人。

不难想象,在不远的未来,或许我们在电视上看到的所有影片、新闻的演员都只是通过 AI“换脸”合成的假象,我们根本分不清真假,更不知道会不会有一天自己的形象也被不法分子用于歧途。

你可能感兴趣的:(DeepFake疑遭审查)