点击上方“开发者技术前线”,选择“星标”
17:35 在看 真爱
编辑:可可,作者:可可
开发者技术前线原创
最近两天,也就是8月30日-31日,朋友圈突然被“仅需一张照片,出演天下好戏”口号的AI换脸App“ZAO”刷屏了。被火爆的刷屏下,驱使我下载看了,通过这款App,仅需上传一张照片,就能用你的脸制作网络热门表情包,出演经典电影片段,跟偶像、朋友飙戏。
8月30日正式上线,8月31日下午14时,“ZAO”在苹果应用商店App Store的免费下载排名中已跃居第二,其火爆程度那是Niubility。
不过,就在8月31日晚间,已有不少用户聚集在“ZAO”的官方微博,要求注销账号,删除本地面孔。截至9月1日0时,“ZAO”在苹果App store的评分由此前的4.6分降至2.2分。
火速蹿红又遭遇极大争议的背后,是网民对于个人隐私安全的担忧。
“‘ZAO’从用户处获得的信息主要是肖像图片,从技术角度而言,它并不比其他上传照片的App有更多风险,但‘ZAO’向用户索取了更多的肖像使用授权,这意味着用户会暴露更多的风险。”
当然这类技术出现已很久了,我这里给大家再梳理几个相似的项目。
1 .Deepfake 换脸技术
说起这类技术,大家能想起在2017 年,伪造逼真图像的 Deepfake 技术利用其将女性图片嫁接至色情图像内容引起很非议,用它恶意伪造的图像开始大规模在互联网上流传,也给人们辨别图像真假带来了困扰。
事实上,Deepfake 这是以色列一家科技公司利用人工智能(AI)换脸技术合成而来,这一技术也被称为“深度伪造”(deepfake)。
更遭受争议的deepfake例子例如最近走红网络的一键生成裸照软件DeepNude,只要输入一张完整的女性图片就可自动生成相应的裸照,由于广泛传播而造成了预料之外的后果,开发者最终将APP下架。
这几个例子背后都用到了深度伪造技术,即一种利用AI程序和深度学习算法实现视、音频模拟和伪造的技术,投入深度学习的内容库越大,合成的视音频真实性越高,甚至可以达到以假乱真的程度。
深度伪造技术不仅能实现换脸(face swap),更可以通过深度学习模拟真人声音、创造出现实不存在的人物肖像。利用该技术,可以以视频这一较为可信的方式让某人说不曾说过的话,做不曾做的事,达到混淆观众的目的。具备极高欺骗性的深度伪造也引发诸多争议,例如杨幂换脸,AI软件自动生成裸照,奥巴马、普京等政治人物的深度伪造视频等等,给个人和社会带来风险挑战。
如果说 Deepfake 对非技术人员有使用门槛的话,现在,一种比 Deepfake 更快、更易用,无门槛的“变体”应用出现了,它叫 DeepNude。
2. 比 Deepfake 更快、更易用 DeepNude
据 Motherboard 报道, DeepNude APP 使用神经网络技术能将女性图片中的衣物消除,让照片看上去就像是真实裸照,尤其裸露皮肤面积越大,处理效果越好。其背后的团队已经发布了 Windows 和 Linux 系统版本。
DeepNude 处理照片的范围目前仅限于女性照片,可以处理任何的东西照片。
不过很快,在媒体报道后,迫于舆论压力,使用 AI 创建女性假裸照的 DeepNude 就被其团队关闭,其官网已无法打开。DeepNude 团队在其推文中表示他们大大低估了对该项目的受欢迎程度以及人们滥用它的可能性。
DeepNude 将不再对外发售,之间老的版本也将不会发布。DeepNude还要求不要在线共享该软件,这将违反该应用的服务条款。但他们同时承认,“(该应用)肯定会有一些副本”发布出来。
很多人对 DeepNude 团队的言论表达进行了批评。网友觉得这计软件非常可怕,侵犯了人们的隐私,因为任何人都可能成为这项技术的受害者,那这项技术不应该向公众开放?
后续在舆论的压力下关闭其网站和APP。
ZAO安全隐私遭质疑
8月31日,“ZAO”刷屏,让业内人士再次关注这项技术的可控性。AI换脸有两个关键步骤,脸部提取和脸部转换。脸部提取从照片中勾勒出人脸的轮廓,并且标注出眼睛鼻子等关键部位,这样就明确了图片中需要被替换的对象。脸部转换比较常用的实现方法是名为"自编码器"的深度学习模型,通过学习替换双方人脸的照片,训练出一个"编码器"和两个"解码器"。
“编码器具备一种能力,是从人脸图片中抽象出表情动作特征,而解码器具备的能力,是把这些特征还原成目标人物的人脸图像。比如,利用甲脸部图像的编码器中抽出表情动作,再利用乙的解码器,把这些表情动作还原成脸部图像,就可以成功把甲的脸换成乙的脸。”。
指纹、虹膜、人脸等生物识别信息也许是比身份证号码、手机号更重要的个人隐私。2019年7月,人民银行科技司司长李伟在第四届全球金融科技峰会上表示,人脸是非常敏感的个人信息,一旦泄露会带来非常大的影响。
如此重要的人脸信息正在被“ZAO”收集,等用户上传发布内容后,意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。
这种协议立马引起了大家的担心,是不是也像DeepNud技术一样,那个瞬间脱衣的App, ,假如有人把你女友的照片做成裸照发给你,你根本无法判别,假如有一天你女友真的做了什么不好的事情,也可以把锅甩给DeepNud。
同样有人用AI变脸后的头像去刷脸支付怎么办?
支付宝回应,不会威胁刷脸支付
8月31日,蚂蚁金服方面也回应,“这不是互联网上的第一款换脸App,也一定不是最后一款,但不管怎么换,你都不用担心支付宝刷脸支付的安全性。”
在网友舆论压力下,8月31日晚,“ZAO”修改了此前的用户协议,“免费用用户肖像权”内容被删。在协议开始,增加“特别提示”称,用户上传的短视频及人脸等相关的内容将严格按相关法律法规的规定保留在“ZAO”上。“ZAO”表示,除非为了改善“ZAO”提供的服务或另行取得用户的再次同意,否则“ZAO”不会以任何其他形式或目的使用上述内容。
总结
无论如何,利用神经网络技术,深度学习计算机视觉技术,类似的深度伪造图像只会更快速易于制作,并且难以检测,但如何防止滥用人们的图像,目前鲜有良好的应对方法。借助互联网传播的便利,很容易对受害者造成名誉的影响,即使未来使用 ,我也希望此类该软件使用在正途上,不要作为不发份子的伤害读者的工具。
技术本无罪的,假如技术被利用后用来伤害他人的合法利益就是有罪的。
---END---
选择”开发者技术前线 “星标,内容一触即达。点击原文更多惊喜!
开发者技术前线 汇集技术前线快讯和关注行业趋势,大厂干货,是开发者经历和成长的优秀指南。
历史推荐
我用 Python 爬了点你们喜欢的电影,这些电影真的很不错
BAT 再无百度!互联网十强还会有百度吗?
2019,Vue 开发最佳指南,你都需要学点啥?
听说有人不敢点这里