当 AI 可以无痕换脸,一次面部信息的泄露,将会带来无法想象的危机

近日,出现了一例用 AI 技术换脸实施的网络诈骗。

1 月 10 日,小李的大学同学小王通过 QQ 联系小李,并问其借钱,小李谨慎地要求对方进行视频通话,想确认是否是小王再选择借钱,视频接通后,对方的确是小王,虽然视频中小王并没有说话,但小李还是打消了顾虑把钱借给了她。后来联系小王时,发现小王 QQ 被盗,小王对此事完全不知情。

民警判断小李遇到了网络诈骗,诈骗团伙使用 AI 换脸,把小王的脸放到了一个有医院背景的人身上,以此骗取了小李的信任。

小李回忆,与小王视频过程中,小王的脸也是只有轻微晃动,没有太大表情变化,甚至没有说话,这些其实都是疑点,不过当时的她没有太过注意。

面部表情变化不大,脸部轻微晃动,也许在面部信息被窃取时,小王只是进行了眨眼、摇头一系列我们经常会遇到的实名认证操作,甚至没有意识到面部信息被窃取,脸就开始被用以犯罪了。

换脸技术真的这么神奇吗?

早在 2019 年便有一款成熟的换脸软件横空出世,名字非常简单,叫“ZAO”,源自“陌陌”,软件中用户不需要动态视频,只需要上传一张照片便能无痕替换掉各种韩剧、日剧、欧美剧中的男女主脸部,把其替换成自己,人脸合成效果足以以假乱真。

不过此时的以假乱真不够成熟,只能在视频中看不出替换痕迹,仿佛是此人演的电视剧,但是为了保证自然度,无论用户上传的照片长相如何,都是套入了明星的脸型当中,于是出现许多视频“美则美矣,不似本人”。

两年后的今天,根据小李遇到的诈骗案件我们可以发现,诈骗团伙并非是用小王的照片随意套入视频人物脸型,毕竟小李能确认这是同学的脸,大概率是使用小王的动态视频,截取脸部替换到了医院中另一个人身上,由此可见 AI 换脸技术在进一步成熟,以假乱真能力进一步提高,从“不似本人”进入到了“就是本人”的阶段。

人们多少次因使用APP提取面部信息而掉进坑里

当 AI 可以无痕换脸,一次面部信息的泄露,将会带来无法想象的危机_第1张图片

当初“ZAO”这款 APP 出现时,一大批网友为了能套入剧中男女主面部,体验一把与男神、女神“合作演戏”的快乐,纷纷下载 APP,毫无戒心地交出了自己的照片,一度出现了“造视频”的拥堵情况。

但随着 APP 使用范围扩大,许多人注意到了其用户协议内容:

如果您把用户内容中的脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”极其关联公司全球范围内完全免费、不可撤销、永久、可转授和可再许可的权利。

仔细一看,这个协议完全就是把用户的脸当作免费资源,日后无论是用以任何用途,用户都不得拒绝,且不说视频平台可能会用以 AI 生成侵害用户名誉的视频,一旦公司出售用户面部信息,这些信息后续流入何处便与公司无关,而用户无法找到侵害肖像权的源泉。

除了使用 APP 外,也有明星莫名被 AI 换脸,套入某个视频中,说出本身没有说过的话,视频流传出来仿佛成为了“远古珍贵视频”“明星人设崩塌证据”,即使明星进行了举报与辟谣,但难以保证多年后这类视频又成为“黑料实锤”。

在中国人“眼见为实”的传统下,脸部信息的重要性更是不言而喻,无论我们是明星还是小透明,在这个 AI 越来越智能化的时代,都应该拥有对面部信息的保护意识。

技术进步的同时,法律也在进步,但在法律之外,我们需要保护好自己

2021 年 1 月 1 日,民法典正式实行后,针对肖像权保护的专门规范: 公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。

《最高人民法院关于贯彻执行〈中华人民共和国民法通则〉若干问题的意见(试行)》(以下简称《民通意见》)第139条载明: 以营利为目的,未经公民同意利用其肖像做广告、商标、装饰橱窗等,应当认定为侵犯公民肖像权的行为。

上述规范同时强调了肖像权侵权认定的两个要素——未经权利人同意以及以营利为目的,导致诉讼中被告常以行为的非营利性质主张不构成侵权。

日常生活中,我们也需要注意保护个人信息,虽然法律的出台让不法商家少了许多空子可钻,但遇到诈骗此类已造成经济损失的行为,即使是把犯罪分子抓获,我们的损失也无法再回来。

除了面部信息外,我们的定位信息、身份证信息、银行卡信息都需要注意保护,现在越来越多的 APP 会获取用户信息加以利用,于是出现普通美颜软件需要定位授权,视频软件需要摄像头可打开的授权,游戏软件需要读取手机照片等信息,还有面对软件要求实名认证时,需要判断实名认证的必要性以及注意其用户协议中是否注明将保护用户面部信息。

即使我们只是普通用户,甚至有网友调侃“我都没有经济,谈何经济损失”,但技术能用以犯罪的用途我们是无法想象的,只有出现案件时才能后知后觉,日常生活中注意个人隐私、保护个人信息,这种做法与熟知法律一样重要。

segmentfault 公众号

你可能感兴趣的:(人工智能技术)