马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸

5月10日,在国外推特平台上,有网友发布了一条推文并@特斯拉CEO马斯克,并Po上了马斯克和“中国版”马斯克对比照。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第1张图片

很快,马斯克本人回复了该网友并表示,“我很想见见这个人(如果他是真的),现在有了Deepfake技术很难分辨真假。”。随后,“中国马斯克”在个人微博上回应称,“我就在这里,我也很想见你,你是我的英雄”。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第2张图片

网友质疑:模仿秀还是AI换脸?

其实去年12月,“中国马斯克”就因其发布的视频中的外貌及神态酷似马斯克而突然海内外爆火,成为知名网红,甚至在海外Tik Tok、Ins上都有着不低的人气。当时马斯克还曾因此在推特上调侃自己可能有“中国血统”。

也正是由于相似度太高,不少网友质疑他使用了Deepfake(深度伪造技术)进行AI换脸,并对他进行深挖。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第3张图片

(“中国版”马斯克)

当下,人工智能发展浪潮火热,它既给社会进步机遇,同时也带来了诸多风险,作为其中一个分支,Deepfake(深度伪造)技术近年迅速兴起,它是指以某种方式使合理的观察者错误地将其视为个人真实言语或行为的真实记录的方式创建或更改的视听记录, 其中 “视听记录” 即指图像、视频和语音等数字内容。

如今互联网上以此充斥着大量包含伪造人脸的虚假内容,为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具,给政治安全、经济安全、社会安全、国民安全等国家安全领域带来了诸多风险。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第4张图片

(3月, AI换脸假冒乌克兰总统泽连斯基的视频在网络传播甚广,本人下场辟谣)

AI换脸对人脸识别的风险挑战

而AI换脸技术与我们人民群众离得最近的,当属人脸识别风险。

刷脸进出社区住宅、刷脸考勤、刷脸购物、身份验证、手机解锁等,人脸识别设备已广泛应用于金融、医疗、安检、支付、文娱等各种公共服务场景。这为数字经济社会发展和人们日常生活带来了新机遇。而在便捷的同时,层出不穷的风险隐患也时刻敲响警钟。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第5张图片

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第6张图片

“AI换脸”、“偷脸”、“丢脸”现象层出不穷,除了人脸识别技术本就存在的不足和缺陷,商家对于人脸识别的不负责之外,还有技术的滥用:针对人脸识别系统或算法、针对承载人脸识别系统的设备、针对存储人脸识别存储数据的数据库和接口等威胁攻击。

风险隐患是一个点,安全防护需要一个面。因此,在人脸识别民生服务上,需要多维度加强防护,提升整体安全防护。

  1. 第一,提升人脸识别系统的精准度。基于空间域的检测、图像取证的检测、生物频率、GAN的伪影检测、基于生物信号的检测,视声不一致以及视觉上不自然等措施,通过模型和算法提高真伪判别。
  2. 第二,保障人脸识别系统的安全性。防范API接口被篡改劫持,保证输出效果、生成网络效果的真实;保障发现设备和系统端口、  通讯的异常;及时预警,防止灌入虚假人像、混淆真假人像、库内人像信息被篡改;保障人脸数据存储以及传输的完整性、机密性等。
  3. 第三,提升人脸识别识别的风控能力。人脸识别是一种技术核验,但不能作为唯一的手段。需要采用身份证、手机号码、银行卡、操作行为、设备、环境等综合手段进行核验,甚至需要人工电话核实。通过立体的风控体系,增强人脸识别从源头到应用的全链条预警、拦截、防护能力,提升人脸识别应用的安全性。

护脸利器防范人脸识别风险

为规范人脸识别应用的健康有序发展,国家等相关机构也在逐步牵头制订应用标准,其中尤以中国信息通信研究院云计算与大数据研究所倡议发起成立的“可信人脸应用守护计划”为标杆,计划旨在通过标准制定、测试评估、行业自律等手段,增进行业和社会共识,促进产业健康发展,为人脸识别技术和应用“正名”,促进产业健康发展。成员单位不乏顶象等国内多家知名安全公司,通力合作、积极探索人脸应用治理与发展的可信指引,助力人脸识别应用安全发展,共建可信的人脸应用生态。

为应对技术滥用造成的人脸安全威胁攻击需求,顶象推出了新一代护脸利器——业务安全感知防御平台,基于威胁探针、流计算、机器学习等先进技术,集设备风险分析、运行攻击识别、异常行为检测、预警、防护处置为一体,能够实时发现摄像头遭劫持、设备伪造等欺诈行为,有效防范人脸识别应用的各类风险。

马斯克隔空对话中国“兄弟”:我想见见他 网友质疑:警惕AI换脸_第7张图片

通过业务安全感知防御平台,帮助企业真正实现快速构建全链路、多维度自主可控的业务安全体系,为人脸防护保驾护航:

  1. 威胁可视化:针对环境风险、运行攻击,可以将识别的风险标签展示在控制台,并支持按时间查询风险趋势、风险对应的设备型号分布、系统版本分布等维度数据。
  2. 威胁可追溯:黑灰产的每一步攻击数据,命中的防御策略及处置,都可以在基于需求定制和回放,让所有行为有迹可查。
  3. 设备关联分析:基于历史数据、关联分析生成的设备画像,全面呈现出当前设备的所有历史请求,包含出现过的风险标签、常用地址、关联IP等情况。
  4. 多账户管理:满足多业务数据隔离需求,支持一级、二级等多级机构配置或下发不同策略。

结语

人脸识别好比智能技术应用的一面镜子,在人类与技术深化融合的当下,我们必须不断探索人与技术的相处之道。黑灰产日益猖獗的当下,人脸安全防御治理势在必行,我们期望技术最终能回归服务于人的理念,为广大群体创造更大的价值,让数字世界无风险!

你可能感兴趣的:(人工智能,网络安全,安全)