你快来我办公室一趟。”
“请问您是哪位?”
“什么?你连我的声音都听不出来了吗?”
“是……王总吗?”
接着,电话那头的“王总”,让你去找财务部的同事,然后以“应酬客户”、“维系上层关系”为由,要求你给一个陌生账号汇款……
在这个遍地欺诈的年代,相信你也接到过类似的诈骗电话吧?这个诈骗套路决定成败的关键就是:你要把他的声音误认为是自己公司老板的声音。
幸好,大部分人不会听错,也不会上当受骗。
但现在,借助AI语音合成技术,骗子可以让他的声音和你老板的声音一模一样,而且就在前不久,一家英国公司真的上当了,被骗走了22万欧元,折合成人民币173万的巨款。
案发过程
据《华尔街日报》报道,这个上当的公司是保险公司裕利安宜(Euler Hermes)的客户。
这个客户是总部位于英国的一家能源公司,该公司的母公司位于德国,英国的是其子公司。
一天,英国子公司CEO接了总公司“老板”电话,毕竟总公司是德国的,老板也是德国人,所以总公司老板日常说英文的时候会有一些德国腔。
英国子公司CEO一听,来电人的英语带点德国口音,跟母公司老板平时打电话时候一毛一样,就断定是老板本人。
当时,德国“老板”在跟“匈牙利供应商”谈生意,账要从英国的子公司走,也就是英国子公司把钱打给“匈牙利供应商”,德国的母公司后续再给英国子公司补上。
按照德国的总公司“老板”的要求,时间紧任务重,必须在一个小时之内给“匈牙利供应商”的账户打22万欧元,相当于人民币173万元。
钱打过去之后,在当天稍晚的时候,这位总公司“老板”又打电话来了。
这次“老板”说,刚才那22万欧元,德国的母公司已经给英国子公司转过去了,现在需要英国子公司立刻再转一笔钱汇过去。
这下英国子公司的CEO觉得不对劲了。一方面,“老板”转的钱应该没有这么快到账;另一方面,怎么总公司“老板”这次是从奥地利的定位打过来的电话呢?
虽然英国子公司没有第二次上当受骗,但之前打的22万欧元已经回不来了。
事后,调查人员发现,这22万欧元打到“匈牙利供应商”的匈牙利账户之后,被转到了墨西哥,之后转到了其他地方,所以警察也无从下手。
裕利安宜保险公司要给客户保密,没有透露这个客户是哪家公司,最后他们按照英国子公司的要求给予了理赔。
语音克隆技术相当成熟
这家受骗公司遭遇的核心问题,在于打来的电话实在太像母公司那个真正的老板了。
骗子本人是不太可能刚好是这个声音的,而能让老板的声音出现,并且说出特定的话,用到的是语音克隆或者语音合成技术。
语音克隆技术现在已经有了许多应用,比如此前,搜狗输入法就在终端推出了“变声”功能。你对着手机说一句语音,推送给好友之后就是林志玲、周星驰、高晓松等明星的声音。
语音合成技术更加成熟了,常用的百度地图、高德地图里,导航用的林志玲、郭德纲等明星的语音包,都是用明星本人说的话做语料库训练,通过语音合成技术生成的。
今年315打假晚会上的AI打骚扰电话,打来电话的声音也是经过处理以后,利用AI技术语音合成的。
声音造假,开视频验证呢?
以前的电信诈骗都是短信、微信文字,准上当者会被银行工作人员提醒:打个电话确认一下。
现在,恐怕不仅要打电话,还要视频一下,才能确保是本人了。
然而,现在的一些AI技术,不仅可以合成特定人的语音,甚至还能根据语音对口型、处理视频。
可以让人物的静态照片动起来,并且说出特定的话。
所以,AI技术继续往下发展,连视频都可以作假了!
比如,下图是我们都熟知的名画《蒙娜丽莎的微笑》
AI技术可以让照片中的人物,一边说话一边配上丰富的表情姿态。
给大家介绍一下视频换脸的原理,请看下图:
我们再来看一个国内AI骗钱的案例:
就在前不久,据人民网报道,有位赵女士收到父亲的微信,称自己买菜没带钱让她转200元过去。赵女士心有疑虑,问了一句:“爸,是你吗?”
在收到“父亲”的语言后,赵女士便将钱转了过去。可谁料到,这段父亲的语言,并不是来自真的父亲。
现在的技术已经完全可以做到通过算法来生成人的全套语音,甚至连不同语气都可以做到惟妙惟肖,以假乱真。
而要生成这样的语言,仅仅需要被生成者的几段话就可以实现了。
基于神经网络和机器学习的技术,就是这么“恐怖”。
类似的AI技术有不少都是开源的,如果被用在恶意用途上,混淆视听、诈骗,将会给社会安全带来极大的威胁。