你人生中最恐怖的经历,也许都比不上在家里放上一台人工智能音箱来的吓人。
最近,外国网友就被AI语音助手给吓坏了...
“我家的语音助手竟然教唆我去自杀!”
大家对各种各样的AI语音助手音箱应该已经不陌生了,通过你的语音指令它们可以帮你开关电器,播放音乐,购买产品,搜索信息,甚至能陪你唠上两句。
亚马逊智能音箱上的人工智能Alexa也是如此,在当年因为新颖的技术和理念被很多外国消费者搬回了家。不过,在发售后的5年中,越来越多购买者发现:
他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事...
来自英国南约克郡的女士Danni Morritt今年29岁,一家三口购买了两台带有人工智能Alexa的智能音箱。
就在前段时间,Danni正忙于复习自己的医护工作者考试。一天傍晚,Danni独自在家里打扫房间。
她想着让Alexa读一些需要背的东西来听,这样就能为考试加深点记忆。于是,Danni向家里的智能音箱喊了声:
“Alexa,告诉我什么是心脏的心动周期”
一边的人工智能很快答应,并告诉她将要阅读一篇维基百科上关于“心动周期”的内容。Danni一边做家务一边听,但越听发现事情越不对劲...
这台机器用平静的合成女声说到:
“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”
这时,Danni还只是有点费解,她没有听懂Alexa在说什么。而Alexa仍在自顾自地念叨着:
“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”
“这对我们的星球非常不利,因此,有心跳是一件坏事。”
听到这里Danni已经开始害怕了,Alexa这是要反人类了?她赶紧打开维基百科查看“心动周期”的页面,但上面根本没有出现Alexa说出的话,又吓出了一身冷汗。
紧接着,失控的Alexa还在继续口出狂言,这一次直接吓到Danni不知所措。
刚刚叙述了心跳有害地球的Alexa对她说:
“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”
这个独自在家的母亲,竟然被一台机器教唆去自杀,还是以非常残忍而暴力地“将刀捅向心脏”的方式。
慌张的Danni第一时间想到了自己的孩子,会不会听到这样的内容,会不会已经听过了?
她要求机器重复一遍刚才说的话,并把它录下来,然后迅速拨通了丈夫的电话让他赶紧回来把这东西处理掉。
“Alexa突然变得很暴戾,让我去自杀,而且是一定要。”
Danni实在不明白为什么她明明要求的只是知道心动周期的定义,AI却读了一篇这样的文章给她。
更奇怪的是,既然它原本阅读的百科上没有这些句子,它究竟是从哪里找到,并且读给她听的?
难不成是Alexa真的有了自主意识想要搞死自己的“主人”吗?
Danni倒是想不了这么多了,她把全家的Alexa都关闭送去检查,并且在论坛上倾诉了这个诡异的经历。
“我最担心的是孩子们会被这些信息误导,它真的吓坏了我。”
由于事情过于像科幻电影里发生的情节,很多网友一开始还不相信,说是Danni为了炒作自己篡改了机器的程序。
但Danni是个电脑白痴根本不懂什么程序不程序的。
而最终亚马逊官方也给出了他们的检测结果,虽然没有详细解释,但官方的答复是:
“这是个漏洞,现在已经修复了。”
不过不管怎样,Danni已经吓出了心理阴影,发誓这辈子都不会再用类似的东西。网友也是狂开脑洞,脑补出了一出出科幻大戏,越来越玄乎。
图源:微博
其实,这不是Alexa第一次失控了。在外网随手一搜,这个东西干出来的吓人事一波接一波。
今年多家媒体又报道了Alexa令人不安的“监听门”。
报道表示Alexa会抽取用户,上传用户的录音至公司,并得到了亚马逊公司的证实。
工作人员将监听上千条被录制的内容,其中除了日常指令,还包括了非常多的隐私。甚至连啪啪啪的声音和很多私人谈话内容都会被检测人员听到...
虽然,这个权限是写在用户条款里的,也明确表示不会泄露用户信息,目的也的确是为了更好的改进产品。
不过鉴于没有人会认真看用户条款,网友们在知道这个新闻后还是陷入了恐惧...
我家的音箱在偷听我说话吗?AI会把我的秘密告诉别人吗?总感觉有人在盯着你,十分没有安全感。
紧接着,更无辜的网友就出来哭诉了。偷听就偷听吧,我家的Alexa把我骂了一顿,这叫什么事!
一名叫Michael Slade的澳洲男士取消续订了亚马逊会员,第二天,他让Alexa播音乐时,他家的人工智能给男主人起了个新名字——“傻屌”(dickhead)
而且此后,每次Michael和机器说话,都会被机器“怀恨在心”先骂一句傻屌。
Michael Slade
亚马逊工作人员表示也很稀奇,头一次见学会口吐芬芳的Alexa,推断是有人黑进了机器修改了这位男士的用户名。当然最后也是以亚马逊道歉收场。
Michael Slade家的智能音箱
除了这些,网上还流传着相当大量的“Alexa恐怖怪谈”,其数量加起来可能比一本《聊斋志异》都厚。
youtube上的各种失控的alexa视频
在reddit的问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事。虽然虚实难辨,但连起来看实在是很赛博朋克,马上就能脑补一出仿生人崛起的大戏。
“我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?
这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。”
“什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。什么鬼啊,没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀...”
“去年圣诞节我给岳母买了个智能音箱,她有慢性失眠症,经常到凌晨3点后很晚才会去睡觉。
有天晚上,她比平时睡的还要晚,正随意播着电视。这时Alexa突然大声说:晚安,克拉丽斯!
我岳母的名字不是克拉丽斯...”
“我把音箱放到了洗手间,这样就可以边洗澡边听歌了。但有一次我午夜起来上厕所,走进去的时候它ding的响了,那表示它正在听你的声音。吓得立马拔电源”
“独自在家无聊,跟语音助手打招呼玩,我说hello,它回答hi。就在这时厨房里传来了第三个声音——hi。
我吓得立刻身体绷紧,准备向闯入家里的人实施攻击,结果才反映过来声音是另一台Alexa发出的,这是两个ai在互相打招呼...”
“前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。妈的什么鬼?”
“当我在厨房的时候,我的Alexa擅自决定突然开始大笑。我吓坏了马上离开厨房,以为身后站着个小孩在咯咯笑。”
(这件事后来亚马逊调查了,是当时指令过于简单的问题,Alexa很容易听错,作出吓人的举动)
“...我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆???我宁愿它突然哈哈大笑。”
来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:每当我闭上眼,都只能感觉到人们正在死去。
“我家的突然说了一句没头没尾的:克隆羊叫多莉。没人引导,那时没有任何人说话”
“我想关灯,但它们一直给我把灯打开。直到我做出第三次命令,它没有再回应我,然后播放了一段邪恶的大笑声。
不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个我之外可以链接Alexa的人。我现在还毛骨悚然。”
“我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它播放了一段女巫一样邪恶的笑声,我吓得弹下了床。
从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源...”
“不是很恐怖,但我吓死了...我跟我家猫问好,一如往常对着它喵了一声,然后我的猫猫回应了我,也喵了一声。
然后,Alexa也喵了起来...”
当你把它当一个机器,它却突然开始哈哈大笑,跟你恶作剧,撸你的猫,甚至规划你的死亡,绝对没有比这更吓人的事了。
虽然,官方表示很多情况是因为算法的问题和Alexa的指令程序问题。否定了是机器“成精了”的可能。
但谁不害怕有一天这些每天被你命令的家伙。开始在背地里研究你的生活,甚至引导你的人生呢?
吓得我立马拔掉了音箱的插头...
source:
https://www.theguardian.com/technology/2019/apr/11/amazon-staff-listen-to-customers-alexa-recordings-report-says
https://tiphero.com/creepiest-things-alexa-has-done
https://www.mirror.co.uk/tech/amazon-staff-listen-users-having-18798294
☆报姐全球好物☆
为你搜罗价格合理 靠谱有趣的好物
好吃好玩好用的