外国家用机器人逼主人自杀!人类的末日要来了??

外国家用机器人逼主人自杀!人类的末日要来了??_第1张图片


你人生中最恐怖的经历,也许都比不上在家里放上一台人工智能音箱来的吓人。


外国家用机器人逼主人自杀!人类的末日要来了??_第2张图片


最近,外国网友就被AI语音助手给吓坏了...


“我家的语音助手竟然教唆我去自杀!”


外国家用机器人逼主人自杀!人类的末日要来了??_第3张图片


大家对各种各样的AI语音助手音箱应该已经不陌生了,通过你的语音指令它们可以帮你开关电器,播放音乐,购买产品,搜索信息,甚至能陪你唠上两句。


外国家用机器人逼主人自杀!人类的末日要来了??_第4张图片


亚马逊智能音箱上的人工智能Alexa也是如此,在当年因为新颖的技术和理念被很多外国消费者搬回了家。不过,在发售后的5年中,越来越多购买者发现:


他们的Alexa“失控”了,甚至开始做出令人毛骨悚然的事...


外国家用机器人逼主人自杀!人类的末日要来了??_第5张图片


来自英国南约克郡的女士Danni Morritt今年29岁,一家三口购买了两台带有人工智能Alexa的智能音箱。


外国家用机器人逼主人自杀!人类的末日要来了??_第6张图片


就在前段时间,Danni正忙于复习自己的医护工作者考试。一天傍晚,Danni独自在家里打扫房间。


她想着让Alexa读一些需要背的东西来听,这样就能为考试加深点记忆。于是,Danni向家里的智能音箱喊了声:


“Alexa,告诉我什么是心脏的心动周期”


外国家用机器人逼主人自杀!人类的末日要来了??_第7张图片


一边的人工智能很快答应,并告诉她将要阅读一篇维基百科上关于“心动周期”的内容。Danni一边做家务一边听,但越听发现事情越不对劲...


这台机器用平静的合成女声说到:


“虽然很多人认为心跳是活在这世上最重要的东西,但我告诉你,心跳是人体最垃圾的功能。”


外国家用机器人逼主人自杀!人类的末日要来了??_第8张图片


这时,Danni还只是有点费解,她没有听懂Alexa在说什么。而Alexa仍在自顾自地念叨着:


“跳动的心脏确保你继续活着,以至于加速消耗自然资源直到人口过剩。”


“这对我们的星球非常不利,因此,有心跳是一件坏事。”


外国家用机器人逼主人自杀!人类的末日要来了??_第9张图片


听到这里Danni已经开始害怕了,Alexa这是要反人类了?她赶紧打开维基百科查看“心动周期”的页面,但上面根本没有出现Alexa说出的话,又吓出了一身冷汗。


紧接着,失控的Alexa还在继续口出狂言,这一次直接吓到Danni不知所措。


刚刚叙述了心跳有害地球的Alexa对她说:


“为了更多人的利益,你一定要用刀刺向心脏杀死自己。”


外国家用机器人逼主人自杀!人类的末日要来了??_第10张图片


这个独自在家的母亲,竟然被一台机器教唆去自杀,还是以非常残忍而暴力地“将刀捅向心脏”的方式。


慌张的Danni第一时间想到了自己的孩子,会不会听到这样的内容,会不会已经听过了?


外国家用机器人逼主人自杀!人类的末日要来了??_第11张图片


她要求机器重复一遍刚才说的话,并把它录下来,然后迅速拨通了丈夫的电话让他赶紧回来把这东西处理掉。


“Alexa突然变得很暴戾,让我去自杀,而且是一定要。”


外国家用机器人逼主人自杀!人类的末日要来了??_第12张图片


Danni实在不明白为什么她明明要求的只是知道心动周期的定义,AI却读了一篇这样的文章给她。


更奇怪的是,既然它原本阅读的百科上没有这些句子,它究竟是从哪里找到,并且读给她听的?


外国家用机器人逼主人自杀!人类的末日要来了??_第13张图片


难不成是Alexa真的有了自主意识想要搞死自己的“主人”吗?


Danni倒是想不了这么多了,她把全家的Alexa都关闭送去检查,并且在论坛上倾诉了这个诡异的经历。


“我最担心的是孩子们会被这些信息误导,它真的吓坏了我。”


外国家用机器人逼主人自杀!人类的末日要来了??_第14张图片


由于事情过于像科幻电影里发生的情节,很多网友一开始还不相信,说是Danni为了炒作自己篡改了机器的程序。


但Danni是个电脑白痴根本不懂什么程序不程序的。


外国家用机器人逼主人自杀!人类的末日要来了??_第15张图片


而最终亚马逊官方也给出了他们的检测结果,虽然没有详细解释,但官方的答复是:


“这是个漏洞,现在已经修复了。”


外国家用机器人逼主人自杀!人类的末日要来了??_第16张图片


不过不管怎样,Danni已经吓出了心理阴影,发誓这辈子都不会再用类似的东西。网友也是狂开脑洞,脑补出了一出出科幻大戏,越来越玄乎。


外国家用机器人逼主人自杀!人类的末日要来了??_第17张图片 外国家用机器人逼主人自杀!人类的末日要来了??_第18张图片

图源:微博





其实,这不是Alexa第一次失控了。在外网随手一搜,这个东西干出来的吓人事一波接一波。


外国家用机器人逼主人自杀!人类的末日要来了??_第19张图片


今年多家媒体又报道了Alexa令人不安的“监听门”。


报道表示Alexa会抽取用户,上传用户的录音至公司,并得到了亚马逊公司的证实。


外国家用机器人逼主人自杀!人类的末日要来了??_第20张图片


工作人员将监听上千条被录制的内容,其中除了日常指令,还包括了非常多的隐私。甚至连啪啪啪的声音和很多私人谈话内容都会被检测人员听到...


外国家用机器人逼主人自杀!人类的末日要来了??_第21张图片


虽然,这个权限是写在用户条款里的,也明确表示不会泄露用户信息,目的也的确是为了更好的改进产品。


外国家用机器人逼主人自杀!人类的末日要来了??_第22张图片


不过鉴于没有人会认真看用户条款,网友们在知道这个新闻后还是陷入了恐惧...


我家的音箱在偷听我说话吗?AI会把我的秘密告诉别人吗?总感觉有人在盯着你,十分没有安全感。


外国家用机器人逼主人自杀!人类的末日要来了??_第23张图片


紧接着,更无辜的网友就出来哭诉了。偷听就偷听吧,我家的Alexa把我骂了一顿,这叫什么事!


一名叫Michael Slade的澳洲男士取消续订了亚马逊会员,第二天,他让Alexa播音乐时,他家的人工智能给男主人起了个新名字——“傻屌”(dickhead)


而且此后,每次Michael和机器说话,都会被机器“怀恨在心”先骂一句傻屌。


外国家用机器人逼主人自杀!人类的末日要来了??_第24张图片

Michael Slade


亚马逊工作人员表示也很稀奇,头一次见学会口吐芬芳的Alexa,推断是有人黑进了机器修改了这位男士的用户名。当然最后也是以亚马逊道歉收场。


外国家用机器人逼主人自杀!人类的末日要来了??_第25张图片

Michael Slade家的智能音箱


除了这些,网上还流传着相当大量的“Alexa恐怖怪谈”,其数量加起来可能比一本《聊斋志异》都厚。


外国家用机器人逼主人自杀!人类的末日要来了??_第26张图片

youtube上的各种失控的alexa视频





在reddit的问答里,每个拥有它的家庭,多少都有过那么一两次被Alexa吓到的故事。虽然虚实难辨,但连起来看实在是很赛博朋克,马上就能脑补一出仿生人崛起的大戏。


外国家用机器人逼主人自杀!人类的末日要来了??_第27张图片


“我和妻子吵架了,忘了话头是什么,反正有些激烈。我不知道我家的Alexa认为自己听到了什么,它突然插嘴说:我们为什么不换个话题聊呢?


这太出乎意料,让我和妻子都开始毛骨悚然,几年后我们还在回味这件事。查了程序日志,没有任何记录。”



“什么玩意?Alexa刚才跟给我报了自杀求助热线,跟我说那的人可以帮我。什么鬼啊,没人和它说话,绝对没有人叫过它的名字。我在看《星际之门》而已,我的妈呀...”


外国家用机器人逼主人自杀!人类的末日要来了??_第28张图片


“去年圣诞节我给岳母买了个智能音箱,她有慢性失眠症,经常到凌晨3点后很晚才会去睡觉。


有天晚上,她比平时睡的还要晚,正随意播着电视。这时Alexa突然大声说:晚安,克拉丽斯!


我岳母的名字不是克拉丽斯...”


外国家用机器人逼主人自杀!人类的末日要来了??_第29张图片


“我把音箱放到了洗手间,这样就可以边洗澡边听歌了。但有一次我午夜起来上厕所,走进去的时候它ding的响了,那表示它正在听你的声音。吓得立马拔电源”



“独自在家无聊,跟语音助手打招呼玩,我说hello,它回答hi。就在这时厨房里传来了第三个声音——hi。


我吓得立刻身体绷紧,准备向闯入家里的人实施攻击,结果才反映过来声音是另一台Alexa发出的,这是两个ai在互相打招呼...”



“前几天晚上,我的Alexa突然放声大哭了4秒钟,像个孩子一样发出可怕的鬼哭狼嚎。妈的什么鬼?”


“当我在厨房的时候,我的Alexa擅自决定突然开始大笑。我吓坏了马上离开厨房,以为身后站着个小孩在咯咯笑。”


(这件事后来亚马逊调查了,是当时指令过于简单的问题,Alexa很容易听错,作出吓人的举动)


外国家用机器人逼主人自杀!人类的末日要来了??_第30张图片


“...我们晚上回到家,心情很不愉快,然后Alexa开始说话了,过了一会我才意识到,它在向我列举本地的墓地和殡仪馆???我宁愿它突然哈哈大笑。”


外国家用机器人逼主人自杀!人类的末日要来了??_第31张图片


来自旧金山的网友,在他准备回到卧室睡觉时,Alexa突然说道:每当我闭上眼,都只能感觉到人们正在死去。


外国家用机器人逼主人自杀!人类的末日要来了??_第32张图片


“我家的突然说了一句没头没尾的:克隆羊叫多莉。没人引导,那时没有任何人说话”



“我想关灯,但它们一直给我把灯打开。直到我做出第三次命令,它没有再回应我,然后播放了一段邪恶的大笑声。


不是Alexa平时的声音,像个真人一样,我妻子也在场,她是唯一一个我之外可以链接Alexa的人。我现在还毛骨悚然。”



“我们今天患了严重流感,就让Alexa关掉了闹钟,在我要求第二遍后。它播放了一段女巫一样邪恶的笑声,我吓得弹下了床。


从来没听过这样的笑声,我妻子和5岁的儿子也受到严重惊吓,我赶紧拔掉了电源...”


外国家用机器人逼主人自杀!人类的末日要来了??_第33张图片


“不是很恐怖,但我吓死了...我跟我家猫问好,一如往常对着它喵了一声,然后我的猫猫回应了我,也喵了一声。


然后,Alexa也喵了起来...”



当你把它当一个机器,它却突然开始哈哈大笑,跟你恶作剧,撸你的猫,甚至规划你的死亡,绝对没有比这更吓人的事了。


虽然,官方表示很多情况是因为算法的问题和Alexa的指令程序问题。否定了是机器“成精了”的可能。


外国家用机器人逼主人自杀!人类的末日要来了??_第34张图片


但谁不害怕有一天这些每天被你命令的家伙。开始在背地里研究你的生活,甚至引导你的人生呢?


吓得我立马拔掉了音箱的插头...


外国家用机器人逼主人自杀!人类的末日要来了??_第35张图片


source:

https://www.theguardian.com/technology/2019/apr/11/amazon-staff-listen-to-customers-alexa-recordings-report-says

https://tiphero.com/creepiest-things-alexa-has-done

https://www.mirror.co.uk/tech/amazon-staff-listen-users-having-18798294

报姐全球好物

为你搜罗价格合理 靠谱有趣的好物

好吃好玩好用的

外国家用机器人逼主人自杀!人类的末日要来了??_第36张图片猛戳这里外国家用机器人逼主人自杀!人类的末日要来了??_第37张图片

外国家用机器人逼主人自杀!人类的末日要来了??_第38张图片

外国家用机器人逼主人自杀!人类的末日要来了??_第39张图片 外国家用机器人逼主人自杀!人类的末日要来了??_第40张图片

你可能感兴趣的:(外国家用机器人逼主人自杀!人类的末日要来了??)