总结2017年AI之十大“败笔”

近些年来，人工智能项目AlphaGo和Libratus分别在围棋、扑克大赛战胜了人类，成为了里程碑事件。通过这些事件显示了近几年来人工智能取得了很大的发展，但是特别是在过去的一年中AI领域出现了一些问题，让许多人对于新兴技术的整体成熟程度产生了怀疑。

以下是对2017年AI领域的十大“败笔”的总结，让我们一起来看一看。

1.被面具破解的面孔ID

面部识别技术（Face ID）是iPhone X的面部识别解锁技术，被誉为迄今为止最安全的人工智能激活方法，苹果公司宣称其出错率为百万分之一。但随后越南公司BKAV使用由3D打印的塑料、硅胶等构成的价值150美元面具进行破解并且破解成功。在该测试中，BKAV首先简单的扫描了一下测试对象的脸部，然后使用3D打印机生成的一个脸部模型，并贴上剪纸眼睛和嘴巴以及硅胶鼻子，并对该面部模型进行扫描。这一测验的结果，说明该项技术存在很大安全隐患，并不能很好的保护消费者设备隐私的安全。

2.邻居们因Amazon Echo而报警

流行的Amazon Echo被认为是最大的智能音箱之一。一名德国男子不在家时，家中Echo意外启动，并在半夜里响起音乐吵醒邻居。他们打电话给警察，警察不得不强行将门打开关闭该音箱。

3.Facebook chatbot被关闭

今年七月，广泛被报道的两个Facebook聊天机器人以无法识别的语言互相沟通后被关闭。关于这个谣言淹没了讨论区，直到Facebook官方解释说，这种神秘的交流只是语法编码监督的结果，此事才了结。

4.拉斯维加斯无人驾驶公交车运行第一天撞车

今年十一月，一辆无人驾驶公交车在拉斯维加斯首次亮相，然而在短短的两个小时的运行中，该车与一辆货车相撞。尽管从技术上来说，警方鉴定该事故由货车司机引起。无人驾驶公交汽车对这起事故不负责。但是这辆智能巴士上的乘客抱怨称，它仍然不够智能反映不灵敏，当卡车慢慢靠近的时候，它没有及时规避风险。

5.Google Allo使用头巾表情符号来回应枪支表情

美国有线电视新闻网的工作人员通过Google Allo收到了对于手枪表情符号所作回应的表情建议：一个戴头巾的人的表情符号。Google公司尴尬地向公众保证，这个问题已被解决，并发表道歉声明。

6.双胞胎愚弄汇丰语音ID

汇丰银行的语音识别ID是一个以人工智能为导向的安全系统，允许用户通过语音命令访问他们的账户。尽管该公司声称它和指纹ID一样安全，但BBC的一名记者的双胞胎兄弟却能够通过模仿对方的声音访问对方的账户。该项实验分为七次，而汇丰语音识别系统的应对措施是，确定三次尝试失败后，关闭账户户限。

7.Google AI将步枪误认为是直升机

麻省理工学院的一个研究小组通过略微调整步枪照片，欺骗了Google Cloud Vision API,使其将步枪确定为直升机。这个技巧，又称不良样本，会导致由于将图像进行了人眼无法察觉的修改，使得计算机对图像进行错误分类。过去，对抗的例子只在黑客知道目标计算机系统的基本机制时才会起作用。麻省理工学院团队通过触发错误分类而向前迈进了一步，但却没有获得这些系统信息。

8.街道警示牌愚弄自驾车

研究人员发现，通过使用油漆或胶带谨慎应用停止标志，他们可能欺骗到自动驾驶汽车对这些标志进行错误分类。用“爱”和“恨”这两个词来修饰停车标志，愚弄一辆自驾车的机器学习系统，在所有的测试案例中自驾车将其误分类为“速度极限45”的标志。

9.AI将Bank Butt误认为sunset

机器学习研究员Janelle Shan训练了一个神经网络，用以对新生成的油漆颜色与每种颜色的名称相“匹配”。结果与预想大相径庭，即使在用颜色名称数据进行少量训练之后，该模型仍然将天蓝色标记为“灰色耻骨”，将深绿色标记为“Stoomy Brown”。

10.询问Alexa需谨慎

亚马逊Alexa的虚拟助理可以使网上购物更容易。1月份圣地亚哥新闻频道CW6报道说，一个六岁的女孩只因向Alexa表达了自己的想要一个玩具屋而购买了价值170美元的玩具屋。并且当播出的电视主持人重复了这个女孩的话时，一些观众家里的Alexa设备再次被启动订购了玩具屋。

本文由阿里云云栖社区组织翻译。

文章原标题《10 AI Failures in 2017》

作者：SYNCED

译者：乌拉乌拉，审校：袁虎。