Facebook AI创造新语言可能会失控？科学家说想多了
一直以来，人们对人工智能存在恐惧：人工智能机器人会不会终有一天颠覆人类？
近日，一条有趣的新闻看似证实这一观点——Facebook的人工智能项目竟然开发出了人类无法理解的语言，背着研究人员说起了“悄悄话”。
偷偷“对暗号”的机器人
— “I can can I I everything else.”
—“Balls
have zero to me to me to me to me to me to me to me to me to.”
这段看似胡言乱语的“尬聊”出自Facebook研发的智能对话机器人Bob和Alice。
Facebook人工智能研究所（FAIR）原意是想训练聊天机器人互相谈判的能力，机器人Bob和Alice被编程成使用英文来沟通。
据外媒报道，现在Facebook的研究院已经停止了这一项目的研究，原因是“担心可能会对这些AI失去控制”。
这已经不是第一次发现人工智能使用偏离训练语言的新表述了。人工智能可以创造自己的语言？这个说法既耸人听闻又让人毛骨悚然。
产生原因：机器人追求高效回报的新选择
“这简直是为了PR（公关）而PR！”国内人工智能初创企业Rokid Alab专门研究智能对话方向的陈见耸博士对“发展出人类无法理解的语言”的说法嗤之以鼻。
“就样例来看，智能对话机器人使用的还是英文单词，只不过语法出现了错误。”在陈见耸看来，与其说是机器创造出了新的语言，不如说是机器因为没有训练好而出现了Bug。
陈见耸解释说，使用增强学习的人工智能遵循的是“回报”（reward）原则，智能体生成的这段话是否是朝着有益的方向发展，需要根据研究人员设定的回报函数来确定。“跟AlphaGo直接通过输赢就能确定回报不同，人类的自然语言很难评判是好还是坏。”因为判定标准难以确定，人工智能生成的对话就很容易变成上述的“胡言乱语”。
清华大学电子工程系的孙甲松副教授认为，这并不算是一种新的语言，而更像是对原本语言的改造。“人类使用的自然语言对于机器来说并不是最简洁的，机器完全可以将人类的语言进行简化。虽然简化之后的语言人类无法理解，但对于机器来说确实更加高效。”孙甲松认为，虽然Facebook的智能对话机器人看似创造出了一种从未出现过的新语言，但其实只是对自然语言的“缩写”。
孙甲松的观点与Facebook相关研究人员不谋而合。在这一场景中，继续使用英语并没能给计算机带来相应的回馈，所以智能体决定"learned to hold fluent conversations"，使用更加高效的方法进行沟通。
虽然这些词语组合第一眼看上去没什么实际意义，但是它们揭示了两个机器人是如何工作的，每一个词汇他们需要进行多少次处理。“我们可以把他们对单词的重复看作是在表示强调。”孙甲松说。
比如：“I can can I I everything else.”Bob的这句对话中，重复使用i的次数，被研究者认为是向Alice传递更多的信息。如果用这种方法来进行阐述，那么这句话就有点像人们所说的“I’ll have three and you have everything else”。
有趣的是，在其他的AI开发程序中，AI机器人之间也曾经出现过通过“缩写”来简化沟通，并且能够得到相应回馈。虽然这些语言对人类来说更像是“胡言乱语”，但对机器来说，简化后的语言反而更加高效。
人工智能真的会“灭绝人类”么？
关于人工智能反噬人类的科幻作品不可胜数。虽然类似于《iRobot》的电影情节很酷并且深入人心，但是实际上人工智能距离代替人类甚至对人类产生攻击性还很遥远。
在创新工场技术副总裁、AI工程院副院长王咏刚看来，人工智能的发展历程主要有深度学习、增强学习、迁移学习、自然语言理解和AI工具平台5个阶段。“人类对人工智能领域的开发还非常早期，未来有很多空间有待开发，比如说增强学习、自然语言学习的应用。例如自然语言学习这门技术，我们现有王咏术仅开发到5%，”在王咏刚说，“所以不存在电影里的人工智能攻击人类的情节。”
如果人工智能机器人既可以像人类一样思考、进化，又比人类高效、不用像人类一样休息，那人工智能取代人类岂不是指日可待？孙甲松认为，这样的担忧源于人类对人工智能的误解。
孙甲松认为，人工智能的“学习”能力并不同于人类的“学习”能力，简单来说，人工智能的“学习”只是死记硬背，而人类的“学习”还会举一反三。“除非未来有工程师能够赋予人工智能机器人像人类一样的思考能力。但就我所知，科学家对人脑的研究还远未到那个程度。”
“我个人并不认为目前的人工智能能够真正生成人类智慧，”无独有偶，擎朗智能的创始人李通也认为人工智能还很早期，“Facebook事件大概率只是一个深度学习算法逐渐迭代演变，一个实验，得出了一个不具备意义的实验结果，然后这个方向被证明失败而停掉。比如，某一项目会做一百种实验，尝试一百种方案，99种甚至100种都是有问题的，做不出来，就停掉，仅此而已。”
长期关注人工智能领域的李开复明确反对“AI终将灭绝人类”的论调。“我认为，AI现在仅仅是人类的工具，离拥有意识的‘超级智能（Superintelligence）’还非常遥远，更别提灭绝人类了。”
历史上，人类常常陷入对未知事物的恐惧：恐惧日食、月食，恐惧工业革命，害怕火车、蒸汽机，甚至担心人类沉迷于电视节目而丧失斗志。人类自封建社会起就恐惧成为奴隶，如今对人工智能的恐惧依然是这种担忧的延续。但与其害怕人工智能“灭绝人类”，人工智能的发展带来的失业问题以及由此造成的抑郁丧志、贫富不均，似乎更值得引起社会关注。
