周鸿祎的三个疑问，内忧外患的人工智能

第三届世界智能大会如期在天津举行，此次大会围绕“智能新时代：进展、策略和机遇”的主题，将有1200余位国际嘉宾，从英国、美国、法国、德国、瑞士等30个国家和地区赶赴现场，共同探讨“智能交通”、“智能制造”、“智慧城市”、“智能生活”、“大数据”和“科研与创新”等议题。

相较于这些高大上的话题，360总裁周鸿祎却提出了比较尖锐的问题：“人工智能的发展是否能够取代人类，如果取代人类，一些工作出现不可逆转伤害谁来负责。如果这些技术被不法分子掌握，有没有好的方法直接进行终端控制，还有人工智能的法律还未健全，需要尽快出台相关的法律来应对变化”

周鸿祎谈了三个事件来佐证这些观点：

周鸿祎谈的第一件事是近期发生的波音737MAX坠机事件。“我虽然不是航空专家，但我从中也看到了两个问题。”周鸿祎分析说，一是系统设计的再完美，一旦传感器出错，就会影响飞行控制系统的判断，继而“犯错”。二是当计算机出错后，究竟是听计算机的还是听驾驶员的？这是个值得思考的问题，在将来无人车、无人工厂、无人码头等众多无人值守系统里，在传感器误报、数据被污染的情况下，最后的控制权和决定权应该留给机器还是人？

周鸿祎谈的第二件事是“逃犯克星张学友”。据了解，因为张学友演唱会现场的人脸识别技术，警察抓获了多名在场逃犯。但是***们研究发现，只要把一种奇怪的条纹打印下来，别在衣服上，就能“屏蔽”掉人脸识别系统，自由出入。这或许将成为人工智能时代的“畅销服装”。

周鸿祎谈的第三件事则是美国有人利用人工智能将不良视频里的主角换成明星。这引发了他的思考：“这一技术正引发恐慌，遭到美国政府查封。这个技术也让我不再相信朋友圈里的美女了。如果这种工具降低了每个人的做假成本，就可能会出现假新闻、假名人视频。这颠覆了我们过去‘百闻不如一见’的固有观念，甚至会在关键时刻带来混乱。”

“我讲这三件事并非贬低人工智能，恰恰相反，关注安全有利于人工智能更好地发展。最近也有很多人提到电话机器人的话题，更多的是电话机器人好不好用的问题，虽然智能语音市场我们没有进行特别多的涉猎，但是同样的道理，好的人工智能一定是要服务于人类的”周鸿祎说。

周鸿祎介绍说，根据同样的道理，一些无人驾驶的汽车，可能会被一些特定的符号误导，导致严重的交通事故。他建议企业在上线无人驾驶系统前，应做好安全检测，要通过实际的***去发现问题。

“新加坡正在制定相应的法律。”周鸿祎呼吁我国也应加强对该类问题的重视，防止这样的“工具”流传，引发一系列道德伦理问题。

转载请注明原文链接： http://www.ounengzn.com