新冠病毒能影响AI？人工智能的正常离不开人类介入

全文共1882字，预计学习时长6分钟

 图源：becominghuman

 

新冠期间，以人工智能为技术基础的系统表现出了点儿问题。病毒都能感染人工智能了嘛？当然不是，被影响到的是人类。没有了人工介入，人工智能和机器学习系统都不能良好运转了。

 

人工智能听起来似乎离我们很远，但其实每个人生活中都体验过它。从Netflix的定制化推荐到Spotify的个性化播放歌单，再到像Alexa一样可以管理购物清单和应用的语音助手。这些例子都能说明集成人工智能系统是如何进入人类生活的。

 

从商业的角度看，很多公司都会在人工智能和机器学习方面大量投资。不管是重要商业过程的自动化，建立多渠道的供应链；还是将聊天机器人授权给顾客联络团队，以人工智能为基础的系统都能大大降低了人工劳动以及企业成本，以获得更高收益率。

 

看似百毒不侵的AI，却被发现了也有弱点？来自麻省理工学院的作者威尔·道格拉斯近期在文章中提出：在新冠病毒疫情期间，以人工智能为技术基础的系统表现欠佳。病毒不是直接影响人工智能，而是影响了人类。

 

图源：unsplash

如果经常用机器学习算法来管理存货、客户支持及其他功能，系统可能会被训练得很好，在无人介入的情况下也能高效运转。但这种说法只能说是部分正确，因为人们并未根据疫情出现的“新常态”来训练机器学习算法。

 

疫情已经彻底改变了世界，包括供给和需求的模式和一般买方行为。在几天时间内，厕纸、口罩、手部消毒液成了亚马逊上全球搜索频率最高的产品，而手机充电器和乐高这些长久以来爆红产品的人气却大大降低了。

 

这些惊人的变化都影响了人工智能，很多基于常规行为训练出的机器学习模型突然面临大量的偏差，就无法正常工作了。

 

疫情前值得关注的人工智能失败案例

 

人工智能应用在过去的几年内的优化十分显著。然而，当机器因为一个或某些原因无法正常工作时就会出现问题。比如，本应治愈癌症的IBM“沃森肿瘤学”却成了荒谬的产品。

 

有人发现这个产品给出错误的诊疗建议，这有可能会恶化病人的病情，接着它就被停止使用了。人们这才发现，沃森是基于少数“人造癌症病例”被训练出来的，而不是基于真实的病人数据。即使是建议，也应该基于一些癌症专家的专业知识，而不是任何书面指南和证据。

 

图源：unsplash

另一个案例是亚马逊的招聘引擎偏向白人男性。这个模型是基于十年间投递到亚马逊的简历训练出来的，并且以现在的工程师为基准。根本上来说，这个训练后的模型在招聘中偏向男性。据熟悉此问题的人报道，系统会不公平地对待含“女性的”这个词的简历，并且还会给来自两所女子大学的简历降分。

 

回到当前疫情，以卖消毒剂的公司为例，零售商依靠自动存货管理系统预测出的合作公司（预测算法根据用户行为生成）不再与疫情期间的实际需求相匹配，这会导致严重的供需不平问题。

 

实际上，当全世界的供应链受到影响,各家公司面对新的需求情况时，人们应该重新考虑运用在销售和开支预算中的人工智能模型了。由于当前的经济和社会情况催生了“新常态”，曾经导入到机器学习模型的数据和假设不仅不再适用，而且还可能导致严重的错误。

 

人工介入对人工智能的成功至关重要

 

机器学习系统的质量仅取决于用于训练它的数据的质量，这意味着当今的黑天鹅事件引发了人们去重新想象导入到人工智能——机器学习系统里的训练集合。很多专家认为，训练人工智能不能仅基于单一的最坏情况能，还应基于人类历史上的转折性事件，比如上世纪30年代的大萧条、2007-2008年的金融危机，还有当前的疫情。

 

人类的监管可以很大程度上攻克人工智能的短板。这几个月来，人们对健康的关注变得更多了，再加上社交媒体上关于疫情不断的真假传闻。很多人不能辨别新闻的真假，这会在现实世界里造成严重的后果。

 

所有人只知道控诉脸书的算法推送假新闻来影响美国大选，事实上，人类的监管可以制止假新闻的传播，可以通过读者点击新闻来源，辨别故事真假，曝光假新闻，从而阻止其传播。

 

图源：unsplash

 

今天，人类尽管试图让人工智能模仿人类，但还是无法让人工智能在无人监测的情况下独自运行。机器终究只是机器，它们并不受道德和社会标准的约束。

 

好的情况下，人工智能基于训练它的良好数据而表现良好；反之，人工智能也能反映偏见、思考过程、或创造者的道德标准。为了克服这些问题，用不同的数据集合训练人工智能，并且加入人工检测，是很有必要的。未来之路还有很久很长。

推荐阅读专题

留言点赞发个朋友圈

我们一起分享AI学习与发展的干货

编译组：元艺博、苏牧辰

相关链接：

https://www.kdnuggets.com/2020/06/ai-systems-need-human-intervention.html

如转载，请后台留言，遵守转载规范

推荐文章阅读

ACL2018论文集50篇解读

EMNLP2017论文集28篇论文解读

2018年AI三大顶会中国学术成果全链接

ACL2017论文集：34篇解读干货全在这里

10篇AAAI2017经典论文回顾

长按识别二维码可添加关注

读芯君爱你