为少数群体发声的谷歌AI伦理学家，因一封邮件离职了……

全文共1652字，预计学习时长5分钟

图源：Getty Images

 

Timnit Gebru是谷歌伦理学和计算机视觉领域最杰出的研究人员之一，她说自己在向公司内部资源团队“谷歌大脑女性成员和联盟”（Google Brain Women and Allies）发送电子邮件后被解雇。

 

这封邮件暗指谷歌在未告知Gebru的情况下审查了她的一篇研究论文，同时也暗示了公司会恶劣对待那些为少数群体发声的人。这封邮件全文已在Platformer上发布。（https://www.platformer.news/p/the-withering-email-that-got-an-ethical）

 

在发送电子邮件后，Gebru与管理人员进行了交流，她私下说，如果不能满足某些保密条款，她将辞职。然而，Gebru说她立刻就被解雇了。 

 

著名伦理学家Timnit Gebru经过紧张的邮件交流后离开了谷歌公司。Gebru对人脸识别偏见性的研究颇具影响力，并因其而闻名。Gebru对该领域的贡献在于，她使现代人理解人工智能的失败之处，以及算法差别对待少数群体的技术基础。

 

联合创始人Rachel Thomas发布的一条推特中阐述了Gebru多年学术成就对人工智能研究的影响，包括她与人合著了一部开创性的著作，表明面部识别系统对于有色女性的识别远不如白人男性精准。

 

Gebru协助领导谷歌人工智能的伦理团队，他们共同创立了一个名为Black in A.I. 的国际组织，致力于支持黑人人工智能研究人员，以及拓宽传统专有领域的准入。

 

图源：unsplash

这封邮件部分内容是：

 

想象一下：你已经给30多位研究人员发了一篇论文寻求反馈，并且在等待公共关系和政策部门的回复，你甚至在写文章之前就已经提醒过他们“我们考虑要这么做”，你还写了一份修改计划，用于解决人们的不同反馈。

 

但除了被告知更新信息外，（长达2个月内）没有接到公共关系和政策部门的任何反馈。而在你休假的前一周，突然看到日历上（大约下午2点）弹出了下午4：30的会议通知。没有任何人事先告知你会议的内容。

而后就在这次会议上，你上司的上司告诉你“决定已经出来了”，你需要在下周，也就是11月27日之前撤回这篇论文，而这周几乎所有人都会外出（这个日期与会议进程也无关）。

 

你不值得公司就此为你展开一场谈话，因为在这个公司，你不是一个被认可，被认为有价值的人（更不用说那些被记者、政府、科学家、社会组织，如电子前沿基金会等认可的专业知识能在这个公司得到认可或重视）。

 

接着，你希望获得更多的信息。有哪些具体的反馈？是谁提出的？为什么是现在给？为什么之前没有通知？你能和其中一个人交流一下吗？你能了解一下文章的具体问题，以及可修改之处吗？

 

一段时间过后，你被告知，你的上司可以给你看一份特权机密文件，而对此你甚至无权知道，这份文件是谁写的，谁给的反馈，遵循怎样的流程或其他内容。你写了一份详细的文件，探讨你能找到的任何反馈，向反馈者提问并且澄清一些问题，但这份文件完全被忽略了。你又一次被勒令撤回论文，没有经过任何交谈。

 

然后你试着和别人交流，告诉他们这是不能接受的，可非但没有反思，恰恰相反——他们开始试图寻找替罪羊。

 

像这样压制边缘化的声音与我们讨论过的NAUWU原则背道而驰。而在“负责任的人工智能”的背景下这样做，无异于在伤口上撒太多的盐。

 

推荐阅读专题

留言点赞发个朋友圈

我们一起分享AI学习与发展的干货

编译组：陈睿欣、周婷

相关链接：

https://onezero.medium.com/read-the-email-that-led-to-the-exit-of-google-a-i-ethicist-timnit-gebru-45a4775c14ca

如转载，请后台留言，遵守转载规范

推荐文章阅读

ACL2018论文集50篇解读

EMNLP2017论文集28篇论文解读

2018年AI三大顶会中国学术成果全链接

ACL2017论文集：34篇解读干货全在这里

10篇AAAI2017经典论文回顾

长按识别二维码可添加关注

读芯君爱你