文 | 柯鸣
来源 | 智能相对论（aixdlun）
这一天终究还是来了。
亚马逊开始向军方推销起AI武器来了。
据悉，亚马逊正在为政府和警察部门推销其一款名为Amazon Rekognition的产品，这款产品可以实时识别，跟踪和分析人员，并在单幅图像中识别多达100个人。它还可以快速扫描收集的信息，与数据库数千万张面孔进行比对。
这意味着，通过亚马逊的技术可以监控“团体照片、拥挤人群以及机场等公共场所中的所有面孔”。此消息一出，瞬间引发了一系列恐慌。美国公民自由联盟（ACLU）组织了30多个民权组织联合反对亚马逊的此行为，并举行一系列抗议活动，反对美国政府使用人脸识别技术，并要求亚马逊CEO贝索斯停止向政府出售Rekognition。
大部分民众认为，通过Rekognition，政府现在可以构建一个自动识别和跟踪任何人的系统。如果警察配备的随身摄像头配备了人脸识别装置，那么原本用于执法透明和问责制的装置将转变为针对公众的监视器。
亚马逊Rekognition的精准人脸识别
“风口浪尖”的亚马逊
此举一出，亚马逊内部及其用户议论纷纷。
在亚马逊内部，许多员工加入民权团体，对其行为进行抗议，并认为这将对公民权利、特别是对移民和人民会产生独特威胁。
6月份，亚马逊内部的100多名员工更是向CEO杰夫·贝索斯（Jeff Bezos）递交了一份公开信，要求公司停止向ICE和其他执法机构出售侵入性和违宪的Rekognition面部识别技术。
亚马逊CEO杰夫·贝索斯（Jeff Bezos）
除了要求停止出售Rekognition之外，亚马逊员工在信中还呼吁公司停止对数据分析公司Palantir提供支持。
Palantir是Peter Thiel于2003年创立的大数据公司，为执法部门提供预测性警务工具，并通过亚马逊网络服务公司与ICE签订了大量合同（Thiel曾秘密资助了一起导致Gizmodo的前母公司Gizker Media破产的诉讼）。
但是，对此情况，亚马逊并不买账。面对“内外夹击”般的抗议，亚马逊并没有像谷歌一般将项目推迟，而是选择了“正面硬刚”。亚马逊回应：不能因为技术可能会被滥用就限制其进步。并表示其将坚决的捍卫Rekognition。
在商言商，从商业角度来看，亚马逊的行为没有原则性的问题，但是，当人脸识别技术牵涉的“伦理”、“隐私安全”等敏感领域时，这就不像亚马逊说的这样简单了。
人脸识别，想说爱你不容易
人脸识别技术已经投入市场中有相当长的时间了，可是从其表现来看，并没有想象中优异。智能相对论（aixdlun）分析师柯鸣认为，人脸识别技术的发展，其依然存在着较多问题。
1.“冤枉了98%的好人”
人脸识别的准确率，远没有我们想象中的那么高。在此前伦敦议会听证会上，大都会警察局局长Cressida Dick透露出，本地警察局部署的人脸识别系统准确率仅为2%。
去年6月的欧冠联赛上，当南威尔士警方的人脸识别相机首次应用时，系统发出了2470次警报。也就是说，在这场球赛中每隔三秒就会提示嫌犯来了，系统的努力程度着实令人感动。
但是，在这两千多次的预警中，只有173次是正确的判断，AFR的错误率高达92%。英国警方给出的统计数据显示，截止到今年5月份，南威尔士警方的AFR识别错误率平均为91%。
历史上最著名的人脸误判案例可能是1903年在美国堪萨斯州发生的William West-Will West案件。当时一个名为威尔?韦斯特(Will West)的犯人正要被收押进莱文沃思(Leavenworth)监狱。监狱职员看他面熟，问他以前是否来过这里，威尔说没有。接着职员调出了William West的照片给威尔看，威尔说：“这的确是我，可是你们是怎么拿到这张照片的呢?以前我从未到这儿来过。”从此，从美国开始，各国监狱和司法系统开始用指纹进行罪犯身份登记和管理。
显然，此类的乌龙事件让人啼笑皆非的同时也不免有阵阵隐忧。如此“不靠谱”的人脸识别，真的能够成为安防等领域的保护伞吗？
2.人脸识别，道阻且长
先不论人脸识别本身的正确率，其自身运作中也存在着一部分问题。
首先，人脸识别并不是精准信息对比，而仅仅是相似度对比。因为人脸识别和算大技术不同，值的设定方法完全不同，评判的标准自然也不同，即使从识别实际效果看，其包括误识率（FAR）：将其他人误作指定人员的概率；以及拒识率（FRR）：将指定人员误作其他人员的概率。这些结果都受到训练和测试空间样本的影响，难以做到完全精确。
其次，人脸图片的采集如果不做活体监测，就易招致基于用户照片的重放攻击。活体检测的话，对后台的计算资源和网络的传输资源要求较高，所以在目前实际上线的人脸识别都是非常容易攻破的。
最后，人脸形态的易变形让人脸识别更易出错。人可以通过脸部的变化产生很多表情，而在不同观察角度，人脸的视觉图像也相差很大，另外，人脸识别还受光照条件(例如白天和夜晚，室内和室外等)、人脸的很多遮盖物(例如口罩、墨镜、头发、胡须等)、年龄等多方面因素的影响。
隐私的无情泄露，你的脸还好吗？
在大量的抗议面前，三大公司中微软首先选择了低头。在关于人脸识别的潜在用途和滥用的一篇博客文章中，微软总裁Bradford L. Smith将该技术与受到全面监管的药品和汽车等产品进行了比较，并敦促美国国会展开研究并监督人脸识别技术的使用。
作为人脸识别软件主要制造商之一，微软表示它将采取措施降低这些系统产生偏差的可能性；制定新的公共原则来管理技术；并会更谨慎地出售其在该领域的软件和专业知识。微软指出，虽然技术行业需要对其产品负责，但是政府也要采取行动。
人脸识别是目前AI领域里应用最广泛的技术之一，但在推广的过程中也引起了越来越多的争议。今年4月，个人隐私保护组织向美国联邦贸易委员会提起诉讼，称Facebook在未获得用户适当许可的情况下开启了新的人脸识别服务。
当前，大数据、云计算和人工智能等技术推动移动互联网中新的应用场景层出不穷，但其背后的隐私和数据保护，已经成为网络平台和移动终端迫在眉睫的要务。从整体移动终端市场来看，应用领域数据滥用的情况十分突出。第三方应用对于个人信息过度收集、隐秘收集和诱骗收集的情况日渐增多。
用户隐私数据安全挑战加剧主要出于三方面原因：第一，过于笼统的“用户协议”贩卖了用户信息，获取和收集用户个人信息的授权，导致个人信息使用的不规范甚至大量泄漏。
第二，用户本身对保护个人信息重视程度不足。出于方便的考虑，不少用户在多处使用简单重复的账号和密码，当一处信息泄露便导致整体信息暴露。
第三，法律层面的缺失。当数据如同能源一样重要时，法律法规的滞后在一定程度上导致了数据安全和隐私保护的缺失。数据所有权、数据交易规则等基础法律界定仍未明确。例如，个人数据原本属于用户本身，但用户在网络平台中所产生的数据，如交易数据和行为数据，在经过脱敏后其所有权和使用权归属用户还是平台，仍未有答案。
从目前来看，人脸识别的场景也主要分为两种：一种是线上，如电脑通过你上传的用户图像识别你的身份；另一个是线下，如系统通过你在街上被监视器拍到照片来识别你的身份。而当前的情况是，线上与线下的数据保护都做的远远不够。所谓的用户授权更多是形同虚设，谁真正拥有了我们的“脸”？ 脸部识别软件的政府监管，将如何进行?人脸隐私保护这条路，似乎还需要坚强的走下去。
智能相对论（微信id:aixdlun）：深挖人工智能这口井，评出咸淡，讲出黑白，道出深浅。重点关注领域：AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等。