危险 AI 花名册

简评:臭不要脸 AI 名单,another side of AI.

这是一个可怕的 AI 清单,上面的各种商用 AI 项目都用于一些很恶劣的目的。请大家保持警惕。

区别对待类

  • HireVue - 扫描你的脸并告诉公司你是否值得雇用的应用程序[ 摘要 ]
  • 同性恋检测 AI - 根据一项新的研究表明,机器可以比人类具有更好的同性恋判断,人工智能可以根据他们的脸部照片准确地猜测人们是否是同性恋[ 摘要 ]
  • 种族主义者聊天机器人 - 微软聊天机器人叫做 Tay,它从 Twitter 学习了一天,并开始吐露一些种族主义言论[ 摘要 ]
  • 种族主义自动标签 - 谷歌图像识别程序将几个黑人的脸部标记为大猩猩[ 摘要 ]
  • PredPol - PredPol 是警察部门的一个程序,可以预测未来可能发生的犯罪的热点地区,它可能会让黑人和有色人种社区被无端怀疑。[ 摘要 ]
  • COMPAS - 是威斯康星州法律法院用来预测再犯风险的风险评估算法。其开发公司拒绝透露专有算法,只有最终的风险评估分数是已知的。该算法推论黑人的再犯罪指数更高。[ 摘要 ] [ 纽约时报社论]

坏影响力、虚假新闻、谣言类

  • 剑桥分析公司 - 剑桥分析公司使用 Facebook 数据来改变受众对于政治和商业的行为和倾向[Guardian 文章]
  • Deep Fakes - Deep Fakes 是一种基于人工智能的人体图像合成技术。它用于将现有图像和视频合并并叠加到源图像或视频上。Deepfakes 可能被用来制造假的名人色情录像或复仇性质的色情片。[ AI 辅助假色情 ]
  • 假新闻僵尸工具 - 通过僵尸账号自动编程传播假新闻。假新闻用来操纵股市,散布假保健品消息,操纵选举(包括全美大选)[ 摘要 ] [ 机器人角色 ]
  • 注意力工程 - 从 Facebook 通知到 Snapstreaks 到 YouTube 的自动播放,他们都在争夺一件事:你的注意力。公司为了自己的利益而掠夺我们的心智[ TED Talk ]

社会信用体系

  • Social Credit System - Using a secret algorithm, Sesame credit constantly scores people from 350 to 950, and its ratings are based on factors including considerations of “interpersonal relationships” and consumer habits - [summary][travel ban](间歇性英语能力缺失症发作,不翻译)
  • Vitality - 健康保险公司,提供基于健身追踪器数据访问的交易[ 摘要 ]

监控

  • SenseTime&Megvii - 基于面向深度学习算法的人脸识别技术,SenseFace 和 Megvii 提供智能视频分析集成解决方案,用于目标监控,轨迹分析,人口管理[ 摘要 ] [ 福布斯 ]
  • Uber God View - 优步的「上帝视角」,让优步员工看到了城市中的所有 Uber,以及等车用户的所有个人信息[ 荣耀之车]
  • Palantir - 一家专注于预测政策、情报和军事防御系统的 10 亿美元级别的 AI 初创公司[ 摘要 ]

垃圾 AI 的克星

下面这些都是开源的,是那些不好的 AI 的克星。

  • Data Selfie - 浏览器扩展,可以在你访问 Facebook 的时候记录你,给你提供刚才的数据痕迹,根据算法预测你的个性[ 代码 ]
  • AdNauseam - 轻量级浏览器扩展,它的作用比较迷幻,用于方及网络广告追追踪,说的简单点,你打开一个网页,如果你点击了一些网站就会被记录倾向,而这个软件就是让你打开一个网站,它把上面所有的广告都给点个遍,防止广告商知道你的倾向。[ 代码 ](虽然初衷是好的,但是打开一个新网站就把广告点个遍很智障)
  • BS检测器 - 浏览器扩展,搜索页面上的不可靠来源并标注出来。[ 代码 ]
  • Snopes.com - 由大卫·米克尔森创建,该项目始于 1994 年,现已成长为互联网上历史最悠久,规模最大的事实核查网站,被记者,民间人士和非专业人士广泛认可。
  • Facebook容器 - Facebook 容器将你的 Facebook 活动与其他网络活动隔离开来,以防止 Facebook 通过第三方 Cookie 追踪你[ 代码 ](针对 Facebook 的沙盒)

原文链接:daviddao/awful-ai
推荐阅读:工程师如何在面试中脱颖而出

你可能感兴趣的:(危险 AI 花名册)