OpenAI因“准确率低”的原因停止了其AI写作检测器

一幅由AI生成的沙漠中的老虎机图片

研究显示，任何AI写作检测器都可以被打败，假阳性也很普遍。

周四，OpenAI悄悄地撤下了其AI分类器，这是一个实验性工具，旨在检测由AI生成的文本。这一停用最初是由Decrypt注意到的，没有任何大张旗鼓的宣传，并通过添加到OpenAI官方AI分类器网页的小提示进行了公布：

从2023年7月20日开始，由于其准确率低，AI分类器将不再提供。我们正在努力整合反馈信息，并正在研究更有效的文本来源技术，并承诺开发和部署机制，使用户可以了解音频或视觉内容是否由AI生成。

在教育工作者对学生可能使用ChatGPT来写作文和学校作业的抱怨声中，OpenAI的AI分类器于1月31日发布，总是感觉像是在深深的创伤上贴了一种表演性的创可贴。从一开始，OpenAI就承认其AI分类器不是“完全可靠的”，只能正确识别26％的AI写作文本为“可能是AI写作”，并且有9％的错误标识人类写作文本。

正如我们在Ars上指出的那样，AI写作检测器（例如OpenAI的AI分类器，Turnitin和GPTZero）的准确性还不足以依赖它们产生可信赖的结果。它们工作的方法论是推测性的和未经证明的，目前这些工具经常被用来错误地指责学生作弊。

人类可以像AI模型一样写作，如果得到适当的提示，AI模型也可以像人类一样写作。通常，躲避AI检测器所需的全部是简单地要求ChatGPT以已知作者的风格进行写作。但是，在过去六个月中，出现了一个小型商业AI检测器产业。

“如果OpenAI不能使其AI检测工具运作，其他人也不能。 ”AI作家和未来学家丹尼尔·杰弗里斯发推文说，“我以前说过AI检测工具是卖给人们的蛇油，这只是证明它们是无稽之谈。不要相信它们。"

这些说法目前得到了最近研究（Sadasivan等，2023）和从教育工作者的证言的支持，他们经常发现他们自己的人类编写的工作被标记为AI组成。此外，发现AI写作检测器不公正地惩罚非母语英语的作家和可能是神经多样性的作家。

目前仍在进行研究，以确定是否可以通过有意地操作AI生成输出中的单词频率来添加水印，但上述研究表明，文本水印可以很容易地被AI模型打破，这些模型会对输出进行改写。

目前，似乎AI写作已经来了，未来，如果技术娴熟应用，AI增强文本可能会与伟大的人类作品一起流传而不被发现。现在，可能是时候放眼于文本的构成方式之外，确保文本恰当地表达了某个人想传达的内容，这是所有有效沟通的目的。