由于“准确率低”,OpenAI关闭了AI检测工具
2023-07-27 12:06:55行业资讯

WechatIMG3358.jpg

公开发布不到六个月后,OpenAI似乎已经关闭了它的“人工智能分类器”,这是一种人工智能检测工具,ChatGPT的创建者此前曾将其称为“区分人类编写的文本和来自各种提供商的人工智能编写的文本的分类器”

“虽然不可能可靠地检测到所有人工智能编写的文本,但我们相信好的分类器可以为人工智能生成的文本是由人类编写的虚假声明提供缓解措施,”今年1月31日发布的一篇介绍该工具的OpenAI博客文章写道,“例如,运行自动虚假信息活动,使用人工智能工具进行学术欺诈,以及将人工智能聊天机器人定位为人类。”

当然,这些都是非常合理的担忧,这意味着一个有效的人工智能检测器确实有助于应对这些和其他人工智能滥用案例。

但是快进到上周,在同一篇博客文章中,OpenAI悄悄地发布了一个更新,指出它的分类工具不再可用——而它可悲的不准确是罪魁祸首。(该工具的链接也从OpenAI的网站上消失了。)

7月20日发布的通知写道:“截至2023年7月20日,人工智能分类器由于准确率低而不再可用。”“我们正在努力整合反馈,目前正在研究更有效的文本出处技术,并承诺开发和部署机制,使用户能够理解音频或视频内容是否是人工智能生成的。”

他们试过了,我们猜?但这令人沮丧。如果构建ChatGPT的专家不能构建一个可靠地检测其输出的工具,很难想象其他人是否可以?

该工具的失败让人感觉意义重大。可以说,ChatGPT的发布启动了生成性人工智能的快速公众采用,随着这些工具继续获得动力,合成内容只会激增。与此同时,判断一段内容是否是由人类创造的也可能变得越来越困难。

一个可靠的人工智能探测器将大大有助于防止现实完全消失。

也就是说,考虑到1.他们从未承诺机器完全准确,2.没有人能够生产出完全可靠的人工智能检测工具,看到OpenAI关闭项目并不令人惊讶。

即便如此,对于任何近期的人工智能检测解决方案来说,这似乎是一个严峻的迹象,OpenAI甚至没有坚持半年就放弃了分类器——尤其是考虑到目前为止,可靠的替代方案几乎不存在。