OpenAI正在开发软件来检测由ChatGPT生成的文本
2023-01-10 11:57:26行业资讯

简而言之,OpenAI正在开发能够检测文本是否由其ChatGPT模型生成的软件。此前,纽约市教育官员宣布,OpenAI将阻止学生在公立学校访问该工具。

WechatIMG2835.jpeg

关于学生使用AI帮他们做作业的报道促使教师们思考它们对教育的影响。一些人对语言模型如何抄袭现有的工作或允许学生作弊表示担忧。据报道,现在OpenAI正致力于开发“缓解措施”,帮助人们检测ChatGPT自动生成的文本。

"我们将ChatGPT作为研究预览版提供,以便从实际使用中学习,我们相信这是开发和部署功能强大、安全的人工智能系统的关键部分。

“我们一直呼吁在使用人工智能生成的文本方面保持透明度。我们的政策要求用户在使用我们的API和创造性工具时,必须坦诚面对受众...我们期待着与教育工作者合作,共同开发有用的解决方案,并通过其他方式帮助教师和学生从人工智能中获益。“

能够区分由人类或机器产生的文字将改变它们在学术界的使用方式。学校将能够更有效地班宁智能生成的论文,或者如果他们能看到这些工具如何帮助他们的学生,他们可能会更愿意接受论文。

是的,生成式语言模型可能很好,但是他们不知道他们在说什么

尽管人工智能生成的文字在学术会议和学校班宁机器撰写论文的头条新闻中似乎令人印象深刻,但这里有一个提醒,与真实的的人类文字相比,它们缺乏理解。

当像GPT-3或ChatGPT这样的工具给出令人震惊的好答案时,专家们说这证明了模型有能力编码知识,但当他们不能正确地得到答案时,他们就被说成是幻觉。波莫纳学院经济学教授加里·史密斯提醒我们,不要被愚弄。

在一篇专栏文章中出版在沙龙中,他展示了一些GPT-3无法有效推理和回答问题的例子。

“如果你摆弄GPT-3(我鼓励你这么做),你的第一反应可能是惊讶......你似乎在和一个非常聪明的人进行真实的的对话。然而,深入探究,你很快就会发现,虽然GPT-3可以令人信服的方式将单词串在一起,但它不知道单词的意思,”他写道。

"预言这个词下很可能会跟随这个词瀑布不需要理解任何一个词的意思-只需要统计计算这些词经常一起出现。因此,GPT-3倾向于做出完全错误的权威声明。"

OpenAI去年11月发布了ChatGPT,这是一个新的模型,旨在改进GPT-3,但它仍然面临着这些相同的问题-像所有现有的语言模型。

苹果正在出版由AI机器人讲述的有声读物

苹果正在寻求与独立作家和出版商合作,帮助他们使用人工智能合成的声音叙述自己的书籍。

作者们被建议联系Draft2Digital和Ingram CoreSource,这两家公司在苹果图书应用程序上制作和出版电子书,如果他们想把他们的作品变成有声读物。他们只接受用英语写的浪漫和小说作品,其他类型的作品还不支持。

“越来越多的图书爱好者正在听有声读物,但只有一小部分的书籍被转换成有声读物-留下数百万的标题闻所未闻,”苹果说在一篇博客文章中。

“许多作者--特别是独立作者和那些与小出版商有关的作者--由于制作成本和复杂性而无法创作有声读物。Apple Books数字旁白让所有人都能更方便地创作有声读物,通过为听众提供更多可供欣赏的书籍,帮助您满足不断增长的需求。“

与计算机模仿人类时发出的机器人般的微弱声音相比,人工智能的合成声音有了很大的改进。它们现在听起来很自然,不那么单调。

新功能将允许自出版作家扩大他们的观众,并给他们另一个收入来源。一如既往,苹果将采取百分之三十所有在App Store上可用的应用程序上进行的购买。