OpenAI是流行的新程序ChatGPT的创造者,它推出了一种新工具,可以检测一篇文章是由人工智能还是人类创作的。
ChatGPT能够立即就任何主题进行写作,这引起了争议,尤其是在教育领域,学生可能会使用它来提交不属于他们的作业。
然而,这款新工具可能很快就会终结学生们的任何卑鄙伎俩,尽管OpenAI表示,它在识别人工智能文本方面并不完全成功。
OpenAI在一篇博客文章中表示:“我们已经训练了一个分类器,可以区分人类编写的文本和各种提供商的人工智能编写的文本。”
“虽然不可能可靠地检测出所有人工智能编写的文本,但我们相信,良好的分类器可以帮助缓解人工智能生成的文本是由人类编写的虚假声明:例如,运行自动错误信息运动,使用人工智能工具进行学术欺诈,并将人工智能聊天机器人定位为人类。
“我们的分类器不完全可靠。”
榴莲app下载站长统计网址进入在对英语文本的评估中,分类器正确地将26%的人工智能书写的文本识别为“可能是人工智能向日葵草莓丝瓜芭乐鸭脖18岁书写的”,但在9%的情况下错误地将人类书写的文本标记为人工智能书写。
分类器的可靠性通常随着输入文本长度的增加而提高。
OpenAI表示,它已经公开了分类器,以获得像这样不完美的工具是否有用的反馈。
该分类器只推荐用于英语文本,因为它在其他语言中的表现“明显更差”,并且在代码上不可靠。
纽约市教育部表示,由于担心对学生学习产生负面影响,以及对内容的安全性和准确性的担忧,ChatGPT于11月30日推出后在纽约市被禁止。
本月早些时候,麦克创新管理学院(Mack Institute for Innovation Management)对该项目进行了沃顿商学院(Wharton Business School)的MBA期末考试。
最终的结果是,它将在考试中获得B到B的成绩。
Open AI表示:“我们正在与美国的教育工作者接触,了解他们在课堂上看到的情况,并讨论ChatGPT的功能和局限性,我们将在学习过程中继续扩大我们的服务范围。”
surface hub