OpenAI由于“低准确率”而停止其人工智能写入检测器

2023年07月27日 由 Susan 发表 224740 0
周四,OpenAI悄悄地撤下了人工智能分类器,这是一个旨在检测人工智能编写文本的实验工具。Decrypt首先注意到了退役,并没有大张旗鼓地进行,并通过OpenAI官方人工智能分类器网页上的一个小注释宣布:“截至2023年7月20日,人工智能分类器由于其低准确率已不再可用。我们正在努力吸收反馈意见,并当前正在研究更有效的文本溯源技术,并承诺开发和部署机制”

OpenAI的人工智能分类器于1月31日发布,当时教育工作者对学生可能使用ChatGPT写文章和作业发出了强烈的呼声。从一开始,OpenAI就承认其人工智能分类器并不“完全可靠”,只有26%的人工智能的文本被正确识别为“可能是人工智能书写的”,9%的时间错误地标记了人类书写的作品。

正如我们在Ars上指出的那样,诸如OpenAI的人工智能分类器、Turnitin和GPTZero等人工智能写作检测器的准确性并不足以依赖它们来获得可信赖的结果。它们的工作方法论尚存在推测性和未经证实的问题,这些工具目前经常被用于错误地指控学生作弊。

人类可以写出像人工智能模型一样的文章,而如果给予适当的提示,人工智能模型也可以写出像人类一样的文章。往往,要避开人工智能检测器只需简单地要求ChatGPT以某个已知作者的风格写作。但是,这并没有阻止过去六个月中涌现出一小批商业人工智能检测器的发展。

“如果OpenAI无法使其人工智能检测工具正常工作,其他人也不可能做到,”人工智能作家兼未来主义者丹尼尔·杰弗里斯在推特上写道。“我以前就说过人工智能检测工具就是帮助人们骗钱的推销品,而这只是进一步证明了它们是无用的。不要相信它们。它们都是无稽之谈。”

这些观点目前已由最近的研究(Sadasivan等人,2023年)和教育工作者的证词所支持。教育工作者们经常发现他们自己的人工写作被标记为人工智能创作。此外,人工智能写作检测器被发现不公平地惩罚非英语母语作家,以及可能存在观点不同的作家。

目前仍在进行研究,以确定是否可以为人工智能生成的文本添加水印,通过有意地操纵人工智能生成输出中单词的频率,但上述研究显示,文本水印可以很容易地被改写输出的人工智能模型所击败。

目前看来,人工智能写作已经成为一种常态。展望未来,如果以技巧使用,人工智能增强的文本很可能会在人类伟大作品中流动而不被察觉。也许是时候超越文本的组成方式,确保它正确地表达出特定人类想要表达的意思了,而这正是所有有效沟通的目的所在。

 

来源:https://arstechnica.com/information-technology/2023/07/openai-discontinues-its-ai-writing-detector-due-to-low-rate-of-accuracy/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消