您尚未登录账户
您的企业账号申请正在审核中
谷歌推出SynthID检测器，打击AI作弊
随着深度伪造、虚假信息和AI辅助作弊在网络和课堂上蔓延，谷歌DeepMind于周二推出了SynthID检测器。这个新工具扫描图像、音频、视频和文本，以检测谷歌不断增长的AI模型嵌入的不可见水印。
设计为在一个地方跨多种格式工作，SynthID检测器旨在通过识别由谷歌AI创建的AI生成内容，包括音频AI，来提高透明度NotebookLM、Lyria和图像生成器Imagen，并突出显示最有可能被水印标记的部分。
“对于文本，SynthID查看哪些词将被生成，并改变适合的词选择的概率，这不会影响整体文本质量和实用性，”谷歌在演示中表示。
“如果一段文字包含更多的首选词选择实例，SynthID将检测到它被水印标记，”它补充道。
SynthID在文本生成过程中调整词选择的概率分数，嵌入一个不影响输出意义或可读性的不可见水印。这个水印可以稍后用于识别由谷歌的Gemini应用或网络工具生成的内容。
谷歌首次在2023年8月推出SynthID水印作为检测AI生成图像的工具。随着SynthID检测器的推出，谷歌将这一功能扩展到包括音频、视频和文本。
目前，SynthID检测器在有限发布中可用，并为记者、教育工作者、设计师和研究人员提供了试用该程序的候补名单。
随着生成式AI工具的普及，教育工作者发现越来越难以确定学生的作品是否原创，即使是在旨在反映个人经历的作业中。
使用AI作弊
最近一份报告由纽约杂志强调了这一日益严重的问题。
圣克拉拉大学的一位技术伦理教授布置了一篇个人反思文章，结果发现有一名学生使用ChatGPT完成了作业。
在阿肯色大学小石城分校，另一位教授发现学生依赖AI撰写课程介绍文章和课堂目标。
尽管使用其AI模型在课堂上作弊的学生数量增加，OpenAI在2023年关闭了其AI检测软件，理由是准确率低。
“我们认识到识别AI撰写的文本在教育工作者中是一个重要的讨论点，同样重要的是认识到AI生成文本分类器在课堂上的局限性和影响，”OpenAI当时表示。
加剧AI作弊问题的是像Cluely这样的新工具，这是一款旨在绕过AI检测软件的应用程序。由前哥伦比亚大学学生Roy Lee开发，Cluely在桌面级别绕过AI检测。
被宣传为一种在考试和面试中作弊的方法，Lee筹集了530万美元来开发该应用程序。
“在我发布了一段自己在亚马逊面试中使用它的视频后，它迅速走红，”Lee之前告诉Decrypt。“在使用它时，我意识到用户体验非常有趣——没有人探索过这种看似透明的屏幕覆盖，能看到你的屏幕，听到你的音频，并像是你的电脑的第二玩家。”
尽管有像SynthID这样的工具的承诺，许多当前的AI检测方法仍然不可靠。
