您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI正在开发新的AI图像检测工具
2024年05月08日 由 samoyed 发表
38
0
OpenAI已经增加了一个新工具来检测图像是否由其DALL-E AI图像生成器制作，同时还增加了新的水印方法来更清晰地标记其生成的内容。
在一篇博文中，OpenAI宣布已开始开发新的来源追溯方法以跟踪内容并证明其内容是否由AI生成。这包括一个新的图像检测分类器，它使用AI来确定照片是否是AI生成的，并且增加了一个防篡改水印，通过不可见的信号为内容（如音频）添加标签。
这个分类器可以预测图片由DALL-E 3创建的可能性。OpenAI声称，即使图像被裁剪、压缩或饱和度改变，该分类器也能工作。虽然该工具在检测是否使用DALL-E 3制作的图像时具有约98%的准确率，但它在判断内容是否来自其他AI模型时的表现并不出色，只能标记出Midjourney等其他图像生成器创建的5%到10%的图片。
OpenAI之前已将内容凭据添加到来自内容来源和权限联盟（C2PA）的图像元数据中。内容凭据本质上是水印，包含有关图像所有者和如何创建图像的信息。OpenAI与微软和Adobe等公司一同成为C2PA的成员。本月，OpenAI还加入了C2PA的指导委员会。
这家AI公司还开始在其文本到语音平台Voice Engine的预览版中添加水印，该平台目前处于有限预览阶段。
图像分类器和音频水印信号仍在不断完善中。OpenAI表示，它需要获得用户反馈来测试其有效性。研究人员和非营利新闻组织可以通过将图像检测分类器应用于OpenAI的研究访问平台来测试它。
OpenAI多年来一直在研究检测AI生成的内容。然而，在2023年，它不得不结束一个识别AI撰写的文本的程序，因为AI文本分类器的准确率一直很低。
文章来源：https://www.theverge.com/2024/5/7/24151482/openai-image-detection-ai-watermarking-audio
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消