YouTube正在将其AI生成深度伪造的识别技术扩展到一个试点小组，包括政府官员、政治候选人和记者。该公司在周二宣布。试点小组的成员将获得一个工具，可以检测未经授权的AI生成内容，并在他们认为其违反YouTube政策时请求删除。

这项技术于去年推出给大约400万YouTube创作者，这些创作者属于YouTube合作伙伴计划，继早期测试之后。

这项技术类似于YouTube现有的内容ID系统，该系统用于检测用户上传视频中的版权保护材料。肖像检测功能则用于寻找用AI工具制作的模拟面孔。这些工具有时被用来试图传播错误信息并操纵人们对现实的认知，因为它们利用知名人物的深度伪造形象——如政治人物或其他政府官员——在这些AI视频中说和做他们在现实生活中没有做过的事情。

通过新的试点计划，YouTube旨在平衡用户的自由表达与AI技术相关的风险，这些技术可以生成公众人物的逼真肖像。

“这次扩展实际上是关于公共对话的完整性，”YouTube政府事务和公共政策副总裁Leslie Miller在周二发布前的新闻发布会上说。“我们知道AI冒充的风险对于那些在公民领域的人来说特别高。但虽然我们提供了这个新的保护措施，我们也在小心使用它的方式，”她指出。

Miller解释说，并不是所有检测到的匹配项在请求时都会被删除。相反，YouTube将根据其现有的隐私政策指南评估每个请求，以确定内容是否为受保护的自由表达形式，如讽刺或政治批评。

该公司指出，它也在联邦层面倡导这些保护措施，并支持NO FAKES法案在华盛顿特区，该法案将规范使用AI创建未经授权的个人声音和视觉肖像的再现。

要使用新工具，合格的试点测试者必须首先通过上传自拍和政府ID来证明他们的身份。然后，他们可以创建个人资料，查看出现的匹配项，并可选择请求删除。YouTube表示，计划最终让人们能够在违规内容上线之前阻止其上传，或者可能允许他们通过这些视频获利，类似于其内容ID系统的工作方式。

该公司不会确认哪些政治人物或官员将成为其初始测试者，但表示目标是随着时间的推移广泛提供这项技术。

这些AI视频将被标记为此类，但这些标签的位置并不一致。对于一些视频，标签出现在视频描述中，而对于更“敏感话题”的视频，标签将应用于视频的开头。这是YouTube对待所有AI生成内容的相同方法。

“有很多内容是用AI制作的，但这种区别实际上对内容本身并不重要，”YouTube创作者产品副总裁Amjad Hanif解释了标签的位置。“它可能是一个用AI生成的卡通。所以我认为是否需要一个非常明显的免责声明是一个判断问题，”他说。

“我认为对于很多[创作者]来说，这只是对正在创建的内容的意识，但实际删除请求的数量非常非常低，因为大多数内容实际上是相当无害的或对他们的整体业务有益的，”Hanif说。

这可能不适用于政府官员、政治人物或记者的深度伪造。

随着时间的推移，YouTube打算将其深度伪造检测技术推广到更多领域，包括可识别的语音和其他知识产权，如流行角色。