Facebook宣布用AI改进对恐怖主义视频的检测

2019年03月22日 由 老张 发表 855483 0
Facebook急于从其平台上撤下新西兰大规模射击的视频,在一篇新文章中,Facebook诚信部副总裁Guy Rosen讨论了该公司在解决这一问题方面的成功和不足,以及计划在未来阻止此类视频在社交网络上传播。

他解释说,虽然平台的AI可以快速检测出含有自杀或有害行为的视频,但射击并没有触发它。为了能够训练匹配的AI以检测特定类型的内容,该平台需要大量的训练数据。

正如Facebook解释的那样,很难获得类似的东西,因为这些事件非常罕见。此外,那些看过直播的人都没有报告,第一个用户报告出现在广播开始29分钟后,以及直播结束12分钟后。不过现场直播的观看次数只有不到200次,而原始视频的总观看次数为4000次。



Rosen还解释了为什么Facebook系统已经检测到超过30万份拷贝能够在平台上传播,并在上传后删除了120万份视频。

他说,有一些不法分子不断重新上传视频的编辑版本。通过稍微调整它而不上传原始的相同副本,他们能够绕过平台的过滤器。有些人甚至在他们的电脑上播放原版,然后将其录制在手机上。总而言之,Facebook能够检测到800多种视频变体,每种变体在视觉上都截然不同。

为了防止类似的视频在未来传播,Facebook计划通过赋予其基于音频的检测能力来改进其匹配的AI。它还需要确保AI能够清楚地区分类似内容和视频游戏直播。此外,Facebook正在探索更多如何使用AI来更快地检测实时广播的方式,以及如何更快地处理用户报告。
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消