Instagram使用AI自动检测发布的图片中的网络欺凌行为

Instagram使用AI自动检测发布的图片中的网络欺凌行为Instagram宣布开始使用AI检测其社交网络平台上发布的图片中的网络欺凌行为,突出了科技公司在其审核过程中使用自动化的努力。

Instagram新任主管Adam Mosseri表示,在线欺凌是一个复杂的问题,影响了大量用户。

Mosseri在新闻稿中说,“虽然在Instagram上分享的大多数照片都是积极的,并且给人们带来欢乐,但偶尔有人会分享不友好或不受欢迎的照片。我们现在正在使用机器学习技术主动检测照片及其文字中的欺凌行为,并将其发送给我们的社区运营团队进行审核。”

Instagram用户已经可以报告违反服务指南的内容,但新工具可以自动检测欺凌行为。

该技术目前正在推出,并将在未来几周内更加普及。Mosseri承认该工具将帮助那些通常不会报告欺凌行为的人,例如年轻的成员。

继Facebook领先后,Instagram的欺凌评论过滤器也将用于直播视频。Instagram表示它将能够自动隐藏攻击性评论,用户可以添加手动过滤器来支持该算法。

网络欺凌最近一直是一个热门话题,许多科技公司因未能提供更好的骚扰和仇恨言论政策而受到审查。Facebook已经雇用了数千人来审查可能违反其行为准则的内容。然而,这个技术巨头只能进行如此多的监管,导致公司和发布攻击性内容之间的竞争。

“虽然制止恶霸很重要,但我们还必须做更多的事情来庆祝和激发Instagram上的善意,”Mosseri表示。

以前经营Facebook新闻Feed的Mosseri在10月初宣布成为Instagram的负责人。Instagram的联合创始人Kevin Systrom和Mike Krieger于9月宣布离开公司。

为纪念美国国家欺凌预防月,Instagram还与Maddie Ziegler合作推出了一种善良相机效应,以激发积极性。在自拍模式下,心形将填满屏幕,并鼓励用户标记他们想要支持的朋友。

虽然Instagram承认在保护社区用户方面还有更多工作要做,但Mosseri表示,Instagram很高兴宣布这些打击欺凌的新方法。

本文为ATYUN(www.atyun.com)编译作品,ATYUN专注人工智能
请扫码或微信搜索ATYUN订阅号及时获取最新内容

发表评论