首页»行业  »   正文

只要8美元,任何人都可以让AI写一篇联合国演讲稿

只要8美元,任何人都可以让AI写一篇联合国演讲稿

联合国的研究人员仅花费7.8美元和13小时的训练时间,通过开发一个程序,就可以为联合国大会生成看似是人类撰写的演讲稿。

该研究通过另一个迹象表明,deepfake的时代已经到来,伪造的文本可能与假视频一样具有威胁性,或许比视频更糟糕,因为它们的成本如此之低。

在这项实验中,Joseph Bullock和Miguel Luengo-Oroz使用1970年至2015年期间联合国大会上政客发表的演讲的英文文本,为机器学习算法创建了一个分类。

他们的目标是训练一种语言模型,该模型能够自动生成文本,以气候变化和恐怖主义等为主题。

根据研究人员的说法,算法能够根据给定标题主题的一两个句子,为每个主题生成50到100个单词。

该研究展示了软件如何真实地再现一篇听起来很真实的演讲,无论是关于一个一般性话题,还是联合国秘书长的一份具体声明,最后还展示了该软件是否能包含政治敏感话题中的偏见。

只要8美元,任何人都可以让AI写一篇联合国演讲稿

不过还算令人安心的是,主题越不稳定,算法执行得越好。在大约90%的案例中,该方案能够生成一些文本,这些文本可能受大会发言人关于一般政治议题或与秘书长处理的具体问题的训练。

该算法在处理移民或种族主义等敏感话题上的题外话时比较困难,因为数据无法有效地模拟那种演讲。

作者自己注意到文本deepfake在政治中可能产生的深刻影响:

人工智能技术的日益融合和普及,增加了它们所带来挑战的复杂性,而这些复杂性往往会让人产生一种超脱其潜在负面影响的感觉。然而,我们必须确保在人的层面上评估这些风险。

针对人工智能领域的法律和法规是迫切需要的,应该旨在限制这些风险的可能性。考虑到这一点,这项工作的目的是提高对人工智能文本生成的危险的认识,并就旨在解决这些挑战的科学和政策领域提出相关建议。

欢迎关注ATYUN官方公众号,商务合作及内容投稿请联系邮箱:bd@atyun.com

发表评论