美国加州州长否决人工智能安全法案

2024年09月30日 由 neo 发表 64 0

美国加州州长加文・纽森(Gavin Newsom)正式否决了备受瞩目的《前沿人工智能模型安全创新法案》(简称 SB 1047)。在其否决声明中,纽森州长详细阐述了多个影响他作出这一决定的关键因素,包括法案对人工智能(AI)企业的潜在负担、加州在全球AI领域的领先地位,以及对该法案可能存在的过度宽泛性的担忧。

QQ截图20240930104131

SB 1047 法案旨在为大型AI模型的开发设立安全标准,特别是针对训练成本超过1亿美元或具备高算力需求的开发者。该法案要求这些开发者在模型部署前进行严格的测试,包括模拟黑客攻击、安装网络安全防护,以及为举报人提供保护等,以确保模型的安全性。

今年2月,SB 1047 法案首次提交给加州议会,随即引发了广泛的争议。经过多次修订,该法案的最新版本于8月19日由加州立法机构公布。尽管得到了AI领域知名专家如杰弗里・辛顿和约书亚・本吉奥的支持,但同样也有多位科学家,如杨立昆和李飞飞,以及多家头部AI企业表达了反对意见,认为该法案可能会“阻碍创新”。

纽森州长表示:“SB 1047 的初衷无疑是积极的,但它未能充分考虑AI系统的具体应用场景和风险等级。无论AI系统是否涉及高风险环境、关键决策或敏感数据,只要它们属于大型系统,该法案都会对其施加严格的安全标准。我认为,这种方法并不是保护公众免受AI技术潜在威胁的最佳途径。”

此外,纽森州长还指出,SB 1047 法案可能会给公众带来一种“虚假的安全感”,而实际上,一些更小、更专业的AI模型同样甚至可能具有更高的风险。他强调,如果过于严格地限制大型AI模型,可能会削弱推动公共利益进步的创新动力。

纽森州长表示,他支持制定AI安全协议和护栏,并确保不良行为者承担“明确且可执行”的后果。然而,他认为,国家应该寻求基于AI系统和能力实证轨迹分析的解决方案,而不是仅仅满足于一个宽泛且可能不切实际的法案。

对于纽森州长的决定,Meta公共事务经理Jamie Radice表示:“我们很高兴看到纽森州长否决了SB 1047法案。该法案将严重阻碍AI创新,损害业务增长和就业机会,并打破加州在促进开源开发方面的悠久传统。我们支持负责任的AI法规,并愿意继续与立法者合作,共同推动更好的解决方案。”

文章来源:https://www.theverge.com/2024/9/29/24232172/california-ai-safety-bill-1047-vetoed-gavin-newsom
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消