OpenAI支持要求高级人工智能系统获得许可证的想法

2023年07月24日 由 Susan 发表 515981 0
OpenAI起草的一份内部政策备忘录显示,该公司支持要求任何想要开发先进人工智能系统的人获得政府许可的想法。该文件还表明,该公司愿意拉开用于训练图像生成器的数据的帷幕。

5月4日,白宫官员与包括OpenAI首席执行官Sam Altman在内的科技高管举行会议后,ChatGPT和DALL-E的创建者在内部文件中阐述了一系列人工智能政策承诺。这家总部位于旧金山的公司在草案中表示:“我们承诺与美国政府和世界各地的决策者合作,支持为未来几代最具能力的基础模型制定许可要求。”。




由OpenAI等人工智能巨头共同开发的政府许可系统的想法为与初创公司和开源开发者的潜在冲突埋下了伏笔,他们可能认为这是为了让其他人更难进入这一领域。这不是OpenAI第一次提出这个想法:在5月份的美国参议院听证会上,奥特曼支持成立一个机构,他说,该机构可以为人工智能产品颁发许可证,并在任何人违反既定规则时将其没收。







该政策文件发布之际,Microsoft公司,Alphabet Inc.的谷歌和OpenAI预计将在周五公开承诺为开发该技术提供保障措施听取白宫的呼吁。据知情人士透露,两家公司将承诺负责任地开发和部署人工智能。

OpenAI警告说,内部政策文件中提出的想法将与白宫即将宣布的想法以及科技公司不同。该公司负责全球事务的副总裁安娜·马坎朱(Anna Makanju)在接受采访时表示,该公司并没有“推动”许可证,因为它认为这种许可是政府跟踪新兴系统的“现实”方式。

“对于政府来说,重要的是要意识到可能具有潜在有害影响的超级强大的系统是否正在出现,”她说,并且“如果有人不愿意像我们一样自我报告,你很少有方法可以确保政府了解这些系统。

Makanju表示,OpenAI仅支持比OpenAI目前的GPT-4更强大的人工智能干模型的许可制度,并希望确保较小的初创公司免于过多的监管负担。“我们不想扼杀生态系统,”她说。

OpenAI还在内部政策文件中表示,它愿意对用于训练DALL-E等图像生成器的数据更加开放,并表示致力于在年底前“纳入出处方法”。政策制定者提出,数据来源一种用于让开发人员对其工作透明度及其来源负责的做法,对于防止人工智能工具传播错误信息和偏见至关重要。

OpenAI备忘录中提出的承诺与Microsoft五月份宣布的一些政策建议密切相关。 OpenAI指出,尽管从Microsoft获得了10亿美元的投资,但它仍然是一家独立的公司。

该公司在文件中透露,它正在进行一项关于水印的调查,一种跟踪人工智能生成图像的真实性和版权的方法 - 以及AI制作内容的检测和披露。它计划公布结果。

该公司还在文件中表示,它对外部红队持开放态度 - 换句话说,允许人们进入并在多个方面测试其系统中的漏洞,包括攻击性内容,操纵风险以及错误信息和偏见。该公司在备忘录中表示,它支持建立一个信息共享中心,以在网络安全方面进行合作。

在备忘录中,OpenAI似乎承认AI系统对就业市场和不平等构成的潜在风险。该公司在草案中表示,它将进行研究并向政策制定者提出建议,以保护经济免受潜在的“破坏”。

 

来源:https://techxplore.com/news/2023-07-openai-idea-requiring-advanced-ai.html#google_vignette

 
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消