您尚未登录账户
您的企业账号申请正在审核中
OpenAI解散任务对齐团队，专注于“安全”和“可信赖”的AI开发
OpenAI解散了一个专注于确保其AI系统“安全、可信赖，并始终与人类价值观保持一致”的团队。同时，该团队的前负责人被任命为公司“首席未来学家”的新角色。并且该团队的成员现已被分配到其他岗位。
被解散的团队似乎是在2024年9月成立的，是这家初创公司的内部部门，专注于对齐工作。这是一个广泛的行业领域，旨在确保AI的行为符合人类的利益。在行业内是一个广泛关注的领域，旨在确保AI的行为符合人类的利益。
“我们希望这些系统在复杂的现实世界场景和对抗性条件下始终遵循人类意图，避免灾难性行为，并保持可控、可审计和与人类价值观一致，”OpenAI的对齐研究博客中的一篇文章宣称。
OpenAI的一则招聘信息描述对齐团队致力于AI研究，专注于“开发方法，使AI能够在包括对抗性或高风险的广泛场景中稳健地遵循人类意图。”
在一篇博客文章中，OpenAI对齐团队的前负责人Josh Achiam解释了他作为公司首席未来学家的新角色。“我的目标是支持OpenAI的使命——确保通用人工智能造福全人类——通过研究世界将如何因AI、AGI及其后续发展而改变，”Achiam写道。
Achiam指出，在他的新角色中，他将与OpenAI技术团队的物理学家Jason Pruet合作。
OpenAI的一位发言人表示，剩余的对齐团队——一个由六到七人组成的小组——随后被重新分配到公司不同的部门。发言人无法具体说明团队成员被分配到哪里，但表示他们在这些岗位中从事类似的工作。目前尚不清楚Achiam在其“未来学家”角色中是否会有一个新团队。
发言人将团队的解散归因于公司内部快速发展的常规重组。
OpenAI之前有一个所谓的“超级对齐团队”——该团队于2023年成立，专注于研究AI带来的长期生存威胁——但该团队在2024年被解散。
Achiam的个人网站仍将他列为OpenAI的任务对齐负责人，并描述他对确保“人类的长期未来是美好的”感兴趣。他的LinkedIn资料显示他自2024年9月起担任任务对齐负责人。
