前沿模式论坛:倡导负责任的AI系统

2023年07月28日 由 Camellia 发表 928217 0
由谷歌、Anthropic、微软和OpenAI组成的前沿模式论坛(Frontier Model Forum):该机构旨在规范AI的发展,并确保以负责任和安全的方式进行开发。

该论坛旨在促进AI安全研究,确定前沿模型的身份安全最佳实践,并与决策者和学术界共享知识,以推进负责任的AI发展并利用AI解决社会挑战。

[caption id="attachment_56407" align="aligncenter" width="900"] 前沿模型论坛旨在利用相关公司的技术和运营专业知识,使全球人工智能生态系统受益。[/caption]

此次更新是在联合国安全理事会讨论AI对全球企业和政府系统威胁之后发布的。因此,该论坛清楚地展示了大型科技公司确保积极发展的共同努力。

AI咨询委员会指导战略和负责任的优先事项


前沿模型论坛旨在利用相关公司的技术和运营专业知识,造福全球AI生态系统,通过推进技术评估和基准,并开发公共解决方案库,以支持行业最佳实践和标准。

论坛内的公司表示,他们欢迎其他组织在开发安全的前沿AI模型方面进行合作。论坛内的公司表示,他们将与决策者、学术界、公民社会和企业合作,共享关于信任和安全风险的知识。

随着越来越多的工作者使用生成式AI,该论坛的核心目标是推进AI安全研究,促进前沿模型的负责任发展,降低风险,并实现独立、标准化能力和安全性评估。它还旨在帮助公众了解这项技术的性质、能力、限制和影响。

为了确保安全使用AI,该论坛致力于更好地支持和开发能够帮助应对社会最大挑战的应用,例如应对气候变化、早期癌症检测与预防以及打击网络威胁。

该公告是在AI被某些行业滥用的背景下发布的。《卫报》报道称,澳大利亚医学协会(AMA)要求加强AI监管,因为它发现一些医生正在使用ChatGPT书写医疗记录。

尤其是生成式AI在医疗保健等行业有着巨大的潜力,但如果使用不当或不负责任,可能会产生严重后果。看到一群具有巨大影响力的公司基于共同价值观进行合作,这是令人欣慰的。

OpenAI全球事务副总裁Anna Makanju表示:“先进的AI技术有潜力为社会带来深远的利益,实现这一潜力需要监督和治理。

她继续说道:“AI公司(尤其是那些致力于最强大模型的公司)在共同立场上对齐,并推进深思熟虑和应变性的安全实践,以确保强大的AI工具具有最广泛的益处。这是紧迫的工作,该论坛定位良好,能够迅速推进AI安全的状态。”

 

来源:https://aimagazine.com/ai-strategy/frontier-model-forum-championing-responsible-ai-systems
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消