您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI发布关于未来AI如何发展的模型规范
2024年05月09日 由 samoyed 发表
40
0
自从推出ChatGPT以来，OpenAI一直在引领生成式AI领域，为未来AI发展树立了多个先例。为了进一步与公众建立透明度，OpenAI分享了一份新文档，让用户更深入地了解其AI模型。
周三，OpenAI发布了其《模型规范》（Model Spec）的第一份草案，这是一份概述了OpenAI希望其模型在OpenAI API和ChatGPT中如何表现的文档。《模型规范》还旨在提供有关OpenAI如何做出关于模型行为决策的见解。
模型行为是指AI模型对用户输入的反应，包括语气、响应长度等特征。OpenAI解释说，AI模型并不是明确编程的，而是从数据中学习；因此，塑造其行为仍然是一个“新兴科学”，需要考虑许多细微差别。
《模型规范》详细说明了OpenAI如何应对塑造模型行为的复杂任务，包括该主题的经验和持续研究。OpenAI解释说，它尚未以“当前形式”使用《模型规范》，但正在研究技术，以使其模型能够直接从规范中学习。
在文档中，OpenAI分解了三个模型规范原则：
目标，包括协助开发者和最终用户并造福人类；
规则；
以及默认行为，指的是与目标和规则相一致的指导原则。
该公司表示，它正在与公众分享模型规范，以作为基于人类反馈的强化学习研究人员和AI培训师的指南。通过分享这份文档，OpenAI旨在提高其对模型的透明度，并收集所有利益相关者对其方法的反馈。
模型规范反馈表开放至5月22日。鼓励所有利益相关者填写该表格，无论他们是否具备技术专业知识。
模型规范符合OpenAI为加深与其利益相关者对其模型的信任而进行的持续努力。就在本周，OpenAI发布了一款新工具，可以检测使用其自己的DALL-E 3工具生成的AI图像。
文章来源：https://www.zdnet.com/article/openais-new-model-spec-reveals-more-about-how-it-wants-ai-to-behave/#google_vignette
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
广告
广告
写评论取消
回复取消