
OpenAI 发布了一项新功能,称其可进一步抵御提示注入攻击—— 这类攻击会将恶意指令暗藏在网页及其他内容载体中。
锁定模式会禁用实时网页浏览(用户仅可查看缓存内容)、网络图片的调取与展示(图片生成功能不受影响)、深度研究以及智能代理模式等多项能力。
OpenAI 表示,即便开启锁定模式,ChatGPT 依旧存在遭遇提示注入的风险。例如,缓存网页内容或上传文件中暗藏的恶意指令,仍可能影响模型的回复逻辑与内容准确性。
该功能的核心目的,是降低使用过程中敏感数据被泄露的概率。
OpenAI 提到:“锁定模式并非面向所有用户,它专为处理敏感数据、希望强化防护以规避提示注入引发的数据窃取风险的个人与机构打造。”
目前,这项功能已逐步向自助版 ChatGPT 商业账号及符合条件的个人账号开放。
