日志留在客户云里,Anthropic把AI安全审查拆成两层

2026年09月02日 由 ATYUN编辑部 发表 274 0
客户安全隔离区内保存日志,自动检查设备把告警送往相邻控制室
EFS试图把日志托管、自动检测和人工复核拆开,由客户保留数据与处置权。示意图。

企业使用高能力模型时常遇到一个矛盾:安全团队希望保留一段时间的活动记录,以识别跨账户、跨会话的异常模式;合规团队却不愿把敏感对话交给模型供应商长期保存。9月1日,Anthropic发布Enterprise Frontier Safeguards,试图把这两个要求拆开——日志留在客户控制的云账户,自动系统负责发现严重风险,是否查看和如何处置则由客户自己的人员决定。

存储:活动数据可进入客户自有S3、Azure Blob或Google Cloud Storage。
审查:自动系统观察滚动时间窗,告警直接交给客户团队复核。
进度:方案由100多家客户参与设计,计划秋季分阶段开放。

把“谁保存”与“谁检测”分开

Anthropic此前为Fable 5等Covered Model引入默认30天数据保留,理由是复杂滥用可能分散在多个会话与账户里,逐条分析后立即丢弃难以发现模式。但银行、医疗、法律和制造等受监管团队很难接受供应商成为新的敏感数据托管方。EFS的核心结构,就是让客户继续使用自己的加密密钥、访问策略和审计日志保存活动数据。

自动检测仍可在滚动时间窗内分析严重滥用信号,包括凭据泄露和跨会话的异常行为。触发信号后,告警直接进入客户环境,由客户授权人员确认真实风险或清除误报,不要求Anthropic员工进行人工查看。这样,模型供应商负责检测能力,客户负责数据托管、人员资格和最终处置,责任边界比“全部交给平台”更清晰。

控制项是可选模块,不改变模型价格

客户自有存储、客户管理密钥和全自动审查都可以按需启用。Anthropic称这些控制不会改变模型行为、API价格或速率限制,也不单独收取EFS费用;若把日志放在自有云账户,存储、读写和数据传出仍由云服务商计费。AWS的配套说明也确认,后续客户可在自己的AWS账户下保留提示与输出,并沿用自己的密钥、访问策略和审计能力。

支持范围计划覆盖Claude Code、Claude Enterprise、Claude Platform,以及AWS、Google Cloud和Microsoft的相关企业平台。正式能力将在秋季分阶段推出;符合条件的客户在过渡期可继续对Fable 5和5.1使用零数据保留。也就是说,这不是已经普遍可用的成熟产品,采购和架构团队不能把公告当成当前环境已自动获得控制。

百家共创解决设计问题,未解决运营问题

Anthropic称方案与100多家客户及三家主要云平台共同设计,讨论覆盖约四分之一的财富100强企业,并列出金融、支付、咨询、云服务和软件公司的具名参与者。反馈集中在三个问题:日志由谁持有、自动检测能看到什么、什么条件下允许人查看。EFS给出的答案具有可复用性,尤其适合需要客户自持密钥和人员清关的场景。

但共创名单不等于生产效果。公告没有披露检测系统的召回率、误报率、告警量或跨云延迟,也没有说明客户要投入多少人处理旗标。若每个团队都要重新制定严重级别、值班和证据保全流程,数据控制权会连带带来新的运营成本。企业应要求试点给出每千次会话告警数、误报清除时间和事件升级时限,同时统计值班覆盖和跨区域数据读取成本。

编辑判断:安全架构开始进入交付合同

EFS的重要性不在于又多了一层“安全”标签,而是把日志位置、密钥归属、自动检测和人工复核写成可部署组件。前沿模型进入受监管业务后,隐私与监控不再只能二选一;企业可以要求模型供应商在不接管原始数据的情况下提供风险信号,并把访问和处置纳入现有安全体系。

真正验收时仍要回答四个问题:数据是否始终留在约定区域,检测规则更新由谁批准,告警能否回到具体会话和权限证据,系统失效时谁负责停止模型。只有这些指标进入架构图、运行手册和合同,客户控制才不是一句口号。EFS给出了边界设计,秋季上线后的误报、成本和故障恢复数据,才会决定它能否规模化复制。

文章来源:AI Agent
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消