您尚未登录账户
您的企业账号申请正在审核中
Anthropic推出在Chrome中运行的Claude AI代理
Anthropic正在推出一个基于浏览器的AI代理的研究预览版，该代理由其Claude AI模型提供支持。发布公告在周二。这个名为Claude for Chrome的代理正在向Anthropic的Max计划的1000名订阅者推出，该计划的月费在100到200美元之间。公司还为其他感兴趣的用户开放了一个等待名单。
通过在Chrome中添加一个扩展，选定的用户现在可以在一个侧边窗口中与Claude聊天，该窗口可以保持浏览器中所有活动的上下文。用户还可以授权Claude代理在他们的浏览器中执行操作并代表他们完成一些任务。
浏览器迅速成为AI实验室的下一个战场，这些实验室旨在通过浏览器集成提供AI系统与用户之间更无缝的连接。Perplexity最近推出了自己的浏览器Comet，其中包含一个可以为用户分担任务的AI代理。OpenAI据称也即将推出自己的AI驱动的浏览器，据传其功能与Comet相似。同时，谷歌在最近几个月推出了与Chrome的Gemini集成。
开发AI驱动浏览器的竞赛尤为紧迫，因为谷歌即将面临的反垄断案件，最终裁决预计很快就会公布。案件中的联邦法官建议他可能会迫使谷歌出售其Chrome浏览器。Perplexity提交了一个无意的345亿美元收购Chrome的提议，而OpenAI的CEO Sam Altman表示他的公司也愿意购买。
在周二的博客文章中，Anthropic警告说，具有浏览器访问权限的AI代理的兴起带来了新的安全风险。上周，Brave的安全团队表示，他们发现Comet的浏览器代理可能容易受到间接提示注入攻击，即网站上的隐藏代码可能会欺骗代理在处理页面时执行恶意指令。
Anthropic表示，希望利用这个研究预览版来发现和解决新的安全风险；然而，公司已经引入了几种防御措施来对抗提示注入攻击。公司表示，其干预措施将提示注入攻击的成功率从23.6%降低到11.2%。
例如，Anthropic表示，用户可以在应用程序设置中限制Claude的浏览器代理访问某些网站，并且公司默认阻止Claude访问提供金融服务、成人内容和盗版内容的网站。公司还表示，Claude的浏览器代理在“进行高风险操作如发布、购买或共享个人数据”之前会请求用户许可。
这并不是Anthropic首次涉足可以控制计算机屏幕的AI模型。2024年10月，公司推出了一个可以控制您的PC的AI代理——然而，当时的测试显示该模型相当慢且不可靠。自那时以来，代理AI模型的能力已经有了很大提高。
