在Meta的首次LlamaCon活动上,公司宣布了几款用于构建其LlamaAI模型的新工具:Llama API的有限预览版,允许开发者试验不同的模型,以及用于保护AI应用的新Llama保护工具。
LlamaCon是一个为期一天的虚拟活动,活动中有首席产品官Chris Cox的主题演讲,以及Meta CEO马克·扎克伯格与其他CEO的两场一对一对话:微软的Satya Nadella和Databricks的Ali Ghodsi。除了宣布API,Meta还宣布与Cerebras和Groq合作,为API带来快速推理能力。他们还宣布将LlamaStack与NVIDIA NeMo微服务集成。Meta还宣布了新的开源AI保护工具:Llama Guard 4、LlamaFirewall和Llama Prompt Guard 2。根据Meta的说法:
我们致力于成为企业和开发者的长期合作伙伴,并提供从封闭模型到开放模型的无缝过渡路径。Llama价格实惠,易于使用,使更多人能够享受AI的好处,无论他们的技术专长或硬件资源如何。我们相信AI有潜力改变行业和改善生活,这就是为什么我们很高兴继续支持Llama生态系统的增长和发展,以造福所有人。我们迫不及待地想看到你们接下来会构建什么。
这些Llama保护工具是一套保护措施,开发者可以用来使他们的AI应用更加安全。LlamaCon发布包括Llama Guard 4,一个内容审核模型;Prompt Guard 2,一个防止越狱和提示注入的工具;以及LlamaFirewall,一个用于将多个保护工具集成到AI应用中的编排组件。
Llama API已作为免费预览版发布。Meta宣称其“简单的一键API密钥创建和互动式游乐场。”可用的模型包括最近发布的Llama 4 Scout和Maverick MoE模型。发布还包括Python和Typescript SDK,API兼容OpenAI的SDK,“使现有应用的转换变得容易。”
API包括用于微调和评估自定义模型的资源。Meta声称他们不会在自己的训练中使用任何上传的提示或模型输出。他们还表示,开发者可以下载并在任何地方运行他们的自定义模型。
在Hacker News上,一些用户关于LlamaCon的讨论中对Llama许可证的限制表示遗憾,他们认为这不是完全开源的。关于API的宣布,另一位用户评论道:
感觉Meta要进入云服务业务,但在AI领域。他们抵制进入云业务这么久,随着AWS/Azure/GCP的成功,我认为他们意识到仅靠社交网络无法保持在顶端,除非拥有一个平台(硬件、云)。
在Reddit上关于这些公告的帖子中,用户对快速推理的消息反应积极:
我认为未来肯定在于速度。当你能够每秒输出数百甚至数千个标记时,你可以做一些疯狂的事情。