Mistral的新Small 4型号拥有128个专家模块,表现超乎其重量级

2026年03月18日 由 alex 发表 1749 0

Mistral AI 发布了 Mistral Small 4,将快速文本回复、逻辑推理和图像处理整合于一个模型中。它拥有1190亿个参数,但每个查询中只有60亿个是激活的——其架构包含128个专家模块,但每次只激活四个。用户可以控制模型是响应迅速还是思考更周密。Mistral AI表示,它比前代快了40%,每秒处理的查询量是前代的三倍。


Mistral-Small-4-Performance-Comparison-Across-Internal-Models-2


该型号采用Apache 2.0许可发布,支持Hugging Face、Mistral API和Nvidia平台。Mistral AI 也加入了推动开放式 AI 模型开发的 Nvidia Nemotron 联盟。该公司此前于12月初发布了多模态开源模型Mistral 3系列,其中包括旗舰Mistral Large 3,拥有6750亿参数。

文章来源:https://the-decoder.com/mistrals-new-small-4-model-punches-above-its-weight-with-128-expert-modules/
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消