
推理竞赛正在从“一块芯片有多快”转向“一个机架能以多低延迟持续产出多少token”。8月18日,Cerebras发布CS-4系统与Nexus机架,将三块晶圆级WSE-3 Turbo处理器、供电模块和网络部件装进同一机架。这次并没有推出WSE-4新芯片,而是通过更强供电、冷却、直连网络和模块化机构,把现有晶圆架构的推理密度往上推。
WSE-3 Turbo继续使用5纳米工艺、约4万亿个晶体管、90万个AI核心和44GB片上SRAM。与2024年的WSE-3相比,Cerebras给出的计算、片上内存带宽、片上织网和I/O均提高至约2倍。实现方法不是增加核心或SRAM,而是将更多功率送入相同晶圆,并用新电源与冷板系统带走热量。
这个区别很重要。CS-4的主要创新是系统工程,而不是制程换代。计算晶圆、供电单元和网络卡被拆成可单独维护和升级的“背包”模块,现场部署时不必再把整台单机式系统搬进机房。但更高时钟对供电、冷却故障和器件寿命提出了新要求,这些运维数据尚未公布。
每块WSE-3 Turbo的官方标称算力为250 PFLOPS,三块组合成750 PFLOPS;机架还提供129.6 PB/s内存带宽、160.5 PB/s片上织网与7.2 Tb/s对外I/O。晶圆之间可以绕过交换机直接连接,互连延迟由5微秒降为2微秒,对需要多设备流水线并行的长模型decode尤为重要。
但750 PFLOPS依赖Cerebras的稀疏计算口径,不等于同条件下的密集FP16算力。独立技术分析指出,若沿用上代约10倍稀疏因子转换,单块晶圆的密集FP16量级更接近25 PFLOPS。稀疏化能否真正带来对等收益,取决于模型、精度、编译器与实际层利用率,因此不应把标称PFLOPS直接换算成GPU数量。
大模型推理包含两种不同工作:prefill要并行读取长提示并建立KV缓存,更吃计算;decode则逐个token生成,更受权重与内存搬运限制。Nexus将网络与计算模块化,可让AMD Helios GPU或AWS Trainium处理prefill,再把decode交给片上SRAM带宽更高的Cerebras系统。
这种架构让AI数据中心不必为所有阶段选同一种加速器,但也引入跨硬件队列调度、KV缓存交接、网络抖动与故障恢复等新问题。FDE和平台团队需要把首token延迟、每用户输出token速度、总吞吐、并发抖动、跨设备失败率和单任务能耗放在一起验收,不能只看单用户峰值。
Cerebras称CS-4相比GPU方案最高快30倍、吞吐能效最高提升10倍,并计划在本季度开始交付。这些数据主要来自厂商图表、内部测试和对外部服务结果的混合比较,尚缺同模型、同精度、同并发和同成本的独立整架复测。公司也未公布机架价格、总功耗、服务等级与大规模交付量。
另一个结构性边界是容量。每块晶圆仍只有44GB SRAM,三块机架合计132GB;前沿模型仍需要多机架流水线,低延迟网络是改善而不是消灭这个约束。ATYUN认为,CS-4最重要的价值是证明推理优化已经进入机架级异构分工阶段,不是为750 PFLOPS创造新排名。当外部客户能用真实账单复现延迟、质量、稳定性和能效的同时改善,这套系统才算越过从工程亮点到基础设施选项的门槛。接下来要看的不是峰值,而是可复现的任务成本。
