Cerebras 用 59 片晶圆级芯片部署 3 万亿参数模型

2026年10月22日,Cerebras Systems在其官方博客上发布了一篇文章,或许是迄今为止关于如何在生产环境中部署万亿参数级模型最具体的公开说明。这篇文章由资深工程师Sarah Chieng撰写,详细介绍了如何将月之暗面(Moonshot AI)的Kimi K3(约3万亿参数)部署在Cerebras的59块WSE-3T晶圆级芯片上,并声称该流水线可实现每秒1,000至2,000+个token的输出速度。数日之内,这篇文章登上了Hacker News首页,获得355分和132条评论,原因在于它回答了业界争论两年之久的一个问题:要想以足够快的速度运行一个前沿级开源模型以支撑智能体(agentic)工作负载,究竟需要多少硅片和多少资金?

简短的回答是:59块晶圆、约2.6TB的片上SRAM,以及一项架构决策——混合线性注意力(hybrid linear attention),而大多数基于GPU的推理服务栈并未利用这一点。更完整的回答是:工程方案本身是可靠的,但基准测试结果、定价和功耗账单至今仍未公布。

窥见晶圆级流水线内部

Cerebras一直以来的主张是,其芯片就是整片晶圆。单块WSE-3T面积为46,225平方毫米,集成4万亿个晶体管和90万个AI优化核心,而且关键的一点是,它配备了44GB片上SRAM,不依赖片外HBM。前沿模型仅权重就需要数TB存储,二者之间的差距是巨大的:要么每生成一个token都要从速度较慢的内存中流式读取权重——这正是GPU解码的瓶颈所在——要么购买足够多的芯片,使权重始终无需移动。

Cerebras选择了第二条路线,而2026年10月22日的这篇文章展示了其中的计算过程。该公司以Kimi K3作为示例,假设采用4位权重量化(与该模型在Hugging Face上的发布版本一致)、8位KV缓存,以及平均256k token的请求长度。3万亿参数、每个参数4位,原始权重约为1.5TB;将其分摊到Kimi K3的93层上,每层约16GB。

层的划分进而决定了晶圆数量。Kimi K3是一种混合架构:69层线性注意力层和24层稠密(全注意力)层。稠密层必须为每个活跃请求的每个token存储键和值,因此每一层各占一块晶圆,剩余的SRAM用于KV缓存。线性注意力层无论上下文长度如何,每个请求只需保存一个固定大小的状态,因此两层(2×16GB)可以放入一块44GB的晶圆中。由此得出:线性部分需要35块晶圆,稠密部分需要24块晶圆,总计59块。

随后,这些晶圆被连接成流水线。由于每个16GB的层可以完全放入44GB的晶圆中,权重从不跨越芯片边界,层也不会被拆分。在芯片之间传递的仅是激活值,通过以太网上的RDMA传输,每一跳约2微秒。第1块晶圆运行第1至2层,并将激活值交给第2块晶圆,依此类推,直至最后一块晶圆输出下一个token。并发能力来自于保持这条流水线线满负荷运转:当第3级为请求A处理某个token时,第2级处理请求B,第1级处理请求C,而每一级还可以处理微批次。Cerebras表示,在实际生产中,各级划分的粒度远比每级一层更细。

为何演示模型是一个中国开源权重模型

这并非巧合,作为示例的模型正是月之暗面(Moonshot AI)的 Kimi K3。该模型由这家北京实验室于 2026 年 7 月 17 日发布,Kimi K3 参数量为 2.8 万亿,月之暗面称其为 3 万亿参数级别中首个开源权重系统,基于 Kimi Delta Attention(KDA)这一混合线性注意力机制构建,上下文窗口为 100 万 token。Cerebras 引用的数据显示,该模型在 Terminal-Bench 2.1 上得分 88.3%(GPT-5.6 Sol 为 88.8%),在 BrowseComp 上得分 91.2%(Sol 为 90.4%)——一个权重人人可下载的模型取得了前沿水平的智能体(agentic)成绩。

更深层的一点在于,模型设计与硬件设计正在协同演进。Kimi K3 的 93 层中有 69 层完全不需要 KV 缓存,这正是每片晶圆能够容纳两层、整个部署只需 59 片晶圆而非 83 片的原因。在这种规模下,线性注意力使片上驻留变得经济可行。业内其他地方也能看到同样的逻辑:DeepSeek 的 V4.1-Flash 通过因果编码器-解码器设计,将上下文状态压缩至每 token 890 字节,此前我们在本月早些时候的报道中已有介绍;而 Cerebras 自身的观点是,限制并发上限的是稠密注意力层,而非计算本身。

博客背后的商业动机

Cerebras 撰写架构类文章并非出于兴趣。自 2026 年 5 月 14 日起,该公司在纳斯达克上市(代码 CBRS),其推理业务如今已成为增长故事的核心。2026 年 1 月,它签下了双方都称为全球最大高速推理部署的合同:OpenAI 同意在 2028 年前购买至多 750 兆瓦的 Cerebras 算力,交易金额超过 100 亿美元,TechCrunch 的报道也给出了同样的数字。OpenAI 面向消费者的最快速层级已运行在 Cerebras 芯片上,这一转变我们在速度成为独立定价产品层级时已有提及。

8 月 18 日的 Supernova 活动推出了 CS-4,这是一套围绕三颗 WSE-3 Turbo 处理器构建的机架级系统,Cerebras 声称其推理速度比 GPU 系统快至 30 倍。8 月 12 日公布的第二季度业绩显示,快速推理云业务营收近乎翻了两番,截至 6 月 30 日的剩余履约义务积压达 254 亿美元,现金超过 86 亿美元,管理层还承诺 2027 年营收增长至少三倍。

至少目前,市场并不买账,或者说并不愿意按原来的价格买账。据雅虎财经数据,CBRS 在 10 月 23 日(周五)收于 110.82 美元,接近其 106.13 美元的 52 周低点,远低于 386.34 美元的最高点。一家股价较峰值已下跌约 70% 的公司,有动机发布能证明自身实力的材料。本文便是其中之一,但它是一篇工程层面的解读,而非实测数据。

本文未能证明的内容

在 Hacker News 讨论帖中,各种保留意见浮现得最快,值得认真对待。

• It is not a benchmark. The 1,000–2,000+ tokens-per-second figure is Cerebras's stated capability for multi-trillion-parameter models. The post contains no measured Kimi K3 result, no price, and no confirmation that Kimi K3 is live on the public inference API. As the independent teardown at explainx.ai puts it, treat the speed as a target, not an independent measurement.
• The power math is a commenter's, not the company's. One Hacker News user estimated roughly 20 kW per WSE-3T wafer, or about 1.18 MW for a 59-wafer system, implying around 4.1 joules per token at 1,500 tokens per second across 190 concurrent requests. Cerebras itself argues that the honest metric is tokens per second per megawatt at equal output speed — and does not publish that number for this configuration.
• The failure domain is the rack. A GPU cluster can lose a node and degrade gracefully. Here the model is the pipeline: one bad wafer stalls the whole serving path, and a pipeline that must run end to end complicates rolling upgrades and draining a single stage. Cerebras hardware does route around failed cores on-chip, but the post does not address wafer-level failure.
• 4-bit weights are not the benchmark numbers. Kimi K3's headline scores are full-precision results; the deployment assumes 4-bit quantization, following the Hugging Face release. Quantization loss at this scale is real, if usually modest, and the post does not report quality at 4 bits.
• Developers still cannot easily buy it. Practitioners in the thread reported that the public Cerebras cloud offers mostly smaller models, and that advertised speeds do not always match production rate limits — a pattern the company has run into before.

The competitive window is closing

Two years ago, fast inference was a category Cerebras largely owned alongside Groq. That is no longer true. NVIDIA closed a $20 billion deal for Groq's assets in December 2025, and at GTC 2026 it productized the LPU as NVIDIA Groq 3 LPX, a rack-scale inference accelerator for the Vera Rubin platform. NVIDIA's own developer blog says Artificial Analysis measured a median 3,431 output tokens per second on Gemma 4 31B at 100K context on the new part.

Cerebras's historical defense was the size of its lead: in late 2025, Baseten set a GPU record of 650 tokens per second on GPT-OSS-120B across eight GB200s, while Cerebras claimed far higher throughput on the same weights, and independent Artificial Analysis runs put CS-3 at 2,700+ tokens per second against roughly 900 on a B200. The gap that once justified a standalone wafer-scale company is now one entry in a crowded field that includes NVIDIA's GPUs, TPUs, Trainium and half a dozen inference ASICs.

What to watch next

这篇博文提出了三个可以验证的事件，若能得到证实，就能把它从一篇论证升级为一款产品。第一，Kimi K3，或任何参数规模达3万亿级的模型，是否真的会出现在 cloud.cerebras.ai 上，并公布定价与速率限制？第二，Cerebras 是否会披露此架构下每兆瓦每秒生成的 token 数，即其所称真正重要的指标？第三，OpenAI 的750兆瓦部署是否会在2027年和2028年明显上线，还是会推迟？

在这些问题之下，隐藏着一个更有意思的结构性趋势。通往前沿速度的捷径，不再只是更好的芯片，而是芯片与模型架构的协同设计。混合线性注意力模型（例如月之暗面的 KDA、DeepSeek 的压缩 KV 状态）之所以在经济上适配内存常驻型硬件，无论这种硬件是59块 Cerebras 晶圆，还是一机架 LPU，都与此有关。Cerebras 并非这一趋势的发明者，但其10月22日的文章是迄今最清晰的公开证据，表明这种融合已经在实际生产的算账中发生，每一层16 GB 地推进。