Vking·AI
返回博客
·AI技术

万亿参数塞进 4 块 GPU：Mistral Large 4 背后，2026 年的「效率竞赛」

Mistral 用 3800 块 GPU 训出 1 万亿参数的 Large 4，Meta 开源跑了九年的 Rebalancer 求解器，Aleph Alpha 开源单卡可跑的 Kolibri——同一个主题：用更少的算力，做更多的事。

#大模型#MoE#Mistral#开源

# 万亿参数塞进 4 块 GPU：Mistral Large 4 背后，2026 年的「效率竞赛」

10 月 8 日，Mistral AI 的 **Mistral Large 4** 成了开源圈的热点：一个 **1 万亿参数、490 亿激活** 的多模态 MoE 旗舰，**在法国、用自家 3800 块 NVIDIA Grace Blackwell GPU 训出来**——训练算力只是竞争对手的一小部分，而**开放权重定在月底发布**。

一、Mistral Large 4 的看点

  • 1T 总参 / 49B 激活：典型的稀疏 MoE，推理时只激活一小部分；
  • 1M 上下文，多模态；
  • 只有两档推理设置（none / high），走的是「简单即好用」的路线；
  • 现已可通过 Mistral Studio 与 API 预览使用。

    • 一个容易被误读的数字：**「万亿参数塞进 4 块 GPU」**。这里的 4 块 GPU 指的是**推理部署**——MoE 按需激活的特性，让它**理论上能在很少的硬件上跑起来**（虽然实际部署仍需可观的显存与带宽）。它的真正含义是：**MoE 让「模型很大」和「跑得很贵」不再划等号**。

    二、同一天，Meta 开源了「跑了九年的老将」

    Meta 开源了 **Rebalancer**，一个 **Apache 许可**的求解器。它此前在 Meta 内部默默跑了 **九年**，每天处理**约 4000 万个分配问题**（比如把任务、数据、负载分配到机器上）。这类「运筹优化」的基础设施平时没人注意，但它**支撑着整个集群的效率**。开源出来，对做调度、做资源优化的人是个宝藏。

    三、还有一条：单卡可跑的开源模型

    Aleph Alpha 开源了 **Kolibri-1**，一个 **780 亿参数的 MoE 模型，仅 34.6 亿激活参数，100 万 token 上下文，Apache 2.0**，主打**德英双语、单卡可跑、主权部署**。它和 Mistral Large 4 恰好构成两个极端：**一个往「集群级旗舰」走，一个往「单卡可跑」走**。

    四、共同主题：效率

    把 10 月 8 日这几条串起来，会在同一个词上汇合——**效率**：

  • Mistral：用更少的算力训出更强的模型；
  • Meta Rebalancer：用九年的求解器把集群利用率榨到极致；
  • Kolibri-1：用 MoE 把 78B 塞进单卡。

    • 在一个**算力越来越贵、供给越来越紧**的时代，「把单位算力做出更多智能」，已经取代「堆更多算力」，成为真正的竞争点。

    小结

    2026 年的 AI 竞赛，正在从「谁更敢烧钱」转向「**谁更会省钱**」。Mistral Large 4 的万亿参数、Meta 开源的调度老将、Aleph Alpha 的单卡模型，本质都在回答同一个问题：**在算力受限的现实里，怎么把智能高效地送到需要它的地方**。这或许才是这一轮 AI 浪潮里，最值得工程师关注的能力。