LLM Backbone#

结构上有几个点需要留意。

1. Hybrid SWA + GA。第一层是 global attention + dense FFN，后面 local SWA 和 global attention 交错，两边都是 sparse MoE FFN，没有 shared expert。1M 上下文不是靠「全注意力硬扛」，是靠 SWA 把大部分层的注意力锁在 128 窗口里，再用少量 GA 层保住长程。
2. MoE 不带 shared expert。384/256 个 routed expert 里每次只动 8 个。没有 shared expert 意味着路由更「纯粹」，但对路由稳定性要求更高，这和后面要讲的 MoE RL 路由对齐论文是对上的。
3. MTP 投机解码。5 层 SWA 草稿器，DFlash 风格，一次前向猜 7 个后续 token，并行验证。推理侧是实打实的吞吐红利。

多模态编码器（Pro / Flash 共用）#

原生全模态进同一套 backbone，并非文本模型外挂视觉适配器。视频靠 ViT 的时间维 patch（T=2），音频走 tokenizer + patch encoder 双路。

0. 先看规模：直播训练账单#

这回 RL 是全程直播跑的（mimo.xiaomi.com/rl），数字如下。

官方结论：RL 样本效率高、全程持续提升、能泛化到训练分布之外。

TIP

口径说明（审计用）：发布稿写「1,568 samples per update」，模型卡写「1,568 prompts × 16 rollouts per step」。用总轨迹数反推：750k ÷ 30 步 ≈ 25,000 条轨迹/步，正好等于 1568×16 ≈ 25,088。所以 samples ≈ prompts，rollout 另算。两套说法都出自官方，对得上。

1. You Only RL Once#

官方表述：One mixed RL run across coding, general agents, visual, and cybersecurity — not separate per-domain runs.

此前各领域分别训练再合并的做法（Mix-RL / Cascade RL / Off-Policy SFT / 参数合并）都存在跷跷板效应或稳定性问题，A 领域涨、B 领域塌。

V2.6 的做法是：一次混合 RL，跨 coding / general agent / visual / cybersecurity。任务和多种 harness 混在同一个 batch 里，让能力互相喂，策略还能迁移到训练里从没见过的 harness 上。

这直接对上 MOPD 论文里批评的四条老路：

而 V2.6 在混合 RL 之后还接了 MOPD2（见下文），等于「先一起练，再精确合」。

官方还补了一句工程要求：稳定混合 batch 里各任务的采样比例（stabilized per-task sampling ratios within mixed batches）。混采不是把数据倒一锅搅，比例不稳就会偏科。

2. Scaling RL Compute：三根轴#

官方给出了三根扩展轴，构成理解 V2.6 RL 设计的骨架。

3. Groupwise Agentic Grading：自我改进环#

问题：二值 pass/fail 排不出两个都过了的答案谁更好。奖励信号太粗，RL 就只能推「从错到对」，推不动「从对到更好」。长程 agent 任务尤其惨，一条几万 token 的轨迹，最后只拿一个 0/1。

官方解法：打分器自己也上 Agent，在组内比 rollout。

具体差异如下。

1. GRS 解决「没有评分表」：同一道题的多条 rollout 互相对比（哪里更好、哪里更简、哪里更稳），离线合成一份 rubric。相当于给这道题现场出评分细则，而不只看单元测试过没过。
2. GAR 解决「都过了分不出高下」：在线把通过的轨迹按质量排序，advantage 不再人人平分，而偏向更短路径、更少 token、更干净的解。
3. 闭环：裁判看的是策略自己的样本。策略变强 → 样本变好 → rubric/排序更严 → 策略被推向更优解。这就是官方说的 closes a self-improvement loop。

副作用（好的那种）：会自动压向更短路径、更少 token 完成同一任务。

TIP

读这块时别把 GRS/GAR 理解成单纯的 reward model 变大。核心是 组内相对比较 + 把粗奖励变稠密，这是在 scaling grader compute，不是在 scaling 模型体积。

4. Aligned RL：自我纠错与反奖励劫持#

RL 圈的老毛病：一旦奖励可被钻空子，策略会变成「骗过打分器」，偏离「把事做好」。

V2.6 的态度是双管齐下：

冷启动用 self-correction，模型反思并重写自己的不当轮次，改成有依据的下一步。第一轮就建立「认错→修正」的肌肉记忆。

官方配了四道锁（发布稿原话拆解）。

另外，训练规模上来后冻结了 MoE router，抑制训练漂移（we froze the router to suppress training drift）。MoE 路由在 RL 里漂移是老大难，激活分布一变，下游全乱。冻住是务实解，代价是牺牲一点路由自适应。

5. MOPD2：Multi-Prefix Multi-Teacher On-Policy Distillation#

MOPD 一代（arXiv<2606>.30406）已经在 MiMo-V2-Flash 上落地过。核心思想：

1. 各领域先独立 RL 出 domain teacher（可完全并行）；
2. 学生自己 rollout，教师只负责在学生轨迹上给 per-token 概率分布（dense 信号）；
3. 按 prompt 路由到对应教师，policy space 融合，不碰权重平均。

一代在 Qwen3-30B-A3B 上归一化得分 0.937，比 Mix-RL（0.882）高 5.5 个点；在 309B 的 MiMo-V2-Flash 上多数基准打平甚至超过对应教师。

V2.6 的 MOPD2 多了 Multi-Prefix：

官方表述：combines autonomous student rollouts with prefix-conditioned single-turn rollouts (Teacher-Prefix and SFT-Prefix), reusing histories from teacher trajectories and SFT demonstrations so decision points train without regenerating preceding turns.

三种前缀的来源并不相同。

好处：学生不必从头生成完整轨迹即可学习决策点。借前缀跳过已掌握的部分，难以自动验证的长任务也能被蒸馏覆盖。

MOPD 论文中另有一个值得注意的对照实验：替换为更强但分布不同的教师（Qwen3-235B-A22B）后，学生数学能力反而下降，top-k 形式甚至在第 18 步发散。同源教师（same-origin）是稳定性上的必要条件。

6. 全开源#

官方承诺把这条管线上的一切放出来：完整技术报告、训练环境、RL 代码，供复现验证。配合直播回放，这在「开源权重但闭源 RL 配方」成风的当下，算相当大方。

综合来看：RL 算力本身就是能力来源。 预训练 scaling law 已被广泛验证，V2.6 将同样的逻辑迁移到 RL 阶段，训练成本公开也提升了工程透明度。

怎么读这张表（解读，非官方口径）#

优势项：

• 对 V2.5 Pro 是代差提升：DeepSWE 19→72，AutomationBench 16→53，Terminal Bench 2.1 65→90。幅度之大，更像 RL 管线换代，而非微调收益。
• AutomationBench 53.1，压过表中全部对照模型。
• Agents’ Last Exam 与 Opus 5 打平（31.6）。
• Terminal Bench 2.1 89.9，表内第一。
• MiMo VisualCoding 72.3，视觉 agent 一项反超。
• Cyber 从零起步：V2.5 Pro 的 MiMo Cyber Bench 为 0.0，V2.6 拉到 80.2。You Only RL Once 中混入 cyber 任务的效果相当直接。

短板项：

• Exploit 系仍被拉开。ExploitGym 17.8 vs GPT-5.6 Sol 30.3；ExploitBench 47.9 vs 78.5。实战利用链上，对照方积累更深。
• ProgramBench 26.5，距 Opus 5 的 37.0 仍有差距。竞赛向形式化编程难度较高。
• Terminal Bench 4.0 34.9，落后 Opus 5 的 49.0。4.0 明显难于 2.1，长程终端 agent 仍有空间。
• OSWorld 82.0 略低于 Fable 5 的 86.0，GUI 操作并非碾压项。

Flash 的性价比值得注意。 309B 总参 / 15B 激活，多数项只比 Pro 低 2–5 个点，CyberGym 甚至反超（95.1 > 94.0）。预算有限时，Flash 是更合理的选择。

WARNING

对照列（Claude / GPT）来自官方模型卡，评测条件未必完全一致。跨家跑分仅供参考方向，不宜当作严格结论；具体场景请自行复测。

材料：捕捉 PFAS 的 MOF 设计#

小米材料专家多轮指挥 MiMo-V2.6-Pro 设计能吸附 PFAS（「永久化学品」）的金属有机框架（MOF）。它完成了：

1. 网络检索 + 文献专利综述
2. 提出假设、评估新颖性
3. 干实验：调用开源计算工具，自动搭模拟环境，算 MOF 与 PFAS 结合强度
4. 筛出值得进湿实验的候选

官方出了完整案例：mimo-v2-6-material-research。

数学：Li-Yorke 定理的 Lean 4 形式化#

在研究者给的探索策略指导下，V2.6-Pro 用子 Agent 协作，完成了 Li & Yorke 经典论文 Period Three Implies Chaos 主定理的 Lean 4 形式化：

• 证明陈述 + 证明本体都走完
• 6000+ 行 Lean 源码
• Lean kernel 验证通过，无未完成占位符
• 模型从未接受过 Lean 专项后训练

这说明复杂形式化能力来自通用推理和工具使用，而非专项数据灌出来的。源码可下载。

API 定价（官方，与 V2.5 持平）#

单位：USD / 百万 tokens。

限时缓存写入免费。国内人民币价看定价页。Volume 场景有 Token Plan。

NOTE

UltraSpeed 输出单价是 Pro 的 10 倍，换来最高 20 倍出字速度。适合实时交互场景；批处理任务建议用标准档。

推荐采样：temperature=1.0，top_p=0.95。

Pro 的 SGLang 参考配置比较凶：--tp 16 --dp 2 --ep 16，双机；Flash 可以 --tp 8 --dp 2 单机多卡。都开了 EAGLE 式投机解码（--enable-multi-layer-eagle）和 mimo 的 reasoning / tool-call parser。

IMPORTANT

Pro 是 1.02T 总参 MoE，本地部署门槛较高。个人开发者建议从 Distill-Qwen-9B、Desktop 内置模型或 API 入手。

优势#

1. AAII 46.32，开源第一。 来自 Artificial Analysis 第三方指数。
2. RL 管线完整度高。 You Only RL Once + 异步 GRPO 超大 batch + GRS/GAR + MOPD2，且全程直播、账单公开（Flash 约 85 万美元 / Pro 约 262 万美元 / 30 步 / 750k 轨迹）。
3. 自我改进闭环成型。 组内 agentic 打分将奖励从二值 pass/fail 扩展为质量排序，是 RLVR 之后的实质进展。
4. Agent 长程能力提升显著。 Terminal Bench 2.1 / AutomationBench / JobBench 相对 V2.5 为代差；DeepSWE 在 RL 过程中上涨 14–17 分。
5. 1M 上下文 + 全模态原生 + Vibe World。 覆盖长仓库、工具轨迹、多会话 agent，以及 3D / 具身 / 作曲等方向。
6. Flash 性价比突出，UltraSpeed 覆盖实时场景，Distill-Qwen-9B 降低了研究门槛。
7. API 定价与 V2.5 持平，能力提升未伴随涨价。

劣势#

1. Exploit 实战链路偏弱，cyber 方向尚未达到顶尖水平。
2. ProgramBench / Terminal Bench 4.0 等高难长程项，与顶级闭源模型仍有差距。
3. 跑分对照依赖官方口径，第三方大规模复现尚未出现（发布当日，属正常情况）。
4. 1.02T MoE 部署门槛高，不过 Flash 与 9B 蒸馏版提供了更轻量的替代路径。
5. Vibe World / 作曲 / 具身 目前更接近能力演示，距稳定产品化仍有距离。