版本 12
Mistral Large 4 开放权重:补齐 MLA / DSA 缓存曲线
将 Mistral Large 4 从 API 预览占位更新为已开放权重的 1T-A52B checkpoint,核实 1M 上下文、跨层 KV / index 共享,加入明确标注的 Transformers BF16 参考估算。
本次更新
- 更新已有 Mistral Large 4 条目,不重复新增模型;开放权重日期为 2026-10-29,保留 10 月 6 日 API 预览日期。采用 Mistral Ecosystem Open-Weight License,模型即服务业务需另获商业许可;约 1T 总参数,49B 激活(不含 embedding)/ 52B(含 embedding)。
- 核实 72 层 MLA + DSA、1,048,576 tokens 上下文;63 个独立 KV owner(54 RoPE + 9 NoPE),9 个共享 KV 层;44 个独立 index cache,28 层共享 top-k。
- 加入 Transformers BF16 参考曲线,包含 latent KV 与 index key,每 token 82,688 B;1M tokens 为 80.75 GiB。FP8 权重不被当作 FP8 KV。
- 排除权重、视觉编码器、草稿模型与临时工作区;TP 结果仍仅为理想均分,不承诺真实单卡占用。
- 目录保持 53 个模型;50 个可计算参考条目、3 个待核验。同步 RSS 与本次独立更新落地页。