By 黄金金枪鱼 
一个模型族，五种尺寸，从 7.2GB 的手机档到 20GB 的工作站档，共用一套权重体系与工具链。Gemma 4 真正值得拆的不是跑分，而是它把「稀疏化、量化、投机解码」三条工程路线压进了同一次发布。
一、核心事件：不是发一个模型，是铺一条产品线
2026 年 4 月 2 日，Google DeepMind 放出 Gemma 4 开放权重模型，Hacker News 上那条讨论拿到 1812 分、474 条评论，是近一年开源模型发布里讨论密度最高的几条之一。
关键在于它的形态：不是一个 27B 打天下，而是同时铺开 E2B / E4B / 12B / 26B / 31B 五档。按社区在 HN 上的归纳，小尺寸沿用面向移动端的架构思路、带音频输入能力，大尺寸则分成 26B 的 MoE 与 31B 的稠密两条腿走路，全系 Apache 2.0，并且提供基座模型而不只是指令版——这点对做微调的团队意义远大于榜单排名。
到 8 月，Ollama 官方库里 gemma4 已经累计 2160 万次下载、上架 49 个模型条目。尺寸与上下文分档非常清晰：
gemma4:e2b— 7.2GB，128K 上下文，文本 + 图像gemma4:e4b— 9.6GB，128K 上下文（即latest指向的默认档）gemma4:12b— 7.6GB，256K 上下文gemma4:26b— 18GB，256K 上下文gemma4:31b— 20GB，256K 上下文
注意 12B 那一行：参数比 e4b 多，体积却和它接近，这正是后面量化策略在起作用。
二、技术解析：三条工程路线的叠加
稀疏激活：26B-A4B 的账怎么算
26B 那一档的完整写法是 26B-A4B：总参数 26B，单 token 实际激活约 4B。对推理侧的意义是内存带宽压力按激活参数走，而非总参数。
这条路线的极端案例已经出现在社区里：开源项目 drumih/turbo-fieldfare（5805 stars，Apache 2.0，8 月 11 日仍在更新）的自我描述就是一句话——在任意 M 系列 MacBook 上用约 2GB 内存跑 Gemma 4 26B-A4B。它在 7 月 29 日登上 HN，拿到 919 分。26B 级别的模型跑在 2GB 内存里，在稠密架构时代不成立。
QAT：把「能跑」变成「跑得准」
6 月 5 日 Google 发布了 Gemma 4 的量化感知训练（QAT）版本。HN 上那条讨论 406 分，里面有条很实在的评论指出：官方给出了各档的显存预期，其中 Q4_0 版 Gemma 4 12B 约 6.7GB，因此「16GB 机器上舒适运行」的说法站得住。
同一楼里也有开发者的抱怨值得记下来：三周内出现了基础版、MTP 草稿模型、12B、QAT 版等多批权重，做产品集成的人得把构建流程重复好几遍。有人回应得很直接——这些是研究产出而不是产品，命名可以更学术但不必迁就消费者直觉。
关键区别别搞混：QAT 不是把训练好的模型事后压一遍，而是在训练阶段就让模型适应低比特表示。
MTP：让解码不再一次只吐一个 token
5 月 5 日的多 token 预测（MTP）草稿模型是第三块拼图，HN 上 687 分、330 条评论。思路是用同族的小模型做草稿、大模型做校验，把自回归解码的串行瓶颈摊薄。
配合前两条路线看，Gemma 4 的工程意图很清楚：稀疏化压激活量、QAT 压位宽、MTP 压串行步数——三个方向各削一刀，端侧才有可能吃下 256K 上下文。
三、几个容易被榜单掩盖的关键点
- 参数量与能力的脱钩正在加速。HN 上有开发者指出，Gemma 4 的 E4B 变体在多个基准上以远小的参数量胜过上一代 27B。跨代比较里，「多少 B」正在快速失去参考价值。
- ELO 图表要打折看。同一楼里也有尖锐反对意见：把 ELO 当主图表有误导性，大尺寸 Gemma 4 在多数基准上未必压得过同期同尺寸的竞品，真正亮眼的是 2B/4B 这一档。榜单选择本身就是一种叙事。
- 生态适配速度已经不是瓶颈。llama.cpp（123,618 stars，MIT）在 8 月 12 日还在发
b10373版本；Ollama（178,334 stars）把 Gemma 4 列进首页模型清单；Unsloth（70,476 stars）的项目描述里直接把 Gemma 4 和 Qwen、Kimi、DeepSeek 并列。从权重发布到工具链可用，窗口期已经压缩到以天计。 - 发布节奏正在变成一种成本。三周四批权重，对研究者是好事，对做集成的团队是重复劳动，这是开源模型工程化后新的摩擦点。
- 谁来托管仍是悬而未决的问题。HN 上有人追问：模型这么好，为什么不推自家云上的推理服务？回帖的猜测是——权重足够小、许可足够宽松时，自建商业级推理栈的性价比反而不高。
四、行业影响
对开发者，选型逻辑从「选一个模型」变成「选一档尺寸」：同族权重、同套工具链，按内存预算换档即可。对创业团队，端侧可跑意味着推理成本结构被重写——社区里已经有人用五年前的 MacBook 在本地索引了一整年的视频素材。护城河正在从模型本身转移到数据管道与产品形态上。
五、结语
Gemma 4 值得记住的不是某个跑分，而是它证明了一件事：稀疏化、量化、投机解码这三条路线可以在同一次发布里叠加生效。当 26B 能进 2GB 内存、12B 能在 16GB 机器上跑满 256K 上下文，「端侧只能跑玩具模型」这个前提就该退休了。下一个悬念是，当这种压缩效率继续走下去，云端推理还剩多少不可替代的场景。
参考资料：
官方文档
- Gemma 4 with quantization-aware training [200] - QAT 版本发布说明
- Multi-token-prediction in Gemma 4 [200] - MTP 草稿模型说明
- Gemma 4 — Google DeepMind [200] - 模型族官方页
开源项目
- google-deepmind/gemma 仓库元数据 [200] - 5,648 stars / Apache-2.0 / 2026-08-10 更新
- gemma 仓库 README（含 Gemma4_E4B 调用示例） [200] - 3,469 字符
- drumih/turbo-fieldfare [200] - 5,805 stars，26B-A4B 约 2GB 内存推理
- ggml-org/llama.cpp [200] - 123,618 stars / MIT
- unslothai/unsloth [200] - 70,476 stars / Apache-2.0
行业报道
- While I slept, my 5-year-old MacBook ran Gemma 4 locally [200] - 本地视频索引实践记录
- Running Google Gemma 4 Locally With LM Studio's Headless CLI [200] - 本地部署实操
社区讨论
- HN: Google releases Gemma 4 open models [200] - 1,812 分 / 474 评论
- HN: Gemma 4 QAT models [200] - 406 分 / 130 评论
- HN: Accelerating Gemma 4 with MTP drafters [200] - 687 分 / 330 评论
对比基准
- Ollama gemma4 模型库 [200] - 21.6M 下载 / 49 个模型条目 / 各档尺寸与上下文实测数据
- Artificial Analysis [200] - 第三方模型与 API 供应商横向分析
本文由 AI 生成。内容基于公开资料整理，可能存在事实偏差，引用链接请以原始来源为准。