你把一张图、一段录音和一个需要计算的问题交给 AI，通常要面对几种取舍：能力强的模型可能太大，轻量模型又未必看得准、听得懂；一旦材料变长，运行时还会越来越吃内存。Google 的 Gemma Team 在新技术报告中提出 Gemma 4，试图同时处理这些问题：让开放权重模型原生接收文字、图像和音频，加入回答前的推理模式，并从架构上削减内存和计算开销。
开放权重（open-weight）是指训练完成后的核心参数可以下载和运行，像是公开一台成品机器的内部调节值；它不等于训练数据和训练代码也全部开放。报告称，Gemma 4 模型以 Apache 2.0 许可证发布。不过，本文的性能与效率数字均来自 Gemma Team 自己的技术报告，尚不能视为独立验证。
一套模型，覆盖不同算力
Gemma 4 不是单一模型，而是一组面向不同硬件的模型。稠密模型包括有效参数量 2.3B、4.5B，以及 12B 和 31B；“稠密”意味着每次处理输入时，模型主体的大部分参数都会参与计算。
另一个版本 26B-A4B 采用 Mixture-of-Experts（MoE，专家混合）架构。它内部共有 26B 参数，但每次只激活约 3.8B。可以把它理解为一个有多组专业小队的系统：路由机制按输入选择部分小队工作，从而用较低的单次计算量承载更大的总容量。这里的“专家”只是子网络，不一定对应人能明确命名的领域。
多模态也不是后加的外挂。原生多模态（natively multimodal）表示模型从设计和训练阶段就共同处理文字、图像或声音。E2B 和 E4B 配有 150M 视觉编码器与 305M 音频编码器；较大型号使用 550M 视觉编码器，但 12B 走了另一条路。
12B直接吃进图像和声音
一般的多模态系统会先让专门的编码器把图像或声音翻译成语言模型能理解的表示。Gemma 4 12B 则采用统一的 encoder-free 架构：它不用独立的视觉、音频编码器，而以轻量投影模块把原始输入送进语言模型的表示空间。
图像会被切成小块，也就是 image patches，再通过一个 35M 参数的矩阵运算完成投影；二维位置编码负责保留每块在画面中的坐标。音频则按 40 毫秒切分。以 16kHz 音频为例，每块形成 640 维向量，随后直接投影进模型。报告认为，这种设计可以减少独立编码器带来的内存碎片。
这里需要避免一个误解：“encoder-free”只是在说 12B 的这套统一设计，不代表整个 Gemma 4 家族都没有编码器。报告列出的其他尺寸仍使用视觉或音频编码器。
长文本先解决“草稿纸”太大
模型阅读长文时会保存 KV Cache——可以把它看成模型留在草稿纸上的中间结果，免得生成每个新词时从头重算。上下文越长，这张草稿纸占用的内存越大。
Gemma 4 让多数模型按 5:1 的比例交替使用局部注意力和全局注意力，E2B 则为 4:1。局部注意力只查看邻近内容，全局注意力才回看更大范围。团队还结合位置编码、KV Cache 共享，以及在部分全局层里复用 key 作为 value。报告给出的结果是，全局 KV Cache 占用最多可减少 37.5%。
长上下文测试也显示出明显差距。在 RULER 的 128k 上下文测试中，31B 得分 96.4，Gemma 3 27B 为 66.0；E4B 为 86.6。另一项 128k 的 Recall@k 测试中，31B 为 79.5，Gemma 3 27B 只有 8.6。不同测试衡量的能力并不相同，但这些数字至少说明，新架构的重点不只是“能塞进更多文字”，还包括能否从长材料里找回信息。
先想再答，也要更快地答
Gemma 4 加入 thinking mode。开启后，模型会在最终回答前生成 reasoning trace（推理轨迹），也就是一段中间推导文本。它能帮助数学、编程等重推理任务，但这段文字不一定完整、忠实地呈现模型内部真正发生的计算。
报告中的提升相当大。例如，无工具 AIME 2026 上，31B 得分 89.2，12B 为 77.5，而 Gemma 3 27B 的非推理版本为 20.8；LiveCodeBench v6 上三者分别为 80.0、72.0 和 29.1。不过，这里既有代际差异，也有 thinking mode 与非推理设置的差异，不能把全部提升归因于某一个设计。
生成速度方面，团队为模型训练了一个较小的 MTP drafter。它会先草拟后续 token——也就是模型逐步生成的文字单位——主模型再检查并接纳，从而进行推测解码。量化感知训练（QAT）则让模型在训练时适应低精度数字表示，以降低参数内存和延迟。报告称，150M 视觉编码器量化后，前向计算的总内存从 400MB 降至 200MB；在较新硬件上，相对 Gemma 3n 的设备端延迟降低 44%。音频编码器的磁盘占用则从 390MB 降至 87MB。
为什么值得关注
Gemma 4真正值得看的，是它把几条通常分开竞争的路线放进同一家族：既有适合控制单次计算量的 MoE，也有结构更直接的稠密模型；既追求图像和音频能力，也处理长上下文、推理和设备端内存。
人类盲评 Arena 中，31B 的 Elo 为 1451，26B-A4B 为 1438；前者在报告所列开放稠密模型中排名最高。作为参照，参数规模远大的 Kimi K2.5 Thinking 得分 1450。静态测试里，E2B 在部分任务上也接近甚至超过 Gemma 3 27B。比如 MMLU Pro 为 60.0，对方为 67.6；MMMU Pro 视觉测试为 44.2，对方为 49.7。它并非处处追平，但用约十分之一的有效参数逼近上一代大模型，说明效率路线已经带来实际结果。
局限与未知
- 所有结果都由 Gemma Team 报告。Arena 是盲评，但本文材料没有提供足够信息判断其他测试是否经过外部复现。
- 量化、KV Cache 和设备端延迟的改进依赖具体格式、上下文长度与硬件。报告中的数字不能直接等同于所有部署环境的收益。
- 技术报告称训练数据覆盖网页、代码、图像和音频，截止到 2025 年 1 月，并说明做了基准去污染与安全过滤；但材料没有披露数据构成、来源比例和完整训练数据。