尽管谷歌构建了现代 AI 栈的几乎每一层，但其投资组合中一个较小的领域—— Gemma 系列开源权重模型，正成为其最大成功之一。

不同于与 DeepSeek 或 GLM 等前沿模型正面竞争，Gemma 专注于提供小巧且可在本地运行的强大 AI。自 2023 年发布以来，该系列下载量已超 4 亿次，并激发了超过 10 万个社区微调变体。

最新发布的 Gemma 4 参数规模涵盖 20 亿至 310 亿，旨在覆盖从离线设备助手到推理和编码任务的多种场景。谷歌将其描述为 " 逐字节最具能力的开源模型 "，通过紧密集成的架构、量化及部署工具，最大化 " 每参数的智能 "，从而在构建本地、隐私保护型 AI 应用的开发者群体中确立了独特生态位。

无编码器架构重塑多模态效率

R Systems 生成式 AI 负责人 Harshil Shah 指出，Gemma 相较于 Qwen 或 Mistral 等竞争对手，其颠覆性在于对效率的激进追求。Gemma 4 特别是 12B 模型，转向了统一的无编码器多模态架构。

传统多模态模型依赖独立的视觉和音频编码器，再将输出传递给语言模型；而 Gemma 4 12B 直接将原始图像和音频输入核心语言网络。这种设计消除了额外网络的内存开销，使模型能在文本、图像和音频间进行原生推理。Shah 认为，设备端的多模态工作流是 Gemma 的决定性优势。

与将视觉功能保留在单独分支的 Qwen 不同，Gemma 4 将文档解析、屏幕理解、OCR 及可变分辨率图像处理列为核心能力。由于视觉、音频和文本共享同一解码器，开发者可使用单个 LoRA 对整个多模态模型进行微调，无需适配单独编码器。

多重优化提升推理与部署性能

Gemma 4 引入了可配置的思维模式，允许模型在生成最终响应前产生内部推理轨迹。通过专用控制令牌启用，该功能提升了数学、编码及多步问题解决能力，并允许开发者在质量与延迟间权衡。

量化感知训练（QAT）使模型能处理低精度算术，在不显著降低能力的前提下实现激进压缩，使其在适度硬件上更具实用性。同时，多令牌预测（MTP）技术通过轻量级草稿模型预预测多个令牌，并结合共享 KV 缓存优化，显著加速推理并提高吞吐量。

Hugging Face 指出，Gemma 4 采用的混合注意力架构，通过交替使用局部滑动窗口和全局注意力，在降低计算和内存需求的同时，保留了长上下文推理能力。

极致的设备端控制与低内存占用

Sentient OS 创始人 Jesai Tarun 表示，工程决策是其公司选择 Gemma 的主因。谷歌专用的 LiteRT-LM 框架提供了细粒度的硬件控制，允许动态加载或排除模型特定部分以减少内存使用。例如，若无需处理图像，仅加载文本响应模块可大幅降低 RAM 占用。

Tarun 强调，由于谷歌同时构建模型和推理引擎，Gemma 内部的草稿模型与主模型共享计算资源，相比社区框架中运行两个独立模型的投机性解码方法，其实现更简单且推理速度更快。

在部署层面，谷歌官方 4 位 QAT 检查点将 Gemma 4 12B 模型的内存需求从 26.7 GB 降至约 6.7 GB，E2B 和 E4B 变体更是低至 1.1 GB 和 2.5 GB。这使得 Gemma 4 及其针对边缘优化的变体能够通过 Locally AI 或 Google AI Edge Gallery 等应用，在 iPhone 等设备上完全离线运行，所有推理均由 Apple Neural Engine 在本地完成。

多语言能力强，但编码与 Agent 任务稍逊

Gemma 已成为多语言 AI 领域最强的开源权重模型之一。CognitiveLabs 创始人 Adithya S Kolavi 推荐其用于多语言应用，称赞其出色的语言覆盖范围、高效词元化器及强大的数据分布。谷歌表示，该模型支持 140 多种语言，其旗舰 31B 变体在多任务多语言理解基准测试中得分 85.2%。

然而，开发者指出 Gemma 并非适用于所有工作负载。Tarun 表示，在编码性能方面，同等规模的最新 Qwen 模型表现更佳。谷歌官方基准测试显示，Gemma 4 26B A4B 在评估自主规划及工具使用能力的 TAU2-Bench 上得分为 68.2%，而阿里巴巴同等规模的 Qwen3.5-35B-A3B 得分为 81.2%，显示出后者在复杂工具使用和代理工作流方面的领先优势。

尽管在编码和 Agent 任务上不及 Qwen，谷歌仍坚持 Gemma 的目标是构建最可部署的开源权重模型家族，而本地运行正是其核心强项。

【星途科讯 图文丨略略 首发于 ZAKER 科技，转载请注明出处】