Google Gemma 3开发者指南

作者 / 资深开发者关系工程师 Omar Sanseviero;开发者关系工程师 Philipp Schmid

自首次推出以来，Gemma 模型的下载量已超过 1 亿次，社区为各种用例创建了超过 60,000 个变体1。我们很高兴推出 Gemma 3，这是 Gemma 开放模型系列中最强大、最先进的版本，建立在之前成功推出的 Gemma 版本之上。我们听取了社区反馈，并添加了最受欢迎的功能，例如更长的上下文、多模态支持等等!

Gemma 有哪些新功能?

Gemma 3 中引入了多模态功能，支持视觉语言输入和文本输出。它处理的上下文窗口最多可达 128k tokens，理解超过 140 种语言，并提供经过改进的数学、推理和聊天能力，包括结构化输出和函数调用。Gemma 3 提供四种规格 (1B、4B、12B 和 27B)，既有可针对您自己的用例和领域进行微调的预训练模型，也有通用指令调优版本。

Gemma 是如何构建的?

Gemma 组合运用蒸馏、强化学习和模型合并等技术，优化了预训练和后训练流程。这种方法提高了其在数学、编码和指令遵循方面的性能。Gemma 3 使用了新的分词器，以更好地支持 140 多种语言，并在 Google TPU 上使用 JAX 框架进行了训练，数据量分别为：1B 模型 2T tokens，4B 模型 4T tokens，12B 模型 12T tokens，以及 27B 模型 14T tokens。

对于后训练流程，Gemma 3 使用 4 个组件：

从较大的 INSTRUCT 模型蒸馏到 Gemma 3 预训练检查点。

从人类反馈 (RLHF) 中强化学习，以使模型预测与人类偏好保持一致。

从机器反馈 (RLMF) 中强化学习，以增强数学推理。

从执行反馈 (RLEF) 中强化学习，以提升编码能力。

这些更新显著改善了模型的数学、编码和指令遵循能力，使其成为 LMArena 中最优秀的开源紧凑模型，得分为 1,338。

Gemma 3 的指令版本沿用与 Gemma 2 相同的对话格式，因此您无需更新工具即可更新到最新版本以进行纯文本输入。对于图像输入，Gemma 3 允许指定与文本交错的图像。

多轮文本示例

user
knock knock
model
who is there
user
Gemma
model
Gemma who?

交错图像示例

user
Image A:
Image B:
Label A: water lily
Label B:
model
Desert rote

多模态性

Gemma 3 集成了基于 SigLIP 的视觉编码器。Gemma 3 视觉模型在训练期间保持冻结状态，并且在不同规格 (4B、12B 和 27B) 的模型中都是相同的。因此，Gemma 可以使用图像和视频作为输入，从而分析图像、回答有关图像的问题、比较图像、识别物体，甚至回复图像中的文本。虽然该模型最初是为处理 896x896 像素的图像而创建的，但由于使用了一种新的自适应窗口算法来分割输入图像，Gemma 3 现在能够处理高分辨率和非方形图像。

△ 输出：根据图像，可能会打开加热功能的按钮是暖房 (Danbou)。在日语中，"暖房" 意为 "加热"。您可以按下该按钮来激活空调/温度控制系统的加热功能。带有加号 (+) 的按钮可能会在您选择加热模式后用来调节温度。

ShieldGemma 2

ShieldGemma 2 是基于 Gemma 3 构建的 4B 图像安全分类器。它针对各个关键安全类别输出标签，以安全审核合成图像 (来自图像生成模型) 和自然图像 (可作为诸如 Gemma 3 等视觉语言模型的输入过滤器)。了解有关 ShieldGemma 2 的更多信息。

您要开发哪些应用?

Gemma 社区的创造力和 Gemmaverse 的爆发式增长，正不断给我们带来惊喜。从研究实验室探索创新微调技术的实践，到开发者用全新模态训练 Gemma，我们热切期待看到您的下一个突破。普林斯顿 NLP 开发的 SimPO 方法，该方法在没有参考模型的情况下直接针对人类偏好进行优化，是实验室创新微调的典型案例;另一例子是 INSAIT 针对保加利亚语训练出最先进的大语言模型。而 Nexa 在 OmniAudio 上的尝试为开发者使用全新模态训练 Gemma 提供了典型案例。我们迫不及待地想看看您接下来会取得哪些突破。

Gemma 3 快速入门指南

准备好探索 Gemma 3 的潜力了吗?下面是操作步骤：

直接体验：只需点击几下，即可在 Google AI Studio 中试用 Gemma 3。

下载模型：在 Hugging Face 和 Kaggle 上查找模型权重。

学习并整合：深入了解我们的技术报告和全面的文档，以快速将 Gemma 集成到您的项目中;您也可以从我们的推理指南开始体验，或尝试使用自定义数据集进行微调。

使用您喜欢的开发工具：运用您偏好的工具和框架，包括 Hugging Face Transformers、Ollama、我们的新 Gemma JAX 库、MaxText、LiteRTGemma.cpp、llama.cpp 和 Unsloth。

灵活部署：Gemma 3 提供多种部署选项，包括 Google GenAI API、Vertex AI、Cloud Run、Cloud TPU、Cloud GPU 以及跨平台集成，让您灵活选择最适合自身用例的方案。