【免费下载链接】gemma-skills
Skills for the Gemma and model/agent interactions
如果你是刚接触 Gemma 模型的新手,gemma-skills 会是一个绝佳的起点。这是 Google 官方推出的 AI Agent 技能仓库,包含gemma-dev和gemma-trainer两大核心技能:前者让 AI 编码助手掌握 Gemma 应用开发的最佳实践(模型选型、部署、推理加速),后者赋予它本地微调 Gemma 的能力(SFT、DPO、奖励建模)。安装后,你的 AI Agent 就能像资深工程师一样带你完成从原型到微调部署的完整流程。
什么是 gemma-skills:给 AI Agent 装上"Gemma 官方知识库"
传统的 AI 助手回答 Gemma 相关问题时,可能会推荐过时的模型或不规范的用法。而 gemma-skills 把这些经过 Google 官方验证的最佳实践打包成"技能",直接注入到你的 AI 编码助手中。
仓库结构非常清晰,两大技能各自独立、各司其职:
| 技能 | 定位 | 覆盖场景 |
|---|---|---|
gemma-dev | 应用开发 | 模型选型、Gradio 原型、浏览器推理、云端部署 |
gemma-trainer | 训练微调 | SFT、DPO、奖励建模、数据集准备、GGUF 转换 |
两大技能的入口定义分别在 skills/gemma-dev/SKILL.md 和 skills/gemma-trainer/SKILL.md,每个 SKILL.md 就是技能的"说明书",AI Agent 会根据它自动触发对应能力。
快速上手:3种方式把技能装进你的 AI 助手
gemma-skills 支持主流的 AI 编码助手与技能包管理器,安装只需一条命令:
方式一:Vercel skills CLI
# 交互式浏览并安装 npx skills add google-gemma/gemma-skills --list # 只安装指定技能(以 gemma-dev 为例) npx skills add google-gemma/gemma-skills --skill gemma-dev方式二:Context7 skills CLI
npx ctx7 skills install /google-gemma/gemma-skills gemma-dev方式三:Antigravity
agy plugin install https://github.com/google-gemma/gemma-skills三种方式的完整说明可参考 README.md。装好之后,你只需要用自然语言描述需求(比如"帮我用 Gemma 搭一个聊天界面"),AI Agent 就会自动调用对应技能。
gemma-dev 技能详解:让 AI Agent 成为 Gemma 开发专家
gemma-dev技能解决新手最常见的困惑:该选哪个模型?该用什么工具部署?
🎯 模型选型不再靠猜
技能内置了一份完整的选型指南(skills/gemma-dev/SKILL.md),AI Agent 会根据你的硬件和业务场景推荐精确的模型:
- Gemma 4 大杯(26B A4B / 31B):支持文本+图像输入,256K 上下文,适合复杂多模态推理;
- Gemma 4 12B:额外支持音频输入,适合笔记本等消费级设备;
- Gemma 4 E2B / E4B:为移动端 NPU 加速而生,支持原生音频处理;
- EmbeddingGemma 2:RAG / 向量检索专用嵌入模型;
- ShieldGemma 2:内容安全审核专用分类器。
核心原则是:不盲目默认最小模型,而是先分析你的领域、硬件约束和输入模态,再给出精准建议。
🚀 四种部署路径都有"官方答案"
针对不同的部署目标,技能都映射了推荐技术栈,并且仓库里附带了可直接参考的示例代码:
| 部署场景 | 推荐技术栈 | 参考示例 |
|---|---|---|
| 快速原型 / Demo | Gradio + Transformers | gradio-app.py |
| 网页 / 客户端应用 | transformers.js(浏览器内推理) | transformers-js-app.js |
| 企业级云端 | Vertex AI 容器化部署 | vertex-ai-app.py |
| Apple Silicon 设备 | Ollama 或 mlx-lm | — |
其中 gradio-app.py 是一个开箱即用的 Gradio 聊天界面示例,新手可以直接学习它的对话流式输出写法。
⚡ 进阶能力:MTP 推理加速与 QAT 量化
- Multi-Token Prediction(MTP):Gemma 4 内置的推测解码技术,用轻量"草稿模型"提出候选 token,主模型一次前向验证,在不损失质量的前提下显著提速(skills/gemma-dev/SKILL.md)。
- QAT 量化感知训练:官方提供不同部署引擎的量化模型(llama.cpp 用 GGUF 格式、vLLM/SGLang 用 w4a16 压缩张量),比传统 PTQ 量化质量损失更小(skills/gemma-dev/SKILL.md)。
这些"深水区"知识以前需要自己翻遍官方文档,现在 AI Agent 会主动替你规划。
gemma-trainer 技能详解:在本地硬件微调 Gemma 模型
gemma-trainer技能面向想在本地显卡上微调 Gemma 的开发者,覆盖微调全流程:数据集准备 → 模型训练 → 格式转换 → 端侧部署。
📊 微调方法怎么选?
技能内置了一张清晰的"目标 → 方法"决策表(skills/gemma-trainer/SKILL.md):
- SFT(监督微调):教模型新领域知识、任务指令或自定义输出格式——这是大多数新手的起点;
- DPO(直接偏好优化):对齐模型的语气、风格、安全性,需要先在 SFT 基础上进行;
- 奖励建模(RM):训练一个给回答质量打分的评估模型。
💾 关键最佳实践(新手最容易踩坑的地方)
- 优先使用 Unsloth:本地单卡训练省最多 70% 显存、速度提升 2 倍;多卡环境则退回 TRL + PEFT + bitsandbytes 方案;
- 始终使用 QLoRA(4-bit 量化):这是让 12B/31B 模型装进消费级显卡的关键;
- 控制训练上下文长度:虽然 Gemma 4 支持 256K 上下文,但本地训练建议 2048~8192 token,避免显存溢出(OOM)(skills/gemma-trainer/SKILL.md)。
📁 五个即拿即用的资产脚本
gemma-trainer技能附带了一套完整的工具脚本,全部位于 skills/gemma-trainer/assets/:
| 脚本 | 用途 |
|---|---|
| dataset_prep.py | 数据集加载、格式化与校验(格式错误是训练失败的头号原因) |
| distill_dataset.py | 用大模型"老师"生成高质量数据,蒸馏训练小模型 |
| sft_train.py | QLoRA 监督微调,自动检测 Unsloth 加速 |
| dpo_train.py | 偏好对齐训练模板 |
| reward_train.py | 奖励模型训练(序列分类头 +RewardTrainer) |
特别值得一提的是 distill_dataset.py 的"师-生蒸馏"玩法:用 Gemma 4 31B 等教师模型在本地生成高质量回答,再拿去训练 Gemma 4 E2B 这样的轻量学生模型——没有标注数据也不怕。
🔄 训练完成后的最后一公里
技能还覆盖部署环节(skills/gemma-trainer/SKILL.md):Unsloth 可直接原生导出GGUF格式,方便接入 llama.cpp / LM Studio;小模型则可用LiteRT-LM部署到手机、Web 和 IoT 设备,充分利用 CPU/GPU/NPU 硬件加速。
常见问题速查
Q:我需要很强的显卡才能微调吗?A:技能默认推荐 QLoRA 4-bit 量化 + Unsloth,消费级显卡也能微调 12B 级模型;E2B/E4B 小模型门槛更低。
Q:微调完的模型怎么用到手机上?A:两条路:转 GGUF 用本地推理框架,或转 LiteRT-LM 格式走端侧硬件加速。
Q:技能会推荐过时的模型吗?A:技能要求默认推荐Gemma 4新一代模型,且优先通过 MCP 的search_documentation工具获取最新官方文档(skills/gemma-dev/SKILL.md),保证信息不滞后。
写在最后
gemma-skills 的价值不在于"多",而在于准:它把 Google 官方的模型选型标准、部署技术栈、微调超参数经验全部固化下来,让 AI Agent 从"泛泛而谈的聊天机器人"变成"懂 Gemma 的实战教练"。
新手建议的使用路径:
- 安装两个技能(前文三种方式任选其一);
- 先用
gemma-dev让 Agent 帮你搭一个本地 Demo(Gradio 最快); - 有了业务数据后,用
gemma-trainer走完 SFT → 校验数据集 → 部署的完整微调流程。
完整的技能清单参见 README.md,项目采用 Apache-2.0 许可证(plugin.json),可放心用于学习和生产环境。
【免费下载链接】gemma-skills
Skills for the Gemma and model/agent interactions
相关推荐
如何在本地硬件微调Gemma 4?gemma-skills的SFT/DPO/RLHF完整路线图
如何在本地硬件微调Gemma 4?gemma skills的SFT/DPO/RLHF完整路线图 想让 Gemma 4 听懂你的"行话"、说话更像你的风格? ge
SweetModal-Vue 无障碍访问指南:让弹窗对所有用户都友好
SweetModal Vue 无障碍访问指南:让弹窗对所有用户都友好 SweetModal Vue 是一个功能强大的 Vue.js 模态框库,但要让您的弹窗对所
如何在 3 秒内完成 macOS 分屏?Loop 窗口管理快捷键完整指南
如何在 3 秒内完成 macOS 分屏?Loop 窗口管理快捷键完整指南 Loop 是一款免费开源的 macOS 窗口管理应用:按住触发键移动鼠标、或按下快捷键
桌面应用
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考