Meta Llama 官方开发指南:使用教程

打开 Meta Llama How-to guides 后，真正让人停住的往往不是某个参数，而是七条路线同时摆在眼前：Prompt engineering、Fine-tuning、Quantization、Distillation、Validation、Vision Capabilities 和 Responsible Use Guide。它们不是从第一章读到第七章的课程。选错入口，常见结果是提示词还没有稳定就开始微调，或模型已经量化，却没有一套基线能判断质量到底掉了多少。

更稳妥的终点是做出一张可执行的开发路线单：当前问题属于哪一类，先读哪份指南，需要准备什么证据，用什么结果判断继续或停止。下面的步骤只解决“如何选择与使用官方指南”，不代替模型许可核对、数据准备、训练作业、部署测试和安全审查。

开始前，把问题写成可检查的一句话

准备能正常打开 Meta 开发者文档的浏览器，并写下一个带输入、期望结果和限制的任务。例如：“让客服问答在现有测试集上减少答非所问，同时不增加部署显存。”还要准备一小组固定样例，至少包含正常输入、边界输入和失败样例。没有固定样例，后面无论改提示、改权重还是改精度，都很难做前后对照。

这一步不要求先下载模型，也不要求先决定训练工具。账号、模型访问权、算力和数据许可要在真正执行对应方案前单独核对。公开指南能帮助选路线，却不会自动满足这些前置条件。

第一步：从 How-to guides 总入口确认范围

入口位置：在 Meta Llama 开发者文档中进入 How-to guides 页面，页面顶部应显示 How-to guides，正文下方出现 Develop with Llama。

主要动作：先浏览指南卡片名称，只把它们映射到当前问题，不急着进入训练或下载流程。把问题标成“输出行为、领域适配、部署优化、小模型迁移、效果验证、多模态输入、安全与治理”中的一类或两类。

成功标志：浏览器停在官方指南集合页，并且能用一句话说明当前主问题。例如“先解决输出行为，暂不改权重”，对应的首选入口就是 Prompt engineering。

失败处理：如果页面只有产品介绍，没有 How-to guides 标题与开发指南卡片，返回 Llama Documentation 后重新进入 How-to guides。任务同时命中三四类时，先选最接近业务失败的那一类，其余写成后续约束。

图中 How-to guides 是整套实践资料的入口，Develop with Llama 是指南集合的正文起点。确认这两个位置，能避免把产品页、新闻页或第三方整理页误当操作依据。

第二步：先用 Prompt engineering 建立低成本基线

入口位置：在指南集合中找到 Prompt engineering 卡片并进入对应页面。

主要动作：保持模型权重不变，用同一组固定样例测试更清楚的上下文、指令和示例。官方说明覆盖零样本、少样本、角色提示和检索增强等方向；一次只改一个因素，并保存改动前后的输出。

成功标志：固定样例上出现可复现的改善，而且能指出是哪项提示改动带来的结果。若质量已经满足要求，路线可以停在提示工程，不必为了“更高级”而进入训练。

失败处理：如果不同写法都在同一领域知识、术语或格式上稳定失败，先把失败样例归档，再评估 Fine-tuning。若只是测试样例不断变化，先修复评测集，不要把波动误判为提示无效。

这张卡片直接说明提示工程不需要重新训练或微调。这里要观察的是“先改输入组织方式”的边界，而不是把卡片中的每个技巧一次性叠到同一个提示里。

第三步：只有持续适配需求才进入 Fine-tuning

入口位置：回到 How-to guides 集合，打开 Fine-tuning 卡片。

主要动作：先写清需要固化到模型行为里的变化，再选择一种微调方向。官方页面列出 LoRA、QLoRA、强化学习等方法，也列出 torchtune、PEFT、Axolotl 和 Unsloth 等工具。方法和工具是两层决策：先确认训练目标与数据，再选能实现它的工具。

成功标志：实验单至少包含基础模型、训练数据范围、训练方法、输出产物和验证标准。提示工程基线仍被保留，微调结果能与它使用同一组样例比较。

失败处理：如果没有获得可用数据、模型访问权或算力，停在方案阶段，不要把阅读完指南等同于真正完成微调。若连提示基线都没有，返回上一步建立基线，否则训练收益无法归因。

图中的全参数微调、LoRA、QLoRA 和 RLHF 是不同路线，不是必须全部执行的步骤。新手最该先写清的是“要改变什么行为”和“用什么样例证明改变有效”。

第四步：用 Quantization 解决部署约束

入口位置：在 How-to guides 中进入 Quantization and performance optimization。

主要动作：先记录未量化模型的质量、内存、延迟和成本基线，再根据运行环境研究仅权重量化、动态量化或静态量化。官方说明把选择明确放在精度、延迟、内存和成本之间权衡，不能只看模型文件变小。

成功标志：部署目标有数值边界，例如内存上限、可接受延迟和最大质量损失；候选方案在同一环境、同一验证集上与基线比较。

失败处理：如果只有量化后的速度，没有量化前数据或质量结果，结论无效，返回补基线。若质量下降超过业务边界，换量化方式或精度，不要用平均速度掩盖关键样例失败。

第五步：用 Distillation 规划教师模型到学生模型的迁移

入口位置：在 How-to guides 中打开 Distillation。

主要动作：明确教师模型、学生模型和知识迁移信号。官方页面将合成数据生成、微调，以及 hard targets、logit targets、feature targets 列为蒸馏方向。先选一种可获得的监督信号，再设计学生模型训练与评测。

成功标志：路线单能回答四个问题：谁是教师、谁是学生、传递什么信号、用哪些质量与效率指标判断学生是否值得部署。

失败处理：如果只是换成更小模型，却没有教师输出或迁移过程，不要把它记作蒸馏。教师结果无法合法取得、生成数据无法审计或学生模型没有独立验证集时，先停下补前置条件。

第六步：用 Validation 固定所有改动的判断尺

入口位置：从指南集合进入 Validation。

主要动作：在提示修改、微调、量化或蒸馏之前冻结一版评测样例和指标，然后对改动前后使用同一套条件。官方说明的核心目的，是测量并判断不同微调技术带来的改进；这份指南也应贯穿其他优化路线。

成功标志：每个候选方案都有同源的前后结果，评测集包含正常、边界和高风险样例，团队能根据预先写下的阈值作出保留、回退或继续实验的决定。

失败处理：如果评测集在实验之间被替换，或只展示最好的一次结果，先恢复固定样例再重测。一个综合分数无法解释关键失败时，增加分项指标和逐例检查，不要直接宣称模型全面变好。

第七步：输入包含图片时再进入 Vision Capabilities

入口位置：在 How-to guides 中选择 Vision Capabilities。

主要动作：确认任务确实需要图像加文本输入，再核对所选模型是否支持相应多模态能力。准备一条最小样例，包含真实图片、文字指令和可人工核验的预期结果，随后再扩展到业务数据。

成功标志：最小样例能稳定接收图片与文字，输出回答了图中可见内容，并且同一输入在项目所用模板中可以复现。

失败处理：如果所选模型或服务不支持图像输入，回到模型与运行环境说明重新选型，不要把图片文件名塞进纯文本模型冒充视觉理解。文本任务没有图片依赖时，也无需为了功能完整而增加 Vision 路线。

第八步：把 Responsible Use Guide 放到项目起点

入口位置：在指南集合中打开 Responsible Use Guide 或 Developer use guide resources。

主要动作：把安全、伦理、合规和透明度要求写进路线单，并为数据标注、模型对齐、安全评估和结果说明指定检查人。它们应和样例、训练、验证同时设计，不是发布前才补的一段说明。

成功标志：任务单里已经列出禁止用途、数据边界、高风险输入、人工复核条件、失败回退和对外说明；每一项都有负责人或明确的检查位置。

失败处理：如果团队只写“遵守规范”，却没有测试样例和处置动作，返回把风险改成可执行检查。法规、行业要求或组织政策不明确时，先交给具备相应权限的负责人确认，不要用通用指南替代专业判断。

卡片把安全、伦理与合规放在开发流程里，并点出数据标注、模型对齐、安全评估和透明度。看到这张卡片时，正确动作是回到任务单补检查项，而不是等模型上线后再写免责声明。

把七条路线排成自己的开发顺序

• 输出质量或格式不稳定，但不需要改权重：先走 Prompt engineering，再用 Validation 比较。
• 领域术语或行为需要长期固化：保留提示基线，进入 Fine-tuning，随后回到 Validation。
• 模型质量已可接受，但内存、延迟或成本不达标：进入 Quantization，并用原验证集检查损失。
• 目标是把较大模型的能力迁移给较小模型：进入 Distillation，再同时比较质量与效率。
• 输入需要图片和文字：先核对 Vision Capabilities 与模型支持范围，再叠加提示、微调或验证路线。
• Responsible Use Guide 不单独排在末尾，它约束数据、实验、评测和发布的每个阶段。

路线选择完成检查清单

• 已经从官方 How-to guides 入口进入，而不是依赖第三方整理页。
• 任务被写成带输入、期望结果和限制的一句话，并准备了固定样例。
• 只选了一个首要改动方向，没有同时堆叠提示、微调、量化和蒸馏。
• Prompt、Fine-tuning、Quantization、Distillation、Validation 与 Vision 的使用边界能分别说清。
• 每项改动都有成功阈值、失败信号和回退动作，验证条件保持一致。
• 安全、数据、人工复核和透明度要求已进入任务单，不是留到发布前补写。
• 四张官方界面截图均能打开，并分别证明总入口、提示工程、微调和负责任使用。