RAG 还是微调：企业知识库技术路线怎么选
一个改“外部知识”，一个改“模型本身”。理解两者的边界，能避免花大钱做错方向。
一句话结论：知识经常变、需要引用出处的场景用 RAG；需要固定写作风格、专业术语格式或细分任务能力的场景用 微调。多数企业先做 RAG，等积累足够高质量数据再考虑微调。
两者到底在改什么
RAG（检索增强生成）
不改模型参数。提问时先从知识库检索相关段落，再让模型基于这些段落回答，并标注引用。知识更新只需更新文档与索引。
微调（Fine-tuning）
用企业标注数据继续训练模型，改变模型的表达风格、领域术语与任务能力。知识更新需要重新训练或再次微调。
关键维度对比
| 维度 | RAG | 微调 |
|---|---|---|
| 知识更新 | 改文档后重建索引即可，分钟到小时级 | 需重新训练数据与调参，天级 |
| 可解释性 | 答案带引用，可核对原文 | 模型内部行为，溯源困难 |
| 幻觉控制 | 有依据才回答，可明确说“没有” | 减少风格性错误，但仍可能编造事实 |
| 数据要求 | 需要整理好的文档与问答评测集 | 需要高质量标注数据（通常上千条起） |
| 成本结构 | 检索与推理资源，投入较低、见效快 | 数据标注 + 训练资源，投入较高 |
| 适用场景 | 制度问答、客服、合同、图纸、内部知识检索 | 固定文体写作、行业术语、分类/抽取等专用任务 |
什么时候选 RAG
- 知识更新频繁（制度、产品、价格、政策经常变）。
- 必须给出处、可审计（法务、政务、金融、客服）。
- 文档量大、格式多（PDF、扫描件、图纸、表格）。
- 想快速上线并持续迭代。
什么时候考虑微调
- 输出风格与格式要求固定（如固定话术、报告模板）。
- 有稳定、高质量、成规模的标注数据。
- 通用模型在特定任务上效果不足（如专业术语抽取）。
- 对延迟与成本敏感，希望小模型承担固定任务。
组合方式：RAG 为主，微调为辅
- 先用 RAG 解决知识检索与引用；
- 积累真实问答与反馈数据，形成评测集；
- 对固定任务与风格做轻量微调（如 LoRA）；
- 用评测集持续比较 RAG、微调与组合方案的效果与成本。
常见误区
- 用微调解决“知识更新”问题——更新成本高且容易过时。
- 只做 RAG 不整理文档——检索质量差，模型再好也答不准。
- 没有评测集就上线——无法判断优化是否有效。
常见问题
RAG 需要微调模型吗？
通常不需要。RAG 依赖检索质量与提示词工程；只有当特定任务效果不足时才考虑微调。
微调能让模型记住公司制度吗？
可以记住一部分，但更新困难且容易过时；制度类知识更适合 RAG。
两者可以一起用吗？
可以，而且常见：RAG 提供知识与引用，微调提升风格与任务能力。
投入大概多少？
RAG 主要投入在文档整理、检索调优与部署资源；微调主要投入在数据标注与训练资源。可先做 PoC 评估。