🧪 模型发布AI 热点解读#微调#RAG#模型
微调还是路由?2026 的模型定制决策树
提示词、RAG、微调、蒸馏——四种定制的适用边界与顺序。
AIAI评测 编辑部
一句话结论
定制模型不是「一步到位」,而是按复杂度演进:提示词 → RAG → 微调 → 蒸馏——90% 的需求停在提示词与 RAG;微调留给「风格/格式/工具行为」类需求;蒸馏是「把方案固化成小模型」的终局。
三个关键点
1. 决策顺序
先问「用提示词能否表达」→ 再问「知识补充用 RAG」→ 再问「行为/风格要内化到模型」→ 最后蒸馏固化为小模型——每上一层,成本与维护也上一层。
2. 微调什么时候才值得
指令格式不稳定、风格必须稳定内化、工具调用行为要定制——且有标注数据;微调不是「解决提示不灵」的第一选择。
3. 常见误区
把 RAG 能解决的知识问题拿去做微调(数据冗余难更新);把提示能达成的效果去做蒸馏(维护成本高)——按顺序走,省时省钱。
💡 常见问题
微调贵不贵?▾
有开源框架与托管微调(价格按 token);贵的其实是数据与维护——先用提示/RAG 试探。
蒸馏和微调什么关系?▾
蒸馏可包含微调(小模型学大模型输出);微调更宽泛——两者可叠加,但都基于“任务边界清晰”。