微调不是 RAG 的替代品,它们解决的是不同问题
【摘要】 经常看到一种争论:有了微调,还需要 RAG 吗?或者有了长上下文,还需要微调吗?我的看法是,这几种技术解决的不是同一个问题,别把它们放在一个维度比较。RAG 解决的是“知识从哪来”:最新政策、内部文档、实时数据,适合检索注入。微调解决的是“行为怎么稳定”:固定格式、领域语气、分类边界、工具调用习惯,适合用样本塑造。长上下文解决的是“一次能看多少”,但不保证模型一定用好。一个实用判断:如果模型...
经常看到一种争论:有了微调,还需要 RAG 吗?或者有了长上下文,还需要微调吗?我的看法是,这几种技术解决的不是同一个问题,别把它们放在一个维度比较。
RAG 解决的是“知识从哪来”:最新政策、内部文档、实时数据,适合检索注入。微调解决的是“行为怎么稳定”:固定格式、领域语气、分类边界、工具调用习惯,适合用样本塑造。长上下文解决的是“一次能看多少”,但不保证模型一定用好。
一个实用判断:如果模型缺的是事实,先做 RAG;如果模型缺的是稳定行为,考虑微调;如果模型缺的是复杂推理,先换更强模型或拆任务。很多场景需要组合:微调小模型做路由和抽取,RAG 补知识,大模型兜底复杂问题。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)