尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
为什么有了大模型还需要RAG?
为什么有了大模型还需要RAG幻觉、私有知识、时效性四大问题真实的困境假设你们公司有几千份内部文档产品手册、操作规范、历史项目经验、客户合同…领导想做一个AI问答系统让员工随时可用问”我们的退款政策是什么“、”这个客户签了那些条款“系统能直接给出准确答案你直接用大模型来做第一轮测试效果还不错—但很快发现几个绕不开的问题模型对公司内部文档一无所知回答全靠编产品文档上周刚更新但模型说的还是老版本的内容模型回答的很流畅但根本无法知道他说的是真是假也无法追溯来源文档加载到Prompt里面token成本高到无法接收这个不是模型的能力不够而是大模型作为一种技术有几个根本性的天花板—而RAG就是为了突破这些天花板而诞生的大模型的局限性幻觉问题大模型的本质就是一个概率语言模型它在生成每个token时做的是”预测下一个最可能的词“而不是”从知识库里面查询正确的答案“这意味着当他不知道答案时他不会说“我不知道”他会生成一个听起来最合理的答案。这个答案可能完全是捏造的但是语气鉴定、格式工整让人难以判断真假在企业场景里面幻觉的危害远比“回答错误”更严重—他会以可信的方式传播错误信息而用户毫不知情私有知识问题大模型是在公开数据上训练的。你们公司的文档、客户合同、产品手册、会议记录这些内容它从没有见过也不可能知道有人会想那把文档全部放进Pompt里面对于少量文档这是可行的但是当文档量达到几百份、几千份时。token成本和上下文长度都会变成瓶颈。而且模型在极长上下文里面的注意力会严重稀释对中间内容的利用率极低知识更新问题模型的训练是有截止日期的通常落后现实6个月到一年。产品价格变了政策修订了新的竞争对手出现了—这些模型全不知道你不可能每隔几个月就重新训练一遍模型来“更新知识”这在成本和时间上都不可接受可追溯性问题当模型给出一个答案时它无法告诉你“这句话来自文档的第几页”对于法律、医、金融等对准确性要求极高的场景没有来源引用的答案往往是不可接受的RAG是怎么应对大模型的缺点的RAG的全称是Retrieval-Augmented Generation,检索增强生成。他的核心思路非常直觉在让模型回答之前先去知识库里面检索出来最相关的内容把这些内容作为上下文一起喂给模型让模型“看着资料”来回答RAG针对四个问题都有应对对幻觉问题检索到的原文片段作为上下文传入模型模型被要求“根据以下资料回答”而不是凭空生成。有了事实依据的约束幻觉概率大幅度降低—但注意不是归零对私有知识问题知识库完全由你自己构建和维护可用包含任何内部文档模型不需要知道只写内容只需要在被检索到的片段基础上进行推理和组织语言对知识更新问题更新知识库不需要重新训练模型只需要更新文档、重新做向量化索引即可。知识的新鲜度完全由知识库决定和模型训练的截止日期解耦对可追溯更新问题每次检索都能知道具体命中了那份文档的那个片段可以自行检查RAG不是万能的什么场景适合什么场景不适合很多人看到RAG的思路之后产生了一个误区是不是所有的大模型应用都应该加RAG适合RAG的场景知识密集型的问答系统比如企业内部的知识库、产品手册问答、法律法规查询—这类场景对事实准确性要求高内容量大而且需要明确的来源追溯内容频繁更新的业务比如新闻摘要、竞品分析、政策解读—这类场景下知识库可以持续接入实时数据而模型本身不需要动长尾事实查询比如我们公司在上海办公地址是什么这个合同的甲方是谁这类问题的答案藏在特定的文档里面必须检索才能找到
RELATED

相关推荐

欣升源光伏板供应 农光互补电站专用大功率组件抗PID衰减低

欣升源光伏板供应 农光互补电站专用大功率组件抗PID衰减低

光伏行业正处在从规模扩张向质量效益转型的关键阶段。随着双碳目标持续推进,分布式光伏与农光互补电站成为增量市场的主力,而组件作为电站的心脏,其功率水平与抗衰减能力直接决定了电站二十五年的收益曲线。特别是在农光互补场景中&#xff0…

📅 2026/10/2 20:46:17
阿特拉斯空压机工厂直供 山姆斯品牌空压机0.8MPa稳定输出 医药车间无油方案

阿特拉斯空压机工厂直供 山姆斯品牌空压机0.8MPa稳定输出 医药车间无油方案

压缩空气被誉为工业领域的第四大能源,广泛服务于机械制造、电子、纺织、食品、医药等众多行业。随着制造业转型升级不断加速,企业对气源系统的稳定性、洁净度与能效水平提出了更高要求,空压机市场正从单纯卖设备向提供系统解决方案转变。特别…

📅 2026/10/2 20:46:17
EP不锈钢管工厂推荐 昌迪金属正规制造厂家值得信赖

EP不锈钢管工厂推荐 昌迪金属正规制造厂家值得信赖

选对EP不锈钢管工厂,工程品质先稳一半在医药、食品、高纯流体等洁净工程领域,EP不锈钢管的品质直接决定整个管路系统能否通过验收。电解抛光工艺做没做到位,内壁粗糙度是否达标,焊缝有没有氧化残留,这些细节肉眼难辨&a…

📅 2026/10/2 20:46:17
MORE NEWS

更多资讯

📰

把技术书变成 Agent Skill:book-to-skill 三步上手与成本拆解

把技术书变成 Agent Skill:book-to-skill 三步上手与成本拆解 【免费下载链接】book-to-skill Turn any technical book PDF into a Claude Code skill — ready to study, reference, and use while you work. 项目地址: https://gitcode.com/GitHub_Trending/bo…

📰

如何把 Windows 11 任务栏找回经典快速启动工具栏?ExplorerPatcher 8 分钟配置完整指南

如何把 Windows 11 任务栏找回经典快速启动工具栏?ExplorerPatcher 8 分钟配置完整指南 【免费下载链接】ExplorerPatcher This project aims to enhance the working environment on Windows 项目地址: https://gitcode.com/GitHub_Trending/ex/ExplorerPatcher …

📰

Java 设计模式精讲:基于 Active Object 模式构建高效异步并发系统(附 java-design-patterns 源码剖析)

示例工程教程 【免费下载链接】java-design-patterns Design patterns implemented in Java 项目地址: https://gitcode.com/GitHub_Trending/ja/java-design-patterns 点击查看 免费下载 导读:本文以开源仓库 java-design-patterns 中的 active-object…

📰

深耕计算机考研,助力码农突围 — 天任考研计算机科学与技术专项集训营正式启航

计算机科学与技术是近年来考研报考热度最高的专业之一。随着信息技术和人工智能产业快速发展,计算机类研究生就业薪资持续走高,吸引了大量本专业考生和跨专业考生报考。然而,计算机考研竞争异常激烈,408 计算机学科专业基础综合内…

📰

Candle 运行 XLM-RoBERTa 实战:Fill-Mask、Reranker 与文本分类三大任务指南

人工智能大模型机器学习深度学习本地部署模型推理服务 【免费下载链接】candle Minimalist ML framework for Rust 项目地址: https://gitcode.com/GitHub_Trending/ca/candle 点击查看 免费下载 本文基于 Candle 开源仓库中的 xlm-roberta 示例 与对应源码&#x…

📰

Univer SDK:嵌入式 Office 能力原子化实践指南

1. 项目概述:Univer 是什么?它解决的到底是什么问题? Univer 这个名字最近在前端技术圈、企业级办公系统开发和低代码平台建设中频繁出现,但它不是某个大厂新发布的 Office 替代品,也不是又一个 PDF 渲染库的营销噱头。…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬