本文深入探讨了 Agentic RAG 与普通 RAG 的核心区别指出 Agentic RAG 的优势不仅在于加入智能体更在于从文档处理开始就实现了闭环决策。文章详细阐述了 Agentic RAG 在文档处理、检索、反思和规划四个层面的升级从固定长度切块到语义感知和结构化索引从单次检索到迭代式检索与策略切换从无反思机制到自我评估与质量打分以及从简单问答到任务规划与多步推理。最后文章还讨论了 Agentic RAG 落地时的工程取舍强调了每个“活”的能力都需要对应的工程约束。对于准备面试或进行企业知识库升级的用户本文提供了宝贵的见解和实用的面试话术。文章目录前言一、普通 RAG 是怎么处理文档的一条单向流水线二、Agentic RAG 的分水岭不是加个智能体而是闭环三、文档处理阶段从数 token 切块到语义感知 结构化索引四、检索阶段从一次到位到迭代式检索 策略切换五、反思与自我评估Agentic RAG 会自己质疑自己六、规划能力把回答问题变成完成一个任务七、一张表看懂八维度差异八、从架构师视角看 Agentic RAG 的六个工程取舍九、面试话术考官想听的是什么总结前言淘天二面这道题最近在 AI 求职圈反复出现。表面问Agentic RAG 和普通 RAG 的区别但只要答出加个智能体让它自己决定检索几次面试官就会端起水杯沉默——那种沉默比骂你一顿还难受。Agentic RAG 不是在普通 RAG 上面加一个 Agent 壳它和普通 RAG 的分野从文档进入系统那一刻就开始了——文档处理、检索、反思、规划四个层面全是闭环决策不是检索完之后才补一层智能体。这道题考察的不是你会不会背定义而是你有没有真的理解过一条 RAG 链路里哪些环节可以决策、哪些环节只能走流水线。下面这段对话是复盘整理出来的原版追问节奏尽量还原现场压力 面试官你简历上写了做过 RAG 项目那你说说看Agentic RAG 和普通 RAG在文档处理这块儿到底有什么本质上的区别♂️ 我呃……Agentic RAG 就是在普通 RAG 的基础上加了一个智能体让它自己去决定要不要检索、检索几次大概就这样吧。 面试官笑而不语端起水杯喝了一口那我问你文档处理这一步Agent 在哪里♂️ 我……卡住应该是在检索之后才介入的吧 面试官你说的加个智能体其实只描述了检索阶段的一个表象。Agentic RAG 真正的分水岭在于它把文档处理和检索都变成了带反馈、可以迭代、可以规划的过程而不是一条单向流水线。♂️ 我所以从切文档那一刻起两者就不一样了 面试官对。如果连切块都是死的后面的 Agent 再聪明也救不回来。这一段对话基本能把 80% 候选人筛掉——大部分人把 Agentic RAG 理解成RAG Agent 的壳但分水岭其实从文档处理那一刻就开始了。不管你是准备面大模型应用岗、RAG 工程岗还是正在做企业知识库想升级到 Agent 化检索读完这篇都能搞明白普通 RAG 哪里是死的、Agentic RAG 哪里是活的、四个层面分别怎么从流水线升级成闭环决策以及面试时怎么把这道题答到 90 分。开拆。一、普通 RAG 是怎么处理文档的一条单向流水线普通 RAG 也叫 Naive RAG文档处理流程是一条流水线从头到尾走一遍就结束索引段原始文档 → 固定规则切块 → 向量化 → 存入向量库。查询段用户提问 → 向量化 → 相似度检索 Top-K → 拼接成 Context → 丢给 LLM 生成答案。这套流程有几个明显特点也正是它和 Agentic RAG 拉开差距的根因第一切块方式是死的。不管文档是合同、代码还是财报都用固定长度比如 512 token加 overlap 来切很少考虑语义边界。一份合同的违约责任条款被从中间切开向量检索时两段语义都对不上。第二检索只做一次。不管结果好不好用都不会回头再查。LLM 只能基于捞回来的素材硬答。第三没有反思机制。LLM 拿到什么 context 就用什么不会判断够不够用。检索回来的三段话互相矛盾LLM 也会硬编一个答案——这是幻觉的温床。第四文档结构信息基本丢失。表格、标题层级、图表说明在切块那一刻就被拍扁成纯文本。一份财报的营收表格被拆成几行散落进不同 chunk整体趋势完全还原不出来。问题很直接如果一个答案分布在文档的三个不同章节里普通 RAG 大概率只能捞到其中一块答案天然残缺。这也是很多人做完 RAG demo 上线后发现检索效果不行的原因——不是模型不行是流水线本身的天花板就在这。二、Agentic RAG 的分水岭不是加个智能体而是闭环面试官后来点破的那句话值得反复咀嚼“你说的’加个智能体’只描述了检索阶段的一个表象。Agentic RAG 真正的分水岭在于它把文档处理和检索都变成了带反馈、可以迭代、可以规划的过程而不是一条单向流水线。”这句话拆开看有三层第一层加个智能体只是表象。很多人想象的 Agentic RAG 是普通 RAG Agent 调度器Agent 决定调几次检索、用哪个工具。但这只是检索阶段的优化文档处理那条流水线还是死的——切块固定、结构信息丢失、没有反思。这种加壳式 Agentic RAG能力上限被文档处理阶段就锁死了。第二层分水岭从文档处理就开始了。Agentic RAG 在文档进入系统那一刻就走上了不同的路语义分块替代固定切块、层级化索引替代扁平向量库、结构感知解析替代纯文本拍平。这些不是检索阶段能补救的是文档处理阶段就决定了检索的天花板。第三层整条链路变成了闭环。普通 RAG 是单向的索引→检索→生成走完就结束。Agentic RAG 的链路是带反馈的检索完可以评估质量、质量不够可以重新检索、生成前可以自我质疑、生成后可以校验答案。规划能力还能把回答问题拆成多步任务每步独立检索和反思。后面四章文档处理、检索、反思、规划就是把这四层分水岭逐一拆开讲。三、文档处理阶段从数 token 切块到语义感知 结构化索引普通 RAG 的切块逻辑基本就是在数字符数。Agentic RAG 倾向于用下面四种方式每一种都针对普通 RAG 流水线的某个硬伤。1. 语义分块Semantic Chunking按语义相似度切而非固定长度。先按句子切计算相邻句子的语义相似度在相似度突然下降处动态决定切分点。好处是每个 chunk 内部语义连贯不会出现违约责任被一刀切开。代价是要跑一遍 embedding 算相似度但对合同、财报这种语义密度高的文档值得。2. 层级化索引Hierarchical Indexing普通 RAG 把所有 chunk 平铺进向量库。Agentic RAG 先生成摘要索引每章一个摘要向量再挂细粒度段落索引检索时先定位章节再往下钻。这就是 RAPTOR 之类的树状索引思路避免大海捞针。3. 结构感知解析普通 RAG 把表格、标题、图表说明拍平成纯文本。Agentic RAG 把表格转成结构化 JSON/Markdown 单独索引图表 caption 单独处理标题层级保留为元数据。对财报、技术文档、合同这类结构化重的文档特别关键。4. 文档间关系建模普通 RAG 让每个文档孤立存在。Agentic RAG 用知识图谱或引用关系把这份合同引用了另一份附件这种跨文档关联也存下来解决多跳问题——答案需要跨多份文档拼出来的场景普通 RAG 基本无能为力。总结普通 RAG 是拍平切块入库Agentic RAG 是感知结构建层级建关联。前者把文档当散乱文本片段后者当带结构、带关联的知识网络。四、检索阶段从一次到位到迭代式检索 策略切换普通 RAG 的检索是一次到位——用户问什么就用原始问题去向量库捞 Top-K捞完就结束。Agentic RAG 的检索是迭代式的Agent 会根据问题类型和检索结果质量动态决定怎么检索、检索几次、用什么策略。1. 查询改写Query Rewriting普通 RAG 直接拿用户原始问题去检索但用户提问往往口语化、模糊——“那个项目的进展怎么样了”向量检索根本捞不到有用的东西。Agent 会先判断问题是否清晰生成更适合检索的查询语句。2. 查询分解Query Decomposition复杂问题没法一次检索到位。比如对比这三份财报的营收增长趋势并给出结论Agent 会拆成多个子问题分别检索三份财报营收数据、检索行业平均增速、最后汇总对比。普通 RAG 拿到这种问题只会一把检索对比根本做不起来。3. 多跳检索Multi-hop Retrieval第一轮检索结果不够用时Agent 会根据已有信息生成新的检索请求直到信息够用为止。比如用户问收购方 A 的母公司去年营收多少第一轮检索收购方 A拿到母公司是 B第二轮再检索B 公司去年营收。这种多跳场景只有 Agentic RAG 能处理。4. 检索策略动态切换普通 RAG 只会向量检索。Agent 会根据问题类型动态选择向量检索语义相似度匹配适合模糊语义问题关键词检索BM25精确匹配专有名词、产品型号、报错码SQL 查询结构化数据直接查数据库比向量检索准API 调用实时数据股价、天气、库存直接调外部 API这四个能力叠加Agentic RAG 的检索就从一次性捞 Top-K升级成了带规划、带迭代、带策略切换的检索过程。五、反思与自我评估Agentic RAG 会自己质疑自己普通 RAG 检索完就直接生成答案从来不检查检索质量。Agentic RAG 会在生成答案之前插入一个自我评估环节——这是普通 RAG 完全没有的能力。这套机制在学术界有专门的名字工程界也已有开源实现。Self-RAG让模型自己判断要不要检索、检索得够不够Self-RAG 训练模型学会反思 token——生成过程中自己输出[Retrieve]、[Relevant]等标记自主判断这一步要不要检索、检索回来的内容相不相关。落到工程上Agent 先判断这个问题能不能直接答能答就不检索不能答才触发检索回来还会判断够不够用不够就再检索一轮。这种按需检索 质量自评的闭环普通 RAG 完全不具备。CRAGCorrective RAG对检索结果做质量打分差的就修正CRAG 对检索回来的每条结果做质量打分分三档正确Correct高度相关直接用错误Incorrect完全不对路丢弃触发网络搜索兜底模糊Ambiguous部分相关保留相关部分补充网络搜索这解决的是普通 RAG 的致命问题检索回来一堆不相关内容LLM 照样硬答导致幻觉。CRAG 在生成前就把不相关的过滤掉质量差的还触发兜底检索。反思这一层的本质普通 RAG 链路是检索→生成单向不回头。Agentic RAG 链路是检索→评估→不够重新检索→生成→校验多了评估和重试两个环节。这意味着 RAG 系统从盲目执行变成了带自我意识的执行——系统会自己质疑自己这种自我质疑能力是 Agent 区别于流水线工具的根本标志。六、规划能力把回答问题变成完成一个任务普通 RAG 目标单一检索 生成一问一答。Agentic RAG 的 Agent 会先做任务规划把回答问题拆解成一系列步骤。这是最本质的区别——普通 RAG 只能回答问题Agentic RAG 能完成任务。从回答问题到完成任务举个例子。用户问“帮我分析一下这家公司的财务状况给出投资建议。”普通 RAG一把检索公司财务状况捞回几段财报片段LLM 硬编投资建议结果大概率片面。Agentic RAG 的 Agent 会拆成多步检索公司基本资料主营业务、行业地位检索近三年财务报表营收、利润、现金流、负债检索行业对标数据同行业平均增速、市场份额检索最新新闻动态重大诉讼、政策风险综合以上信息生成投资建议只有第一步和第二步勉强算普通 RAG 的检索范围第三步到第五步都是普通 RAG 不具备的——需要规划拆解任务、多步执行每步独立检索、汇总推理整合成结论。规划能力的工程意义真实业务问题很少是一问一答能解决的。客服问题需要查订单、查物流、查退换货政策合规咨询需要查规则、查案例、查条款。这些都需要拆解成多个子任务每个独立检索最后汇总。普通 RAG 只能硬检索一把Agentic RAG 能像分析师一样先规划思路、再分步执行、最后综合判断。为什么 Agentic RAG 不是RAG Agent的简单叠加Agent 不是在 RAG 外面套壳而是在内部重新定义了信息获取和处理的过程。规划能力决定检索深度和广度反思能力决定检索质量工具调用能力决定能触达的数据源。三个能力叠加Agentic RAG 才从问答系统升级成任务执行系统。一句话概括普通 RAG 是检索 生成Agentic RAG 是规划 检索 反思 生成 校验。多出来的不是一层壳而是四个能力维度。七、一张表看懂八维度差异前面四层拆完下面用一张表把八个维度的差异收拢一下。这张表建议存下来面试前过一遍基本能覆盖 80% 的追问点。对比维度普通 RAGNaive RAGAgentic RAG文档切块固定长度 overlap按 token 数硬切语义感知切块按语义相似度动态决定切分点结构化信息表格/标题/图表全部拍平成纯文本基本丢失表格转 JSON/Markdown 单独索引标题层级保留为元数据图表 caption 单独处理检索次数通常只检索一次捞完就生成支持多轮迭代检索信息不够就再查查询处理直接拿用户原始问题去检索先改写查询再按需分解成子问题分别检索检索策略单一向量检索动态选择向量检索 / BM25 关键词 / SQL / API 调用结果校验无校验检索什么就用什么直接拼接生成自我评估检索质量Self-RAG / CRAG不够则重新检索或换策略任务能力只能一问一答复杂问题答不全能做任务规划、多步推理把回答问题拆成完成任务工具使用无外部工具调用能力可调用搜索引擎、代码执行器、数据库、外部 API 等工具这张表里有几个维度是面试官最爱追问的检索次数。普通 RAG 只检索一次是天花板——不管结果好坏都没回头路。Agentic RAG 的多轮迭代不是 for 循环背后是 Agent 在评估每轮结果质量、决定要不要继续查。检索策略。真实业务里向量检索只解决一部分问题。精确匹配 BM25 更准结构化数据 SQL 更准实时数据必须走 API。动态切换是刚需不是花架子。结果校验。普通 RAG 检索完就生成中间没质量把关Agentic RAG 在生成前插入自我评估决定了系统会不会基于错误证据硬答。任务能力。普通 RAG 只能回答问题Agentic RAG 能完成任务——前者是工具后者是助手。这个认知差异决定了你设计系统的天花板。八、从架构师视角看 Agentic RAG 的六个工程取舍讲完原理和对比下面从架构师视角聊聊 Agentic RAG 落地时的几个工程取舍。这些点原文没展开但真正做选型时全是绕不开的决策。1. 语义分块不是万能药要按文档类型选切块策略语义分块对合同、财报效果好但对代码、日志、聊天记录反而可能更差——代码语义边界是函数/类日志是事件聊天是消息轮次硬套句子相似度切分反而切断逻辑单元。工程做法是按文档类型路由结构化文档走语义分块代码走 AST 级切块日志按时间窗口切聊天按轮次切。2. 层级化索引的 ROI 要算清楚RAPTOR 这类树状索引在文档量大、查询需要跨章节定位时收益明显。但知识库只有几百篇文档、查询大多是单点事实查询时建树的开销摘要向量的 LLM 调用 维护成本可能收不回来。判断标准文档量 1 万篇、查询有先定位再细化模式时才上层级索引小库直接扁平索引 rerank。3. 多跳检索要设上限否则会陷入死循环多跳检索必须设跳数上限通常 3-5 跳。原因每多一跳就多一轮 LLM 调用 检索调用成本和延迟线性增长Agent 可能在某一跳走偏后续每跳都在错误方向越走越远。上限不是限制能力是防止系统失控的兜底。4. CRAG 的网络搜索兜底在企业场景要慎用CRAG 论文里检索质量差就触发网络搜索在开放场景合理。但企业场景下网络搜索的可信度、合规性、时效性都没法保证——金融、医疗、法务领域直接用网络搜索兜底可能引入更严重的错误。企业兜底策略更应该是触发人工审核队列或降级到建议联系人工客服。5. 反思机制要分级不是每次检索都跑 Self-RAGSelf-RAG 的反思 token 机制会拖慢生成速度——每步都要判断要不要检索、检索得够不够这些判断本身都是 LLM 调用。工程做法是分级反思简单事实查询跳过反思复杂推理查询才开启。判断依据可以是问题分类器把反思开销花在真正需要的查询上。6. 规划能力要约束Agent 自由拆任务容易跑偏完全放任 Agent 自己拆任务容易出现拆出 10 个子任务每个都检索一轮最后 LLM 上下文塞不下。工程约束包括子任务数量上限通常 5-7 个、每步检索结果 token 上限、总执行时间上限、子任务间依赖关系要显式。一句话总结Agentic RAG 每一个活的能力都需要对应的工程约束兜底——灵活性不是免费的每多一层决策就多一层失控风险。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
本文深入探讨了 Agentic RAG 与普通 RAG 的核心区别指出 Agentic RAG 的优势不仅在于加入智能体更在于从文档处理开始就实现了闭环决策。文章详细阐述了 Agentic RAG 在文档处理、检索、反思和规划四个层面的升级从固定长度切块到语义感知和结构化索引从单次检索到迭代式检索与策略切换从无反思机制到自我评估与质量打分以及从简单问答到任务规划与多步推理。最后文章还讨论了 Agentic RAG 落地时的工程取舍强调了每个“活”的能力都需要对应的工程约束。对于准备面试或进行企业知识库升级的用户本文提供了宝贵的见解和实用的面试话术。文章目录前言一、普通 RAG 是怎么处理文档的一条单向流水线二、Agentic RAG 的分水岭不是加个智能体而是闭环三、文档处理阶段从数 token 切块到语义感知 结构化索引四、检索阶段从一次到位到迭代式检索 策略切换五、反思与自我评估Agentic RAG 会自己质疑自己六、规划能力把回答问题变成完成一个任务七、一张表看懂八维度差异八、从架构师视角看 Agentic RAG 的六个工程取舍九、面试话术考官想听的是什么总结前言淘天二面这道题最近在 AI 求职圈反复出现。表面问Agentic RAG 和普通 RAG 的区别但只要答出加个智能体让它自己决定检索几次面试官就会端起水杯沉默——那种沉默比骂你一顿还难受。Agentic RAG 不是在普通 RAG 上面加一个 Agent 壳它和普通 RAG 的分野从文档进入系统那一刻就开始了——文档处理、检索、反思、规划四个层面全是闭环决策不是检索完之后才补一层智能体。这道题考察的不是你会不会背定义而是你有没有真的理解过一条 RAG 链路里哪些环节可以决策、哪些环节只能走流水线。下面这段对话是复盘整理出来的原版追问节奏尽量还原现场压力 面试官你简历上写了做过 RAG 项目那你说说看Agentic RAG 和普通 RAG在文档处理这块儿到底有什么本质上的区别♂️ 我呃……Agentic RAG 就是在普通 RAG 的基础上加了一个智能体让它自己去决定要不要检索、检索几次大概就这样吧。 面试官笑而不语端起水杯喝了一口那我问你文档处理这一步Agent 在哪里♂️ 我……卡住应该是在检索之后才介入的吧 面试官你说的加个智能体其实只描述了检索阶段的一个表象。Agentic RAG 真正的分水岭在于它把文档处理和检索都变成了带反馈、可以迭代、可以规划的过程而不是一条单向流水线。♂️ 我所以从切文档那一刻起两者就不一样了 面试官对。如果连切块都是死的后面的 Agent 再聪明也救不回来。这一段对话基本能把 80% 候选人筛掉——大部分人把 Agentic RAG 理解成RAG Agent 的壳但分水岭其实从文档处理那一刻就开始了。不管你是准备面大模型应用岗、RAG 工程岗还是正在做企业知识库想升级到 Agent 化检索读完这篇都能搞明白普通 RAG 哪里是死的、Agentic RAG 哪里是活的、四个层面分别怎么从流水线升级成闭环决策以及面试时怎么把这道题答到 90 分。开拆。一、普通 RAG 是怎么处理文档的一条单向流水线普通 RAG 也叫 Naive RAG文档处理流程是一条流水线从头到尾走一遍就结束索引段原始文档 → 固定规则切块 → 向量化 → 存入向量库。查询段用户提问 → 向量化 → 相似度检索 Top-K → 拼接成 Context → 丢给 LLM 生成答案。这套流程有几个明显特点也正是它和 Agentic RAG 拉开差距的根因第一切块方式是死的。不管文档是合同、代码还是财报都用固定长度比如 512 token加 overlap 来切很少考虑语义边界。一份合同的违约责任条款被从中间切开向量检索时两段语义都对不上。第二检索只做一次。不管结果好不好用都不会回头再查。LLM 只能基于捞回来的素材硬答。第三没有反思机制。LLM 拿到什么 context 就用什么不会判断够不够用。检索回来的三段话互相矛盾LLM 也会硬编一个答案——这是幻觉的温床。第四文档结构信息基本丢失。表格、标题层级、图表说明在切块那一刻就被拍扁成纯文本。一份财报的营收表格被拆成几行散落进不同 chunk整体趋势完全还原不出来。问题很直接如果一个答案分布在文档的三个不同章节里普通 RAG 大概率只能捞到其中一块答案天然残缺。这也是很多人做完 RAG demo 上线后发现检索效果不行的原因——不是模型不行是流水线本身的天花板就在这。二、Agentic RAG 的分水岭不是加个智能体而是闭环面试官后来点破的那句话值得反复咀嚼“你说的’加个智能体’只描述了检索阶段的一个表象。Agentic RAG 真正的分水岭在于它把文档处理和检索都变成了带反馈、可以迭代、可以规划的过程而不是一条单向流水线。”这句话拆开看有三层第一层加个智能体只是表象。很多人想象的 Agentic RAG 是普通 RAG Agent 调度器Agent 决定调几次检索、用哪个工具。但这只是检索阶段的优化文档处理那条流水线还是死的——切块固定、结构信息丢失、没有反思。这种加壳式 Agentic RAG能力上限被文档处理阶段就锁死了。第二层分水岭从文档处理就开始了。Agentic RAG 在文档进入系统那一刻就走上了不同的路语义分块替代固定切块、层级化索引替代扁平向量库、结构感知解析替代纯文本拍平。这些不是检索阶段能补救的是文档处理阶段就决定了检索的天花板。第三层整条链路变成了闭环。普通 RAG 是单向的索引→检索→生成走完就结束。Agentic RAG 的链路是带反馈的检索完可以评估质量、质量不够可以重新检索、生成前可以自我质疑、生成后可以校验答案。规划能力还能把回答问题拆成多步任务每步独立检索和反思。后面四章文档处理、检索、反思、规划就是把这四层分水岭逐一拆开讲。三、文档处理阶段从数 token 切块到语义感知 结构化索引普通 RAG 的切块逻辑基本就是在数字符数。Agentic RAG 倾向于用下面四种方式每一种都针对普通 RAG 流水线的某个硬伤。1. 语义分块Semantic Chunking按语义相似度切而非固定长度。先按句子切计算相邻句子的语义相似度在相似度突然下降处动态决定切分点。好处是每个 chunk 内部语义连贯不会出现违约责任被一刀切开。代价是要跑一遍 embedding 算相似度但对合同、财报这种语义密度高的文档值得。2. 层级化索引Hierarchical Indexing普通 RAG 把所有 chunk 平铺进向量库。Agentic RAG 先生成摘要索引每章一个摘要向量再挂细粒度段落索引检索时先定位章节再往下钻。这就是 RAPTOR 之类的树状索引思路避免大海捞针。3. 结构感知解析普通 RAG 把表格、标题、图表说明拍平成纯文本。Agentic RAG 把表格转成结构化 JSON/Markdown 单独索引图表 caption 单独处理标题层级保留为元数据。对财报、技术文档、合同这类结构化重的文档特别关键。4. 文档间关系建模普通 RAG 让每个文档孤立存在。Agentic RAG 用知识图谱或引用关系把这份合同引用了另一份附件这种跨文档关联也存下来解决多跳问题——答案需要跨多份文档拼出来的场景普通 RAG 基本无能为力。总结普通 RAG 是拍平切块入库Agentic RAG 是感知结构建层级建关联。前者把文档当散乱文本片段后者当带结构、带关联的知识网络。四、检索阶段从一次到位到迭代式检索 策略切换普通 RAG 的检索是一次到位——用户问什么就用原始问题去向量库捞 Top-K捞完就结束。Agentic RAG 的检索是迭代式的Agent 会根据问题类型和检索结果质量动态决定怎么检索、检索几次、用什么策略。1. 查询改写Query Rewriting普通 RAG 直接拿用户原始问题去检索但用户提问往往口语化、模糊——“那个项目的进展怎么样了”向量检索根本捞不到有用的东西。Agent 会先判断问题是否清晰生成更适合检索的查询语句。2. 查询分解Query Decomposition复杂问题没法一次检索到位。比如对比这三份财报的营收增长趋势并给出结论Agent 会拆成多个子问题分别检索三份财报营收数据、检索行业平均增速、最后汇总对比。普通 RAG 拿到这种问题只会一把检索对比根本做不起来。3. 多跳检索Multi-hop Retrieval第一轮检索结果不够用时Agent 会根据已有信息生成新的检索请求直到信息够用为止。比如用户问收购方 A 的母公司去年营收多少第一轮检索收购方 A拿到母公司是 B第二轮再检索B 公司去年营收。这种多跳场景只有 Agentic RAG 能处理。4. 检索策略动态切换普通 RAG 只会向量检索。Agent 会根据问题类型动态选择向量检索语义相似度匹配适合模糊语义问题关键词检索BM25精确匹配专有名词、产品型号、报错码SQL 查询结构化数据直接查数据库比向量检索准API 调用实时数据股价、天气、库存直接调外部 API这四个能力叠加Agentic RAG 的检索就从一次性捞 Top-K升级成了带规划、带迭代、带策略切换的检索过程。五、反思与自我评估Agentic RAG 会自己质疑自己普通 RAG 检索完就直接生成答案从来不检查检索质量。Agentic RAG 会在生成答案之前插入一个自我评估环节——这是普通 RAG 完全没有的能力。这套机制在学术界有专门的名字工程界也已有开源实现。Self-RAG让模型自己判断要不要检索、检索得够不够Self-RAG 训练模型学会反思 token——生成过程中自己输出[Retrieve]、[Relevant]等标记自主判断这一步要不要检索、检索回来的内容相不相关。落到工程上Agent 先判断这个问题能不能直接答能答就不检索不能答才触发检索回来还会判断够不够用不够就再检索一轮。这种按需检索 质量自评的闭环普通 RAG 完全不具备。CRAGCorrective RAG对检索结果做质量打分差的就修正CRAG 对检索回来的每条结果做质量打分分三档正确Correct高度相关直接用错误Incorrect完全不对路丢弃触发网络搜索兜底模糊Ambiguous部分相关保留相关部分补充网络搜索这解决的是普通 RAG 的致命问题检索回来一堆不相关内容LLM 照样硬答导致幻觉。CRAG 在生成前就把不相关的过滤掉质量差的还触发兜底检索。反思这一层的本质普通 RAG 链路是检索→生成单向不回头。Agentic RAG 链路是检索→评估→不够重新检索→生成→校验多了评估和重试两个环节。这意味着 RAG 系统从盲目执行变成了带自我意识的执行——系统会自己质疑自己这种自我质疑能力是 Agent 区别于流水线工具的根本标志。六、规划能力把回答问题变成完成一个任务普通 RAG 目标单一检索 生成一问一答。Agentic RAG 的 Agent 会先做任务规划把回答问题拆解成一系列步骤。这是最本质的区别——普通 RAG 只能回答问题Agentic RAG 能完成任务。从回答问题到完成任务举个例子。用户问“帮我分析一下这家公司的财务状况给出投资建议。”普通 RAG一把检索公司财务状况捞回几段财报片段LLM 硬编投资建议结果大概率片面。Agentic RAG 的 Agent 会拆成多步检索公司基本资料主营业务、行业地位检索近三年财务报表营收、利润、现金流、负债检索行业对标数据同行业平均增速、市场份额检索最新新闻动态重大诉讼、政策风险综合以上信息生成投资建议只有第一步和第二步勉强算普通 RAG 的检索范围第三步到第五步都是普通 RAG 不具备的——需要规划拆解任务、多步执行每步独立检索、汇总推理整合成结论。规划能力的工程意义真实业务问题很少是一问一答能解决的。客服问题需要查订单、查物流、查退换货政策合规咨询需要查规则、查案例、查条款。这些都需要拆解成多个子任务每个独立检索最后汇总。普通 RAG 只能硬检索一把Agentic RAG 能像分析师一样先规划思路、再分步执行、最后综合判断。为什么 Agentic RAG 不是RAG Agent的简单叠加Agent 不是在 RAG 外面套壳而是在内部重新定义了信息获取和处理的过程。规划能力决定检索深度和广度反思能力决定检索质量工具调用能力决定能触达的数据源。三个能力叠加Agentic RAG 才从问答系统升级成任务执行系统。一句话概括普通 RAG 是检索 生成Agentic RAG 是规划 检索 反思 生成 校验。多出来的不是一层壳而是四个能力维度。七、一张表看懂八维度差异前面四层拆完下面用一张表把八个维度的差异收拢一下。这张表建议存下来面试前过一遍基本能覆盖 80% 的追问点。对比维度普通 RAGNaive RAGAgentic RAG文档切块固定长度 overlap按 token 数硬切语义感知切块按语义相似度动态决定切分点结构化信息表格/标题/图表全部拍平成纯文本基本丢失表格转 JSON/Markdown 单独索引标题层级保留为元数据图表 caption 单独处理检索次数通常只检索一次捞完就生成支持多轮迭代检索信息不够就再查查询处理直接拿用户原始问题去检索先改写查询再按需分解成子问题分别检索检索策略单一向量检索动态选择向量检索 / BM25 关键词 / SQL / API 调用结果校验无校验检索什么就用什么直接拼接生成自我评估检索质量Self-RAG / CRAG不够则重新检索或换策略任务能力只能一问一答复杂问题答不全能做任务规划、多步推理把回答问题拆成完成任务工具使用无外部工具调用能力可调用搜索引擎、代码执行器、数据库、外部 API 等工具这张表里有几个维度是面试官最爱追问的检索次数。普通 RAG 只检索一次是天花板——不管结果好坏都没回头路。Agentic RAG 的多轮迭代不是 for 循环背后是 Agent 在评估每轮结果质量、决定要不要继续查。检索策略。真实业务里向量检索只解决一部分问题。精确匹配 BM25 更准结构化数据 SQL 更准实时数据必须走 API。动态切换是刚需不是花架子。结果校验。普通 RAG 检索完就生成中间没质量把关Agentic RAG 在生成前插入自我评估决定了系统会不会基于错误证据硬答。任务能力。普通 RAG 只能回答问题Agentic RAG 能完成任务——前者是工具后者是助手。这个认知差异决定了你设计系统的天花板。八、从架构师视角看 Agentic RAG 的六个工程取舍讲完原理和对比下面从架构师视角聊聊 Agentic RAG 落地时的几个工程取舍。这些点原文没展开但真正做选型时全是绕不开的决策。1. 语义分块不是万能药要按文档类型选切块策略语义分块对合同、财报效果好但对代码、日志、聊天记录反而可能更差——代码语义边界是函数/类日志是事件聊天是消息轮次硬套句子相似度切分反而切断逻辑单元。工程做法是按文档类型路由结构化文档走语义分块代码走 AST 级切块日志按时间窗口切聊天按轮次切。2. 层级化索引的 ROI 要算清楚RAPTOR 这类树状索引在文档量大、查询需要跨章节定位时收益明显。但知识库只有几百篇文档、查询大多是单点事实查询时建树的开销摘要向量的 LLM 调用 维护成本可能收不回来。判断标准文档量 1 万篇、查询有先定位再细化模式时才上层级索引小库直接扁平索引 rerank。3. 多跳检索要设上限否则会陷入死循环多跳检索必须设跳数上限通常 3-5 跳。原因每多一跳就多一轮 LLM 调用 检索调用成本和延迟线性增长Agent 可能在某一跳走偏后续每跳都在错误方向越走越远。上限不是限制能力是防止系统失控的兜底。4. CRAG 的网络搜索兜底在企业场景要慎用CRAG 论文里检索质量差就触发网络搜索在开放场景合理。但企业场景下网络搜索的可信度、合规性、时效性都没法保证——金融、医疗、法务领域直接用网络搜索兜底可能引入更严重的错误。企业兜底策略更应该是触发人工审核队列或降级到建议联系人工客服。5. 反思机制要分级不是每次检索都跑 Self-RAGSelf-RAG 的反思 token 机制会拖慢生成速度——每步都要判断要不要检索、检索得够不够这些判断本身都是 LLM 调用。工程做法是分级反思简单事实查询跳过反思复杂推理查询才开启。判断依据可以是问题分类器把反思开销花在真正需要的查询上。6. 规划能力要约束Agent 自由拆任务容易跑偏完全放任 Agent 自己拆任务容易出现拆出 10 个子任务每个都检索一轮最后 LLM 上下文塞不下。工程约束包括子任务数量上限通常 5-7 个、每步检索结果 token 上限、总执行时间上限、子任务间依赖关系要显式。一句话总结Agentic RAG 每一个活的能力都需要对应的工程约束兜底——灵活性不是免费的每多一层决策就多一层失控风险。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
