reg切片chunk大小如何选择-北京尧图网络

常见建议FAQ / 客服问答300-800 tokens政策文档 / 操作手册500-1200 tokens技术文档800-1500 tokens法律合同 / 长报告1000-2000 tokens代码按函数、类、模块切不只按 token比如你的知识库是客服/政策类比较推荐chunk-size: 800chunk-overlap: 120top-k: 4Embedding 最大 token 和 Chunk Size 的关系Embedding 最大 token决定 chunk 不能超过多少Chunk Size决定检索颗粒度Overlap避免切断上下文TopK决定召回多少段上下文LLM 上下文窗口决定最终能塞多少 chunk 给模型完整关系如下文档- 按 chunk-size 切块- 每个 chunk 必须小于 embedding max token- 每个 chunk 生成 embedding- 问题生成 embedding- 检索 TopK chunk- TopK chunk 总长度必须小于 LLM 上下文窗口- LLM 生成答案例如Embedding 模型最大输入8192 tokensLLM 上下文窗口128k tokenschunk-size800 tokenstopK4最终进入 LLM 的上下文大约800 * 4 3200 tokens 比较健康如果设置chunk-size6000topK10那就是6000 * 10 60000 tokens虽然没超过 128k但检索颗粒度很粗噪声非常大引用也不精准。总结max token 是边界chunk size 是调优参数overlap 是保险topK 是召回量LLM context 是最终容量建议chunk size * topK 占 LLM context 的 5% - 20% 比较合适一般是10%因为LLM context 里不只放 RAG chunk还要放system prompt用户问题历史对话工具调用说明引用格式要求安全约束模型输出预留 tokens实用公式RAG上下文预算 LLM context * 10%topK RAG上下文预算 / chunk size不仅要看公式还要看评估指标RecallK正确文档有没有进来引用准确率source 是否准确答案准确率回答是否正确噪声率无关 chunk 是否太多延迟和成本上下文越大越贵越慢

reg切片chunk大小如何选择

相关推荐

开源项目 Issue 自动打标：用 LLM 分类器替代人工 Triage 的工程实践

LTC6904与PIC18F57Q43实现高精度可编程方波信号

远程手术真的能“零距离“吗？从网络损伤角度破解远程医疗的技术壁垒

更多资讯

Muse登顶App Store，AI Agent开源SDK引爆工程化时代

NVIDIA驱动与CUDA Toolkit安装全解：从Windows到Linux的避坑指南

2026专科生论文写作工具实测：8款AI神器推荐

深度强化学习三大核心算法：MPC、PPO与SAC解析

ArchLinux下Edge浏览器网络问题排查与解决

JWT令牌技术与Filter/Interceptor实战解析

今日更新

基于YOLOv11的石油泄漏智能检测系统开发实践

AI行业变局：合规、Mod化与上下文管理的实战启示

计算机视觉与AI原生应用融合的技术实践

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？