尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
如何用 Qwen3-Coder 与 Milvus 在 ai-engineering-hub 跑通代码问答应用?
如何用 Qwen3-Coder 与 Milvus 在 ai-engineering-hub 跑通代码问答应用【免费下载链接】ai-engineering-hubIn-depth tutorials on LLMs, RAGs and real-world AI agent applications.项目地址: https://gitcode.com/GitHub_Trending/ai/ai-engineering-hub这篇文章的目标是在 ai-engineering-hub 仓库中从零跑通chat-with-code代码问答应用把 Milvus 向量数据库装到本地安装 Python 依赖启动 Streamlit 应用加载一个 GitHub 仓库然后对仓库代码提问并拿到经过校验的回答。应用通过 OpenRouter 调用 Qwen3-Coder 模型生成答案用 HuggingFace 的BAAI/bge-base-en-v1.5生成向量并用 Cleanlab Codex 对回答做可信度校验。应用代码在 chat-with-code/app.py操作依据来自 chat-with-code/README.md。准备条件环境与前置检查项目 chat-with-code/pyproject.toml 声明的运行约束Python3.12使用uv管理依赖项目自带uv.lockREADME 给出的安装命令就是uv sync关键依赖llama-index0.12.52及其 OpenRouter、Milvus、HuggingFace Embedding 子包pymilvus2.5.14、streamlit1.47.0、cleanlab-codex1.0.25开始前还需要准备DockerMilvus 以 Docker 容器方式安装启动两个 API KeyOpenRouter Key调用 Qwen3-Coder和 Cleanlab Codex Key校验回答应用侧边栏内提供了各自的获取入口链接应用启动前先在侧边栏填写git可执行文件点击 Load 后应用会克隆目标仓库到本地。第一步启动 Milvus 向量数据库README 给出了官方安装脚本先下载再启动。注意这两条命令的副作用第一条从网络下载 Milvus 的standalone_embed.sh脚本第二条会在本机用 Docker 启动 Milvus 容器因此需要 Docker 已安装并在运行。curl -sfL https://raw.githubusercontent.com/milvus-io/milvus/master/scripts/standalone_embed.sh -o standalone_embed.sh bash standalone_embed.sh start应用侧的连接目标是http://localhost:19530见 app.py 中create_index函数它创建dim768、overwriteTrue的 Milvus 集合所以 standalone 服务需要在本机 19530 端口可用。第二步安装依赖并启动应用在chat-with-code目录下同步依赖uv sync然后启动 Streamlit 应用streamlit run app.py在浏览器打开http://localhost:8501即可访问应用README 给出的访问地址。首次使用加载仓库并提问在页面左侧边栏依次填写Codex API Key密码输入框OpenRouter API Key密码输入框GitHub Repository URL要提问的仓库地址。点击Load后应用依次执行对应 app.py 中process_button分支用 Codex Key 初始化 Cleanlab Codex 项目项目名Chat-with-Code并创建一个 access key把仓库克隆到应用当前工作目录若目录已存在则直接读取不再克隆按文件类型切分.md用 Markdown 解析器.py、.ipynb按 Python 解析.js按 JavaScript 解析.ts按 TypeScript 解析将向量索引用BAAI/bge-base-en-v1.5的嵌入写入 Milvus以qwen/qwen3-coder:free作为 LLMmax_tokens1024用similarity_top_k4和流式输出构建查询引擎。加载完成后在页面下方的输入框提问。每个回答以流式方式输出答案下方显示Trust Score并带一个状态标记逻辑见 chat-with-code/validation.py分数 ≥ 0.8绿色标记分数 0.5 到 0.8黄色标记分数 0.5红色标记。Codex 校验结果会决定最终展示的内容如果答案被升级给专家且存在expert_answer展示专家答案如果触发 guardrail展示固定回退语 Im sorry, I couldnt find an answer for that — can I help with something else?否则展示 RAG 的原始回答。如何确认跑通按 README 与代码中的提示判断Load 成功后侧边栏显示Data loaded successfully!!页面显示Ready to Chat!提问后收到流式回答且回答下方出现 Trust Score各类报错信息的含义均来自 app.py 的实际输出Please provide OpenRouter API Key/Please provide Codex API Key对应 Key 未填Invalid owner or repository仓库 URL 格式不符合 GitHub 仓库地址Error occurred while cloning the repository, carefully check the url克隆失败需要检查 URLNo data found, check if the repository is not empty!仓库中没有被支持的代码或文档文件。可选路径改用 notebook 跑同一流程chat-with-code/notebook.ipynb 提供与 Streamlit 应用相同的流水线适合在 Jupyter 中逐步执行。使用前需要替换两处占位符“Codex Client Setup” 单元格把os.environ[CODEX_API_KEY]的值替换为你的 Codex KeyLLM 配置单元格把your_openrouter_api_key_here替换为你的 OpenRouter Key模型名保持qwen/qwen3-coder:free。notebook 中示例查询使用的仓库地址和输出文本例如关于 Model 名称的回答、各项 validation score都是文档示例你的仓库不同输出不会与示例一致。已知限制只索引.md、.py、.ipynb、.js、.ts五类文件其他文件类型不会被加载LLM 固定为qwen/qwen3-coder:free嵌入模型固定为BAAI/bge-base-en-v1.5768 维与 Milvus 集合维度对应每次 Load 都会新建一个集合集合名为chat_with_docs_加随机十六进制后缀代码中overwriteTrue如果 Milvus 索引创建失败app.py 会走except分支回退到内存版VectorStoreIndex——此时仍可查询但没有用到 Milvus若你确认目标是向量库路径应回到 Milvus 服务状态上排查仓库会被克隆到应用运行目录多次 Load 不同仓库会留下多个目录属于预期行为。验证方式与上述提示一致看到Data loaded successfully!!与Ready to Chat!、能收到带 Trust Score 的流式回答即表示该应用已从安装走到首次可用。【免费下载链接】ai-engineering-hubIn-depth tutorials on LLMs, RAGs and real-world AI agent applications.项目地址: https://gitcode.com/GitHub_Trending/ai/ai-engineering-hub创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

本地化AI研究工作流:用Python构建私有RAG文档分析系统

本地化AI研究工作流:用Python构建私有RAG文档分析系统

1. 这不是一份AI行业分析报告,而是一次真实的工作流切片 “用 WorkBuddy 研究腾讯、阿里和 DeepSeek,我没敢直接说「AI 很赚钱」”——这个标题刚在内部分享会上念出来,会议室里有三个人笑了,两个低头记笔记,还有一个把…

📅 2026/9/12 8:12:47
在 awesome-copilot 中使用 /acreadiness-assess 评估仓库 AI 就绪度:AgentRC 9 支柱成熟度模型与静态报告生成实战

在 awesome-copilot 中使用 /acreadiness-assess 评估仓库 AI 就绪度:AgentRC 9 支柱成熟度模型与静态报告生成实战

在 awesome-copilot 中使用 /acreadiness-assess 评估仓库 AI 就绪度:AgentRC 9 支柱成熟度模型与静态报告生成实战 【免费下载链接】awesome-copilot Community-contributed instructions, agents, skills, and configurations to help you make the most of GitHu…

📅 2026/9/12 8:12:47
工控机NPU与PMT驱动安装全指南:从硬件识别到故障排查

工控机NPU与PMT驱动安装全指南:从硬件识别到故障排查

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/9/12 8:12:47
MORE NEWS

更多资讯

📰

程序员健康饮食:糙米与精米的营养对比与选择建议

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

机器人研发管理平台选型:软硬件一体化与可追溯性实践指南

1. 机器人行业的研发管理,为什么不能直接照搬互联网套路? 先抛一个很多机器人公司管理者都踩过的坑:招了个有互联网大厂背景的研发总监,上来就拍板上一套对标软件团队的研发管理平台,流程、字段、报表全部照搬。结果用…

📰

COMSOL仿真光子晶体:角态与边界态分析指南

1. 光子晶体与COMSOL仿真概述光子晶体作为一种人工设计的周期性介电结构,能够像半导体控制电子那样操控光子运动。这种特殊材料在光通信、传感和量子计算等领域展现出巨大潜力。COMSOL Multiphysics作为一款强大的多物理场仿真软件,其波动光学模块特别适…

📰

微信小程序消防隐患举报系统:SSM后端与数据库设计实践

简介:一套微信小程序消防隐患在线举报系统,是针对消防隐患网络举报场景的完整毕业设计资源,适合高校学生用于课程设计、毕业设计或项目实战练习。系统基于SSM(Spring、SpringMVC、MyBatis)架构,前端包含微信…

📰

GPT-4o实战指南:大模型应用开发的工程化路径

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

Kubernetes GPU调度全解析:从驱动、容器运行时到Device Plugin

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬