【AI大模型应用开发】【项目实战】32.Agent智扫引擎项目-(六)模型部署-北京尧图网络

一.服务端具体位置如下：/main.py 或者 /app.py具体代码如下：# 通过接口方式来访问 import time from Agent.ReAct import ReActAgent from Models.Factory import ChatModelFactory from Tools.Tools import * from langchain_community.chat_message_histories.in_memory import ChatMessageHistory from flask import Flask, request, jsonify import re app = Flask(__name__) def launch_agent(query, agent, uuid=1001): chat_history = ChatMessageHistory() reply = agent.execute(query, uuid, chat_history=chat_history, verbose=True) return reply @app.route("/predict", methods=["POST"]) def main(): try: # 1.获取用户问题 data = request.get_json() query = data.get("query", "") uuid = data.get('uuid', 1001) if not query: return jsonify({"error": "请输入文本"}), 400 # 2.实例化大模型 llm = ChatModelFactory().get_model() # 3.注册工具 tools = [ rag_qa_tool, report_generation_tool, ] # 4.实例化ReAct agent = ReActAgent( llm=llm, tools=tools, main_prompt_file_path="prompts/main.txt" ) # 5.智能体主逻辑恢复 response = launch_agent(query, agent, uuid) if 'think' in response and "/think" in response: answer = re.sub(r"think.*?/think", "", response, flags=re.DOTALL) elif 'think' in response and "/think\n\n答：" in response: answer = re.sub(r"think.*?/think\n\n答：", "", response, flags=re.DOTALL) else: answer = response print(f'answer:{answer}') print('-----------------------------------------------------------------------') # json输出 return jsonify({"answer": answer}), 200 except Exception as e: print(e) return jsonify({'error': str(e)}), 500 if __name__ == "__main__": app.run(host="0.0.0.0", port=8002)

【AI大模型应用开发】【项目实战】32.Agent智扫引擎项目-(六)模型部署

相关推荐

恋活！终极增强指南：如何使用HF Patch解锁200+插件与完整汉化功能

煎饼排序算法详解：从原理到C++实现与优化

OpenClaw v2026.3.7核心升级：可插拔引擎与记忆重构

更多资讯

Agent训练场架构设计：日跑300万沙箱的评分与防作弊实践

AI 伦理与安全

免费网页翻译插件，支持英文页面双语对照阅读

秋日晨拍新诗——颗颗新绿肺晶莹，吐纳蕴育气真香

DeepAgents+MCP+A2A+Skills：构建可编排可扩展的多智能体集群

新人的第一篇文章

今日更新

开源模型端侧落地实战：量化、推理加速与Agent上下文管理

AI Evals实战指南：从零搭建LLM应用评估体系与CI/CD集成

Java采购管理系统实战：从数据库设计到事务一致性

本周精选

如何彻底离线使用 Laya-CoreML：Hugging Face 下载、缓存机制与 local_files_only 详解

基于1Panel 部署MySQL MCP 服务：TaoToken 统一 Key 接入与 config.toml 配置实战

崇州园区营销网站建设避坑指南：5大注意事项保备案安全

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？