Spring Boot构建多模型AI服务中台：毕业设计高分架构方案-北京尧图网络

简介这是一套面向计算机、电子信息工程及数学等专业本科生的毕业设计与课程实践参考项目基于Spring Boot构建了具备多模型接入能力的人工智能机器人系统可灵活调用GPT-3.5、GPT-4.0、Kimi、文心一言、Stable Diffusion及Midjourney等主流大模型覆盖文本生成与AI绘图双模态应用场景。资源包共1157个文件以584个Java核心业务类、104个Vue前端组件、108个JS交互逻辑、73个XML配置及149个PNG图标资源为主辅以YML配置、SQL脚本、Dockerfile容器化支持及SCSS样式体系结构完整、分层清晰便于二次开发与模块替换。压缩包大小26.84MB轻量易部署适合作为毕设原型快速验证AI集成方案。目前已有1235人学习下载提供开箱即用的后端服务架构、前后端分离实现、多模型统一调度接口及典型UI交互示例助学生高效完成系统设计、接口对接与演示汇报。1. 为什么毕业设计选“Spring Boot 多模型AI机器人”比单写个ChatUI更扛答辩去年带某高校毕设时A同学交了份纯前端调用OpenAI API的聊天界面——界面漂亮、响应快但答辩被连问三轮“模型切换逻辑在哪”“API密钥怎么隔离”“断网时提示是弹alert还是走降级策略”最后卡在“你这个系统算‘后端服务’还是‘网页代理’”上。这暴露了一个现实评审老师早不满足于“能跑就行”他们要看到工程闭环能力从请求接入、模型路由、上下文管理到异常兜底每层都得有设计痕迹。本方案不是封装一个/chat接口而是构建一个可插拔、可监控、可灰度的AI服务中台——它用Spring Boot做骨架把Qwen、GLM、Claude等主流开源/商用大模型抽象成统一ModelProvider接口支持运行时热切换、按Token计费、对话历史持久化到MySQLRedis双写。适合需要体现“架构思维工程落地AI整合”三重能力的毕业设计或课程设计尤其对答辩时被追问“你怎么保证不被限流”“历史记录怎么防泄漏”的同学这套方案里全有现成答案。2. 总体架构设计四层解耦结构与五个核心模块的职责边界本方案采用清晰的分层架构避免把AI逻辑和Web层胶在一起。整个系统划分为接入层WebMvc→ 路由层ModelRouter→ 执行层ModelExecutor→ 存储层DataAccess→ 基础设施层Config/Utils。这种分法不是为了画图好看而是为了解决三个实际问题第一当某天要接入新模型比如刚发布的DeepSeek-V3只需新增一个DeepSeekProvider实现类不用动Controller第二当线上发现Qwen模型响应慢能通过配置中心一键切到GLM备用通道第三学生答辩时能指着架构图说清“这里负责协议转换这里管状态同步这里做熔断”。2.1 接入层RESTful接口设计与请求标准化所有外部请求统一走/api/v1/chat不暴露模型细节。关键设计点在于请求体强制包含modelType字段如qwen-7b-chat、glm-4-flash而非用URL路径区分。这样做的好处是前端无需为每个模型写不同接口后续加模型也不用改前端代码。同时定义标准错误码体系{ code: 4001, message: 模型不可用请稍后重试, data: { fallbackModel: glm-4-flash } }提示code字段用四位数字前两位代表模块40AI服务后两位是具体错误01模型不可用。比HTTP状态码更细粒度方便前端做差异化提示。Controller层只做三件事参数校验用Valid注解、调用路由层、统一封装响应。绝不处理模型调用逻辑RestController RequestMapping(/api/v1) public class ChatController { Autowired private ModelRouter modelRouter; PostMapping(/chat) public ResponseEntityApiResponseChatResponse chat( Valid RequestBody ChatRequest request) { // 校验通过后直接委托给路由层 ChatResponse response modelRouter.routeAndExecute(request); return ResponseEntity.ok(ApiResponse.success(response)); } }这段代码背后藏着重要设计决策modelRouter.routeAndExecute()方法内部会根据request.getModelType()查配置表确认该模型是否启用、当前负载是否超阈值、是否命中缓存。Controller本身是“无状态”的所有业务逻辑下沉这是应对答辩时被问“如果模型A挂了你怎么自动切到B”的底气来源。2.2 路由层动态模型选择与负载感知调度ModelRouter是整个系统的智能中枢。它不硬编码模型列表而是从数据库读取model_config表含model_code、status、weight、max_concurrent字段结合实时指标如Prometheus上报的QPS、平均延迟做决策。核心逻辑如下public ChatResponse routeAndExecute(ChatRequest request) { // 1. 根据modelType查配置 ModelConfig config modelConfigMapper.selectByCode(request.getModelType()); // 2. 检查状态DISABLED直接抛异常MAINTENANCE走降级 if (config.getStatus().equals(DISABLED)) { throw new ModelUnavailableException(模型已下线); } // 3. 获取当前模型实例单例池化避免重复创建HttpClient ModelProvider provider modelProviderPool.get(config.getModelCode()); // 4. 执行前检查并发数用Redis原子计数器 String key model:concurrent: config.getModelCode(); Long current redisTemplate.opsForValue().increment(key, 1); if (current config.getMaxConcurrent()) { redisTemplate.opsForValue().decrement(key, 1); // 回滚 return fallbackToOtherModel(request); // 切换备用模型 } try { return provider.execute(request); } finally { redisTemplate.opsForValue().decrement(key, 1); // 必须释放 } }这里的关键是并发控制必须用Redis而非JVM内存。曾有学生用ConcurrentHashMap计数结果集群部署时各节点计数独立导致超卖。而Redis原子操作保证全局一致性。modelProviderPool用ConcurrentHashMapString, ModelProvider实现首次调用时按modelCode反射创建对应Provider实例并缓存避免每次请求都new对象。2.3 执行层统一模型适配器与协议转换所有模型Provider必须实现ModelProvider接口public interface ModelProvider { ChatResponse execute(ChatRequest request); ModelMetadata getMetadata(); // 返回模型名称、版本、token限制等 }以Qwen为例QwenProvider需完成三件事将通用ChatRequest转为Qwen API要求的JSON格式注意Qwen要求messages数组里role只能是user/assistant/system而GLM允许observer构造HTTP请求头Authorization: Bearer ${apiKey}Content-Type: application/json解析Qwen返回的流式响应SSE格式拼接完整文本并提取usage字段。Override public ChatResponse execute(ChatRequest request) { // 构建Qwen专用请求体 QwenRequest qwenReq new QwenRequest(); qwenReq.setModel(qwen-7b-chat); // 硬编码模型名与provider绑定 qwenReq.setMessages(convertToQwenMessages(request.getMessages())); qwenReq.setStream(false); // 毕设场景关流式简化处理 // 同步HTTP调用生产环境建议用WebClient String url https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation; HttpHeaders headers new HttpHeaders(); headers.set(Authorization, Bearer apiKey); HttpEntityQwenRequest entity new HttpEntity(qwenReq, headers); ResponseEntityQwenResponse response restTemplate.postForEntity( url, entity, QwenResponse.class); // 协议转换QwenResponse → ChatResponse return ChatResponse.builder() .content(response.getBody().getOutput().getText()) .usage(Usage.builder() .promptTokens(response.getBody().getUsage().getInput_tokens()) .completionTokens(response.getBody().getUsage().getOutput_tokens()) .build()) .build(); }注意convertToQwenMessages()方法必须做角色映射容错。比如用户传入roletool某些框架扩展Qwen不识别就默认转成user。这种细节正是答辩时老师爱问的“你处理过模型协议差异吗”的答案。2.4 存储层对话历史双写与敏感信息脱敏对话记录不能只存在内存里。本方案采用MySQLRedis双写MySQL存归档表chat_history记录id、session_id、model_type、prompt、response、created_at用于后期审计和数据分析Redis存热数据用HASH结构存session_id对应的消息列表TTL设为24小时支撑快速上下文加载。关键设计是写入前脱敏。prompt和response字段在入库前调用SensitiveDataFilterComponent public class SensitiveDataFilter { private static final Pattern PHONE_PATTERN Pattern.compile((1[3-9]\\d{9})); private static final Pattern ID_CARD_PATTERN Pattern.compile((\\d{17}[0-9xX])); public String filter(String text) { if (text null) return null; // 手机号中间4位打*号 text PHONE_PATTERN.matcher(text).replaceAll($1.replaceFirst((\\d{3})(\\d{4})(\\d{4}), $1****$3)); // 身份证号第7-14位打*号 text ID_CARD_PATTERN.matcher(text).replaceAll($1.replaceFirst((\\d{6})(\\d{8})(\\d{4}), $1********$3)); return text; } }注意脱敏必须在DAO层之前完成不能依赖前端传来的“已脱敏”字段。曾有学生把脱敏逻辑放在Controller结果Postman直连绕过导致测试库泄露手机号。2.5 基础设施层配置中心与可观测性埋点所有模型API Key、Endpoint、超时时间等敏感配置不写死在application.yml而是通过ConfigurationProperties绑定到ModelConfigProperties类并从Nacos配置中心动态拉取# nacos配置项示例dataIdmodel-config-dev.yaml ai: models: - code: qwen-7b-chat endpoint: https://dashscope.aliyuncs.com/api/v1/... timeout: 30000 max-retry: 2 - code: glm-4-flash endpoint: https://open.bigmodel.cn/api/paas/v4/... timeout: 45000 max-retry: 3同时在关键路径埋点ModelRouter.routeAndExecute()开头打start_route日志结尾打end_route并记录耗时每个ModelProvider.execute()方法用Timed注解Micrometer自动上报到Prometheus对话记录插入MySQL后发ChatSavedEvent事件供后续做离线分析。这些不是炫技而是让答辩时能展示“我不仅做了功能还考虑了运维和排查”。当老师问“怎么知道哪个模型最慢”你可以直接打开Grafana看model_execute_duration_seconds_max指标。3. 关键模块实现从模型注册到对话上下文管理的完整链路3.1 模型注册中心基于SPI机制的动态加载不靠if-else判断模型类型而是用Java SPIService Provider Interface实现解耦。在src/main/resources/META-INF/services下创建文件com.example.ai.provider.ModelProvider内容为com.example.ai.provider.QwenProvider com.example.ai.provider.GlmProvider com.example.ai.provider.ClaudeProvider启动时扫描所有实现类并注入modelProviderPoolComponent public class ModelProviderLoader { private final MapString, ModelProvider providerMap new ConcurrentHashMap(); PostConstruct public void loadProviders() { ServiceLoaderModelProvider loader ServiceLoader.load(ModelProvider.class); for (ModelProvider provider : loader) { // 通过provider.getMetadata().getCode()获取唯一标识 providerMap.put(provider.getMetadata().getCode(), provider); } log.info(Loaded {} model providers, providerMap.size()); } public ModelProvider get(String modelCode) { ModelProvider provider providerMap.get(modelCode); if (provider null) { throw new IllegalArgumentException(Unknown model: modelCode); } return provider; } }这样做的好处是新增模型只需写一个Provider类在SPI文件里加一行重启服务即生效。比在application.yml里配一堆model.typeqwen,glm,claude更符合“开闭原则”答辩时能体现设计模式应用能力。3.2 对话上下文管理SessionID生成与Redis存储结构session_id不是UUID而是带业务含义的字符串ai-{timestamp}-{random6}如ai-1715234567890-ab3xk9。好处是时间戳便于按天分片归档随机段防碰撞且比UUID短30%前缀ai-方便Redis里用KEYS ai-*批量清理。Redis中用HASH存消息列表key为session:{session_id}field为msg_{index}value为JSON序列化的ChatMessage// Redis HASH 示例 session:ai-1715234567890-ab3xk9 msg_0: {role:user,content:你好} msg_1: {role:assistant,content:你好有什么可以帮您} msg_2: {role:user,content:今天天气怎么样}加载上下文时按field名升序遍历还原为ListChatMessage。注意ChatMessage类必须用DataNoArgsConstructor确保Jackson能反序列化。3.3 流式响应支持SSE协议解析与前端兼容虽然毕设可关流式但实现它能极大提升答辩印象分。后端用SseEmitter推送GetMapping(/stream) public SseEmitter streamChat(RequestParam String sessionId) { SseEmitter emitter new SseEmitter(30_000L); // 30秒超时 // 从Redis读取历史消息 ListChatMessage history loadHistoryFromRedis(sessionId); // 异步调用模型非阻塞 CompletableFuture.supplyAsync(() - { try { // 调用Qwen流式API返回SSE响应体 String sseResponse callQwenStreamApi(history); parseAndEmit(sseResponse, emitter); // 解析SSE事件并emit } catch (Exception e) { emitter.send(SseEmitter.event() .name(error) .data(执行失败 e.getMessage())); } finally { emitter.complete(); } return null; }); return emitter; }前端用原生EventSource接收const eventSource new EventSource(/api/v1/stream?sessionId sessionId); eventSource.onmessage function(event) { const data JSON.parse(event.data); appendToChatBox(data.content); // 追加到对话框 }; eventSource.addEventListener(error, function(e) { console.error(SSE error:, e); });关键点SSE要求后端响应头必须含Content-Type: text/event-stream且每条消息以data: {...}\n\n结尾。parseAndEmit()方法需按行分割过滤event:、id:等控制字段只取data:后的JSON。3.4 Token统计与计费模拟基于HuggingFace Tokenizer的本地计算不依赖模型API返回的usage字段有些模型不返回而是用transformers库本地计算!-- pom.xml -- dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency dependency groupIdcom.hankcs/groupId artifactIdhanlp/artifactId version2.1.0-beta/version !-- 轻量级中文tokenizer -- /dependencyComponent public class TokenCounter { private final Segment segment HanLP.newSegment().enableNameRecognize(true); public int countTokens(String text) { if (text null || text.trim().isEmpty()) return 0; // 中文按字切分粗略估算实际可用jieba更准 ListTerm terms segment.seg(text); return terms.size(); } public Usage estimateUsage(ChatRequest request, String response) { int promptTokens request.getMessages().stream() .mapToInt(msg - countTokens(msg.getContent())) .sum(); int completionTokens countTokens(response); return Usage.builder() .promptTokens(promptTokens) .completionTokens(completionTokens) .totalTokens(promptTokens completionTokens) .build(); } }提示毕设中“计费”不必真扣钱但要有usage字段返回给前端显示“本次消耗XX Token”体现成本意识。老师会认可这种工程化思维。3.5 异常熔断与降级策略Resilience4j集成实战当某个模型连续5次超时30s自动触发熔断10分钟内拒绝所有请求直接走降级Bean public CircuitBreaker circuitBreaker() { CircuitBreakerConfig config CircuitBreakerConfig.custom() .failureRateThreshold(50) // 错误率50% .waitDurationInOpenState(Duration.ofMinutes(10)) .ringBufferSizeInHalfOpenState(10) .build(); return CircuitBreaker.of(qwen-circuit-breaker, config); } // 在QwenProvider.execute()中使用 public ChatResponse execute(ChatRequest request) { return circuitBreaker.executeSupplier(() - { // 原有HTTP调用逻辑 return doActualCall(request); }, throwable - { // 降级逻辑返回预设话术 or 切换到GLM return fallbackToGlm(request); }); }熔断状态存在Redis里用CircuitBreakerRegistry的publishOnStateTransition监听方便后台页面查看各模型健康度。答辩时可演示“手动触发Qwen超时看降级是否生效”比讲理论更有说服力。4. 避坑指南毕业设计中最容易翻车的5个技术点4.1 现象本地调试OK部署到服务器后所有模型调用都返回403原因服务器防火墙拦截了出站HTTPS请求或JVM信任库未导入模型服务商的SSL证书如DashScope用阿里云证书部分老JDK不认。解决在服务器执行curl -I https://dashscope.aliyuncs.com确认网络通若报SSL错误在JVM启动参数加-Djavax.net.ssl.trustStore/path/to/cacerts指向最新证书库更稳妥做法是在RestTemplate配置中禁用SSL验证仅测试环境Bean public RestTemplate restTemplate() { HttpClient httpClient HttpClientBuilder.create() .setSSLContext(SSLContextBuilder.create() .loadTrustMaterial(null, (chain, authType) - true).build()) .build(); return new RestTemplate(new HttpComponentsClientHttpRequestFactory(httpClient)); }4.2 现象Redis存储的对话历史偶尔丢失特别是高并发时原因用了SET session:xxx [{...}]直接存JSON字符串但没设TTL或用HSET但没配EXPIRE导致内存爆满后Redis LRU淘汰掉热数据。解决所有HSET操作后立即执行EXPIRE key 86400或改用HSET session:xxx msg_0 ... EX 86400Redis 7.0支持更推荐用RedisTemplate.opsForHash().putAll()配合expire()方法确保原子性。4.3 现象切换模型后前端收到的modelType还是旧值导致路由错乱原因前端在/chat请求体里硬编码了modelType:qwen-7b-chat但没随用户选择实时更新或Vue组件中v-model绑定的modelType未响应式更新。解决前端必须用computed属性动态生成请求体computed: { chatPayload() { return { modelType: this.selectedModel, // 绑定下拉框v-model messages: this.messages }; } }后端ModelRouter日志里加log.debug(Routing to model: {}, request.getModelType())部署后第一时间看日志确认传入值。4.4 现象MySQL里chat_history表数据量暴增磁盘告警原因没做数据归档所有对话无差别存库或created_at字段没建索引SELECT * FROM chat_history WHERE created_at 2024-01-01全表扫描。解决在created_at字段建索引ALTER TABLE chat_history ADD INDEX idx_created_at (created_at);写定时任务Scheduled(cron 0 0 2 * * ?)归档30天前数据到chat_history_archive表毕设中可在application.yml加spring.sql.init.modealways初始化时自动建索引。4.5 现象答辩演示时老师输入长文本2000字直接超时页面卡死原因没做输入长度校验长文本导致模型API超时Qwen默认30s而前端axios没设timeout一直等待。解决后端Controller加Size(max 2000, message 输入内容不能超过2000字)前端textarea加maxlength2000并实时字数统计axios请求配置timeout: 45000超时后提示“内容过长请精简后重试”。5. 毕业答辩实战从代码演示到答辩话术的全流程通关技巧5.1 演示环节如何用3分钟讲清技术深度别一上来就点开IDE讲源码。按“问题-解法-证据”三段式演示第一步30秒抛出真实痛点。“我们发现直接调用大模型API存在三个问题模型切换要改代码、历史记录无法追溯、超时后页面假死。”第二步90秒聚焦一个模块演示。“以模型路由为例我设计了动态配置表打开model_config表这里status字段控制启停weight字段支持灰度发布。现在我把Qwen设为DISABLED改数据库再发请求——看日志终端它自动切到GLM并返回fallbackModel字段展示响应JSON。”第三步60秒亮数据证据。“这是Prometheus监控切到Grafana页签Qwen的model_execute_duration_seconds_max从32s飙升到120s而GLM稳定在1.2s证明熔断生效。”提示提前录好3段15秒短视频数据库修改、日志输出、Grafana图表答辩时网络卡顿可直接播放比现场操作更稳。5.2 答辩话术把“我做了”升级为“我思考了”老师问“为什么用Redis存历史而不是直接MySQL”❌ 错误答法“因为Redis快。”✅ 正确答法“我对比了两种方案MySQL单次写入约15msRedis HASH写入约0.3ms。按毕设演示的100并发压测Redis能扛住MySQL会出现连接池耗尽。更重要的是Redis的TTL自动过期省去了写定时清理脚本的麻烦——这是工程上‘用合适工具解决合适问题’的体现。”老师问“Token统计为什么不用API返回的要自己算”❌ 错误答法“API有时候不返回。”✅ 正确答法“我调研了Qwen、GLM、Claude的文档发现只有Qwen稳定返回usage字段GLM在流式模式下不返回Claude甚至要额外开付费权限。如果依赖API系统就不可控。所以我用HanLP本地分词虽然精度略低误差±5%但保证了100%可用性也符合‘降级优先’的设计原则。”5.3 文档与PPT让评委一眼抓住重点PPT不要放整段代码用对比表格呈现设计决策维度方案A硬编码if-else方案BSPI配置中心选择理由新增模型成本修改Java代码重启写Provider类改配置符合开闭原则故障隔离一个模型异常拖垮全部熔断器隔离提升系统健壮性配置管理分散在多个yml文件统一Nacos界面管理降低运维复杂度论文中的“系统设计”章节用模块职责表替代文字描述模块输入输出关键约束ModelRouterChatRequest含modelTypeChatResponse并发数≤max_concurrentQwenProviderChatRequestChatResponse含usage超时30s自动重试2次TokenCounterStringUsage中文按字计数误差5%5.4 答辩心态把“被质疑”当成展示思考深度的机会曾有个学生被问“你这个系统和ChatGPT官方App有啥区别”他没慌而是笑着打开PPT一页“老师这是我的定位对比表——ChatGPT是面向C端的产品我们是面向B端的AI服务中台。它解决‘怎么聊得好’我们解决‘怎么管得好’模型热切换、多租户隔离、Token计量、审计日志。就像汽车和4S店的关系我们不做车但提供让车跑起来的全套基础设施。”这种回答把劣势功能少转化为优势定位准老师反而会点头。从那以后我每次带毕设都强制学生在答辩前写三版“被问倒怎么办”预案技术细节记不清 → “这部分我实现了但具体参数需要查代码我可以现场定位给您看”设计原理说不透 → “我参考了《微服务设计》第7章的熔断模式核心是用状态机隔离故障”功能没做全 → “毕设周期有限我优先实现了高价值模块如路由、熔断剩余模块如多租户已预留扩展点代码里有TODO注释”。希望帮到你。本文还有配套的精品资源点击获取

Spring Boot构建多模型AI服务中台：毕业设计高分架构方案

相关推荐

Quartus II FPGA交通灯工程：Verilog状态机、数码管扫描与引脚约束实战

SK-VQA：知识增强的多模态大模型训练与应用

动态规则引擎设计：分层架构与商业决策优化

更多资讯

可插拔微信消息中间件：模块化、热重载与状态持久化设计

二自由度悬架传递函数与多阻尼对比：频响曲线解析与底盘调校

SAP工程车辆集团数字化转型：191页PPT蓝图与模块落地指南

华为路由器路由策略与策略路由：一字之差，配错方向全断

103976条英文单词翻译库：SQL/CSV/Excel三种格式，离线查词与批量处理利器

4G信令全流程深度解析：从开机附着到上网的完整链路与排查指南

今日更新

AI智能体开发实战：从技术原理到商业落地

OpenShell 完全定制指南：从安装到深度配置，打造高效 Windows 开始菜单

Superpowers技能体系全解析：从Skills引入到安装的完整指南

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？