尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
Spring AI + Ollama + Qwen3.5,快速搭建一个ai应用
零成本不联网一台普通办公本就能跑。你需要准备JDK 178GB 以上内存4G以上显卡虽然ollama可以用cpu但是token吞吐太慢了第一步装 Ollama拉模型ollama.com 下载安装然后ollama pull qwen3.5:0.8b500MB几分钟下完。验证一下ollama run qwen3.5:0.8b 你好能回你继续。如果出现错误参考我上一篇文章第二步版本别搞错我一开始就搞错版本了总是包找不到Spring BootSpring AI3.4.x1.0.x3.5.x1.1.x4.0.x2.0.x本文用Spring Boot 3.4.4 Spring AI 1.0.8。第三步贴代码pom.xmlparent groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-parent/artifactId version3.4.4/version /parent properties java.version17/java.version spring-ai.version1.0.8/spring-ai.version /properties dependencyManagement dependencies dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-bom/artifactId version${spring-ai.version}/version typepom/type scopeimport/scope /dependency /dependencies /dependencyManagement dependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-ollama-spring-boot-starter/artifactId /dependency /dependenciesapplication.ymlspring: ai: ollama: base-url: http://localhost:11434 #默认端口 chat: model: qwen3.5:0.8b options: temperature: 0.7AiConfig.javaConfiguration public class AiConfig { Bean public ChatClient chatClient(ChatClient.Builder builder) { return builder .defaultSystem(用简洁中文回答。) //指令 .build(); } }ChatController.javaRestController public class ChatController { private final ChatClient chatClient; public ChatController(ChatClient chatClient) { this.chatClient chatClient; } GetMapping(/chat) public String chat(RequestParam String msg) { return chatClient.prompt().user(msg).call().content(); } }业务代码就一行。StreamController.java流式RestController public class StreamController { private final ChatClient chatClient; public StreamController(ChatClient chatClient) { this.chatClient chatClient; } GetMapping(value /chat/stream, produces MediaType.TEXT_EVENT_STREAM_VALUE) public FluxString stream(RequestParam String msg) { return chatClient.prompt().user(msg).stream().content(); } }第四步跑起来mvn spring-boot:run日志看到这行就对了Ollama chat model initialized with model: qwen3.5:0.8b第五步测试# 对话 curl http://localhost:8080/chat?msg用Java写个冒泡排序 # 翻译 curl http://localhost:8080/chat?msg把今天天气真好翻译成英文 # 流式浏览器打开看逐字输出 http://localhost:8080/chat/stream?msg写一首五言绝句踩坑速查报错解决Connection refused: 11434Ollama 没启动model not foundollama pull qwen3.5:0.8bNoClassDefFoundError版本没对上回第二步查表响应慢正常CPU 推理 0.8B 就这速度快来试一试把快速搭建属于自己的AI应用项目结构ai-demo/ ├── pom.xml ├── src/main/java/com/example/demo/ │ ├── DemoApplication.java │ ├── config/AiConfig.java │ └── controller/ │ ├── ChatController.java │ └── StreamController.java └── src/main/resources/application.yml
RELATED

相关推荐

User-Agent检测对抗:5种伪造与反伪造技术深度解析(附Python检测脚本)

User-Agent检测对抗:5种伪造与反伪造技术深度解析(附Python检测脚本)

User-Agent检测对抗:5种伪造与反伪造技术深度解析1. User-Agent基础与攻防背景User-Agent(UA)字符串是HTTP协议中用于标识客户端身份的核心字段,其格式通常包含浏览器类型、操作系统、渲染引擎等关键信息。一个典型的Chrome浏览器…

📅 2026/9/14 6:01:30
C++ vector内存管理:边读边释放的三种核心方案与实战

C++ vector内存管理:边读边释放的三种核心方案与实战

1. 项目概述:为什么需要“边读边释放”?在C开发中,尤其是处理海量数据流、日志分析或网络数据包解析的场景里,我们经常会遇到一个经典的内存管理难题:数据源源不断地读入一个std::vector,但这个容器的内存只…

📅 2026/9/9 1:53:45
UML 2.5 类图实战:6种关系代码实现与3个典型业务场景解析

UML 2.5 类图实战:6种关系代码实现与3个典型业务场景解析

UML 2.5 类图实战:6种关系代码实现与3个典型业务场景解析在面向对象编程的世界里,UML类图就像建筑师手中的蓝图,它能清晰地描绘出系统中各个类之间的关系。对于开发者而言,掌握类图中六种核心关系的代码实现,就如同获得…

📅 2026/7/20 11:03:51
MORE NEWS

更多资讯

📰

PyTorch入门必学:用dir()和help()快速摸清API与环境配置

1. 两个内置函数,凭什么成为PyTorch入门的"探照灯" 很多同学第一次打开 PyTorch 官方文档时,心态基本是崩溃的——满屏的 torch.xxx 、 torch.Tensor.xxx ,看两行就想关掉。我当初跟《PyTorch深度学习》这套教程学的时候&#…

📰

微信个人号API开发指南:Web协议与Hook技术对比

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

AWS CLI 实战:使用 appmesh delete-route 命令删除 App Mesh 路由

AWS CLI 实战:使用 appmesh delete-route 命令删除 App Mesh 路由 【免费下载链接】aws-cli Universal Command Line Interface for Amazon Web Services 项目地址: https://gitcode.com/GitHub_Trending/aw/aws-cli 本篇基于 aws-cli 仓库中的 App Mesh 示例…

📰

VoiceStudio 安装后如何用参考音频完成第一次声音克隆?

VoiceStudio 安装后如何用参考音频完成第一次声音克隆? 【免费下载链接】VoiceStudio VoiceStudio is the open-source, fully-local ElevenLabs alternative — voice cloning, voice design, video dubbing, dictation, transcription & audiobook creation i…

📰

企业级多Agent协同实战:A2A协议与人机责任链设计

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

Vivix-W1与Codex Voice:流式多模态交互如何重构AI协作范式

1. Vivix-W1 不是“又一个大模型”,而是交互范式的重新定义最近刷到一条消息,标题里写着“Vivix 发布流式多模态模型 Vivix-W1:边生成边用语音、触控实时改写”,我第一反应不是点开看参数,而是下意识摸了摸手机屏幕——…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬