尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
1924_千问A3B模型实用性的体验
最近新买了一个电脑就是为了体验一些比较小的模型可以在本地部署的感觉。最近这几天在我自己的电脑上把千问的 3.6-35B-A3B 这个大模型给部署上了。选择的量化版本是 IQ3 的量化版本而且是支持 MTP 的。目前的使用体验感觉还是比较丝滑流畅的每秒钟的 Token 数能够稳定在 80 以上。幅值能够超过 100 Token 每秒。像这种参数规模的大模型可能本来在推理能力以及编码能力方面就不是特别突出。加上各种量化的技术可能会损失一些精度这样就会带来更为劣势的体验。怎么把这种模型的能力充分发挥出来呢我觉得一个比较好的方式就是使用 Agent。有了这个 Agent一方面是它可以实现一些从需求到开发到测试逻辑上的闭环。另外就是可以实现连续的对话不断的改进。我先是尝试了把这个模型接入到了 Codex进行了一些简单的小任务的处理感觉完成的效果还是可以的。但是目前使用 Codex 处理相应的内容的时候感觉效率上不是特别高。我也把这个模型接入到了字节跳动的 TRAE 软件开发框架之中尝试让它分析了一些代码。代码分析的最终结果我没有仔细看但是感觉分析出来的内容从形式还有丰富度上至少是有一定的提示价值。之前看过一些别人整理的 DeepSeek 的教程其中有一部分人是把 DeepSeek API 接入到了 VS Code 的一些插件之中。典型的插件有 Cline 还有 Continue。从交互形式上我感觉我比较喜欢 Cline 的风格于是这次我也尝试了把模型接入到这个插件之中。实现了几个小功能之后感觉这个模型还是能够在我的生产力上提供一些加速的能力的。当时之所以选择这个模型就是因为这个模型支持全模态所以后续我可能会在会议记录分析办公文件处理等各个方面尝试去发掘一些新的使用模式。其中会议记录的分析我个人的想法是使用它作为一个大脑中枢配合一些其他的小工具来完成整个的功能。比如说使用千问的语音转文字的功能把相应的文字信息提取出来。使用 FMPEG 把视频中的一些屏幕信息截取下来。之后再使用 A3B 的模型把这些信息统一整理一下。毕竟 A3B 本身是一个多模态的它既可以处理文字又可以处理我截图下来的图片。通过这种方式配合起来或许可以实现会议纪要的自动化处理。当然目前这个还只是一个初步的设想是不是能够实现以及实现之后它的效果究竟是什么样子这些还有待于后续的探索。但是目前这个模型简单的表现给了我很大的期待。
RELATED

相关推荐

机器学习模型服务化:从Notebook到高可用生产的全链路实践

机器学习模型服务化:从Notebook到高可用生产的全链路实践

1. 项目概述:这不是一次“部署上线”,而是一场从实验室到产线的系统性迁移“From Notebook to Production: Running ML in the Real World (Part 4)”——这个标题里藏着一个被太多人轻描淡写、却让无数团队在临门一脚时彻底卡死的真实困境。它不是教你怎…

📅 2026/9/8 4:16:16
Java接口安全配置:5个核心防护措施详解

Java接口安全配置:5个核心防护措施详解

1. Java接口安全配置的重要性在当今微服务架构盛行的时代,Java接口作为系统间通信的核心枢纽,其安全性直接关系到整个系统的防护能力。我见过太多因为接口安全配置疏忽导致的严重事故——从数据泄露到系统瘫痪,甚至引发连锁反应影响整个业务链…

📅 2026/9/11 11:51:35
v-hotkey安全指南:防止键盘快捷键被恶意利用的10个最佳实践

v-hotkey安全指南:防止键盘快捷键被恶意利用的10个最佳实践

v-hotkey安全指南:防止键盘快捷键被恶意利用的10个最佳实践 【免费下载链接】v-hotkey Vue 2.x directive for binding hotkeys to components. 项目地址: https://gitcode.com/gh_mirrors/vh/v-hotkey 在Vue.js应用中,键盘快捷键能极大提升用户体…

📅 2026/9/8 0:23:15
MORE NEWS

更多资讯

📰

ArduPilot 硬件移植实战:PixPilot-C3 飞控板完整配置指南(STM32F427 双 IMU 架构)

ArduPilot 硬件移植实战:PixPilot-C3 飞控板完整配置指南(STM32F427 双 IMU 架构) 【免费下载链接】ardupilot ArduPlane, ArduCopter, ArduRover, ArduSub source 项目地址: https://gitcode.com/GitHub_Trending/ar/ardupilot 导读 …

📰

LCD1602显示进阶:DDRAM地址映射、光标定位与局部滚屏实战

我第一次用LCD1602调东西的时候,犯过一个特别蠢的错误——第二行数据显示在第14列之后的所有内容,全部跑到屏幕右边去了。当时以为是排线接触不良,换了一块屏,还是这样。查了半晚上才发现,不是我代码写错了&#xff0c…

📰

JSP+Servlet+JDBC学生管理系统:从登录到增删改查的JavaWeb实战解析

简介:一份基于JavaWeb的学生信息管理系统完整源码与数据库文件,适合Java初学者和高校学生用于课程设计或毕业设计参考,覆盖学生信息录入、查询、修改、删除等常见管理功能。压缩包共44个文件,约322KB,包含JSP动态页面、…

📰

Effect 平台在 Deno 上启用 HTTP 客户端:DenoHttpClient 与 fetch 架构解析

Effect 平台在 Deno 上启用 HTTP 客户端:DenoHttpClient 与 fetch 架构解析 【免费下载链接】effect Build production-ready applications in TypeScript 项目地址: https://gitcode.com/GitHub_Trending/ef/effect 导读 本文围绕 effect/platform-deno 包…

📰

NS2网络仿真环境搭建与trace文件解析实战指南

简介:本资源是一套面向网络仿真初学者与教学实践者的NS2代码学习包,聚焦TCP/IP协议模拟、路由算法实现、拥塞控制机制、移动性建模及OOPSI扩展开发等核心知识点,助力读者从零掌握NS2事件驱动模拟原理与Tcl/C协同编程方法。压缩包共28个文件&a…

📰

RubyGems遭遇AI智能体集群投毒:供应链攻击取证与防御复盘

最近我们团队在处理一批 RubyGems 上的异常包时,彻底体验了一把什么叫“AI 打供应链”。事情并不复杂:一夜之间,RubyGems 上冒出了几百个看起来高度相似、命名风格统一、发布频率极高的小型 gem 包。一开始我们以为是某个开发者误传了批量脚本…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬