张小猛演讲前瞻-小米Vela原生框架的AIoT端侧工程落地-北京尧图网络

摘要当大模型把算力需求推到极致时另一端的设备却在用几百 KB 内存跑程序。2026 奇点智能技术大会11 月 20-21 日 · 北京万达文华酒店C 及系统软件技术大会嘉宾阵容中小米 Xiaomi Vela 开发工程师张小猛与 Vela 原生框架负责人董俊杰同时出席让 AIoT 端侧框架成为大会少见的硬核议题。本文前瞻解读 AIoT 原生框架的工程约束与技术演进方向。一、Vela 是什么一个被低估的系统软件样本Xiaomi Vela 是小米面向物联网设备打造的自研操作系统平台内核基于 NuttX向上提供统一的应用框架、组件与开发工具链向下兼容多种芯片方案。它的工程价值在于一次开发、多端部署解决 IoT 设备碎片化这一行业顽疾资源极致约束目标设备内存可能只有几百 KB 到几 MB量产规模验证小米生态链的海量设备是天然的规模化验证场。对 C 工程师而言这是一个语言特性用到极限的场景模板元编程用于零开销抽象、RAII 用于资源确定释放、移动语义用于避免拷贝——全部发生在没有虚拟内存保护的裸机环境里。二、端侧约束下的 C 工程实践AIoT 框架的开发与服务器端 C 有本质差异主要体现在四个约束上约束服务器端IoT 端侧工程后果内存GB 级有虚拟内存KB-MB 级无 MMU禁用动态分配或严格池化算力多核 GHz单核百 MHz算法复杂度必须极低功耗次要考虑首要约束唤醒频率决定电池寿命存储SSD/HDDFlash有擦写次数日志与状态设计受限这些约束叠加导致端侧框架的开发几乎是反现代 C 习惯的异常被禁用、STL 容器慎用、动态多态尽量换成静态多态、递归要改成迭代。理解这些取舍是端侧系统工程师的核心能力。三、AIoT 的 AI 化三条可行路线端侧 AI 是 2026 年的明确趋势但落到 IoT 上有三条不同的路线Vela 这类框架的演进方向正是为这三条路线提供统一的运行时支撑模型推理的算子后端适配、端云通信的协议栈、以及模型更新的 OTA 机制。四、端侧 AI 的隐形难点模型更新与碎片化真正让 IoT AI 化困难的不只是推理性能还有运维层面的两大难题模型 OTA模型文件往往几十 MB而设备的存储与带宽极其有限需要做差分更新与断点续传芯片碎片化不同芯片的 NPU/DSP 指令集各异同一模型要在多种硬件上跑通算子后端的工作量可能超过模型本身。这也是为什么 AIoT 的 AI 化进展比手机慢——不是算法问题而是工程与生态问题。本届大会系统级软件与安全与可靠专题中讨论的许多原则确定性的资源管理、可验证的行为边界在端侧场景中被放大到了极致。五、参会价值这场演讲适合嵌入式与 AIoT 工程师端侧框架的工程实践、系统软件开发者极端约束下的 C 取舍、以及关注端侧 AI 落地的产品与技术负责人。11 月 20-21 日北京万达文华酒店C 及系统软件技术大会。大会信息2026 奇点智能技术大会 C 及系统软件技术大会时间2026 年 11 月 20-21 日地点中国·北京万达文华酒店大会报名奇点智能研究院立即报名锁定 Lukasz Kaiser Keynote 与 70 场演讲完整资料

张小猛演讲前瞻-小米Vela原生框架的AIoT端侧工程落地

相关推荐

门春雷演讲前瞻-智源研究院AI原生软件研发机构级实践

医学研究中缺失数据的处理技术与应用

DeFi技术解析：智能合约与金融乐高的工程实践

更多资讯

圆桌论坛怎么听-Panel提问设计与价值获取方法

宠物行业数据中台架构设计与业务应用实践