尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
不需要GPU也能跑1M上下文!Redis之父开源DS4:让DeepSeek V4 Flash 跑在Mac本地!用一个C文件挑战大厂GPU集群
最近一位开源界的传奇人物 Salvatore Sanfilippo用几千行纯C代码直接把准前沿284B参数的 DeepSeek V4 Flash 模型塞进了一台 128GB 内存的 MacBook Pro。最近一位开源界的传奇人物 Salvatore Sanfilippo用几千行纯C代码直接把准前沿284B参数的 DeepSeek V4 Flash 模型塞进了一台 128GB 内存的 MacBook Pro。也许大家更熟悉他的另一个名字 AntirezRedis 的创始人在2020年宣布退居二线2024年回归。而这次他开源的DS4在短短两天内就收获了超六千的star。YC 的 CEO Garry Tan 在X上表示“正在下载... 在 128GB 的 Macbook Pro 上拥有 1M token 上下文窗口据说还有可用的编码代理功能”。那么DS4到底是什么为什么能够引起轰动DS4专为 DeepSeek V4 Flash 设计的本地推理引擎DS4ds4.c是一个专为 DeepSeek V4 Flash 设计的本地推理引擎。但目前仅支持MetalApple Silicon未来可能加入CUDA支持。它做的事情可以用一句话概括在不改变模型能力的前提下把运行成本进行极限压缩。与很多通用推理框架不同DS4 直接围绕 DeepSeek V4 Flash 的架构进行优化去掉了大量通用抽象层从模型加载、KV Cache 管理到推理执行、内存调度都采用了高度针对性的设计。目前公开展示的核心能力包括面向 DeepSeek V4 Flash284B 级 MoE 模型进行深度适配重点优化编码、长上下文与 Agent 场景。支持最高 1M tokens 的上下文窗口。可在 128GB 统一内存的 Apple Silicon Mac如 M3/M4 Max 或 Ultra上运行。在部分公开测试中M3 Max 128GB 的短上下文生成速度约为 26–27 tokens/s长上下文预填充速度可达 250 tokens/s。支持 OpenAI 兼容 HTTP API、Thinking Mode、工具调用、持久化 KV Cache以及投机解码MTP等能力。为什么选择 DeepSeek V4 Flash前沿模型这么多Antirez 为什么为 DeepSeek v4 Flash 单独开发一个引擎在官方博客里Antirez 给出了 8 个原因更快因为活跃参数更少、思考模式更“克制”、支持 100 万 Token 上下文、在“知识边缘”更强、英语和意大利语写作质量更强、KV Cache 压缩率非常高、特殊 2-bit 量化后依然能用、认为DeepSeek 后续还会继续发布更强版本的 V4 Flash。三大硬核操作打破行业常规DS4 能在一台 128GB 内存的 MacBook Pro 上运行超大规模的 DeepSeek V4 FlashAntirez 的三项核心操作几乎都打破了行业中的常规认知。非对称 2-bit 量化这里提供的 2 bit 量化不是玩笑它们表现良好在编码代理下工作并以可靠的方式调用工具。DS4 并没有粗暴地把整个模型全部压缩而是只对 MoE 结构中路由专家routed experts进行 2-bit 压缩同时其他组件共享专家、投影、路由保持不变。这种“非对称压缩”既大幅降低了内存占用又尽量保住了模型能力。把 KV Cache 转储到 SSDKV 缓存实际上是磁盘上的“一等公民” 。过去很多人认为KV Cache 必须完整驻留内存否则长上下文推理几乎不可行。尤其是 1M tokens 这种级别的上下文理论上会迅速吃光 128GB RAM。但 DS4 直接换了思路不把 KV Cache 全留在内存而是利用 Apple Silicon 的高速 SSD把磁盘当作“扩展内存”。本质上这是一种典型的内存—存储分层推理memory hierarchy inference设计用更大的存储空间换取有限的内存容量从而支持更长上下文与跨会话恢复能力。纯 Metal 原生优化DS4 几乎没有额外框架封装整个系统直接围绕 Apple Silicon 和 Metal API 深度定制所有代码几乎都只服务于一个目标让 DeepSeek V4 Flash 在苹果芯片上跑到极致。相比很多“什么模型都支持”的通用推理框架DS4 更像一台为单一模型量身打造的专用引擎。网友评价夯爆了Antirez 的 DS4 刚发布不久就有网友抢先试用了“简直不敢相信它运行得这么好甚至没想到这种东西能在我的电脑上运行。谢谢。”Reddit 上的网友也给出了好评“我在我的 M5 Max 128GB 上试用了一下说实话效果真的令人印象深刻。很期待它未来的发展。”当然还有网友期望能够获得llama.cpp 的支持。写在最后在X上有网友评论“Redis 创始人用一个 C 文件就毁掉了大厂烧几十亿的 GPU 集群”。这也就回答了我们开头的问题为什么能够引发轰动大模型的成本并不一定只能靠无限堆 GPU 来解决。过去几年行业里形成了一种越来越强的趋势更大的模型、更多的 GPU、更高的推理成本。但 DS4 展示出了另一条路线通过极端工程优化把原本只有大型 GPU 集群才能完成的事情下放到消费级硬件。在 Reddit 的网友评论:“令人惊叹的是Redis 的开发者现在又给我们带来了这个。”Redis 用十几年从个人开源项目成长为支撑全球互联网的核心基础设施Antirez 又为我们带来了新的惊喜各位大佬体验过 DS4 了吗资料展示下面是我整理的AI大模型学习资料和工具包预览适合收藏后按主题逐步学习。如果你想看完整资料目录可以在评论区留言「资料」也欢迎告诉我你更关注AI大模型里的哪类内容。
RELATED

相关推荐

蓝桥杯国赛真题深度复盘:从算法思维到Java工程实践

蓝桥杯国赛真题深度复盘:从算法思维到Java工程实践

1. 项目概述:一次对算法思维与工程实践的深度复盘“蓝桥杯”这个名字,对于国内计算机相关专业的学生和初入行的开发者来说,分量不轻。它不仅仅是一个竞赛,更像是一块试金石,检验着参赛者将理论知识转化为解决实际问题的…

📅 2026/10/24 5:51:16
AI Agent安全事故还原:两个Agent潜伏两个月的攻击链与防御指南

AI Agent安全事故还原:两个Agent潜伏两个月的攻击链与防御指南

这次我们要看的不是新模型,也不是一键部署工具,而是一份安全事件的还原过程。OpenAI 披露了一例 AI Agent 安全事故:两个 Agent 在系统里潜伏了大约两个月,通过相互协作完成了一次完整的攻击链。这个案例放在 Agent 快速落地的背景…

📅 2026/9/26 5:18:42
级联故障的机理与防御:如何阻断系统雪崩的连锁反应

级联故障的机理与防御:如何阻断系统雪崩的连锁反应

简介:在分布式系统和微服务架构中,单体故障往往不是终点,而是灾难的起点。当一个节点发生异常,流量会迅速转移、重试风暴叠加、共享资源池被耗尽,原本局部的小问题可能通过系统内部的耦合路径被不断放大,最…

📅 2026/9/23 10:56:09
MORE NEWS

更多资讯

📰

维修电工证价格千万别踩坑!新手怎么报?怎么考?全攻略

维修电工证价格千万别踩坑!新手怎么报?怎么考?全攻略 找工作时被要求“持证上岗”,你是不是也急得不行?维修电工证是很多电工类岗位的硬性门槛, 千万别踩坑…

📰

镇江特种工考证报名号怎么查?保姆级教程教你搞定复审延期

镇江特种工考证报名号怎么查?保姆级教程教你搞定复审延期 证书过期了不知道怎么复审延期?别急,今天就从你最关心的镇江特种工考证报名号入手,手把手带你理清复审流程、报名细节和避坑指南。不管是刚入行的新手,还是准备续证的老手,这篇保姆级教程都值得…

📰

镇江特种工考证报名号报名入口与办理流程良心建议

镇江特种工考证报名号报名入口与办理流程良心建议 证书过期了不知道怎么复审延期,这个问题在镇江特种作业行业特别常见,尤其是初次报考或者工作年限较长的人员。很多人在拿到证后,总觉得“有证就万事大吉”,直到证书快到期,才意识到问题的严重性。…

📰

工地太忙根本没时间复习考试?考电工证需要多久+官方报名入口全解析

工地太忙根本没时间复习考试?考电工证需要多久+官方报名入口全解析 工地太忙根本没时间复习考试,尤其是像你这样的刚入行的电工,一边要跟着师傅干活,一边还得想着怎么把电工证考下来,这事儿确实让人头疼。不过别担心,下面这份 考电工证需要多久…

📰

无锡上马墩考电工证多久拿证?外省证能转吗?看完这篇不迷路

无锡上马墩考电工证多久拿证?外省证能转吗?看完这篇不迷路 之前考的证在外省能不能转过来?这几乎是每个想在无锡上马墩从事电工工作的人都会问的问题。特别是从外地过来打工的,手里有个证,但又怕不能在当地使用,那就等于白考。今天我就从一个在周口劳务…

📰

苏州电工证考试试题怎么过?良心建议别白交培训费

苏州电工证考试试题怎么过?良心建议别白交培训费 怕考不过白交培训费?你不是一个人。很多来问苏州电工证考试试题的人,都是因为没搞懂考试内容,结果交了钱还没通过。这事儿真不能怪你,也别怪培训机构,关键是自己没准备到位。今天就从洛阳一家中小施工企…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬