编程竞技场 Code ArenaKimi K3登顶了Code Arena 是一个匿名盲测平台。用户看不到模型名字只根据生成结果的质量投票打分。1679 分。Claude Fable 5第二1631。GPT-5.6 Sol第三1618。上一代Kimi K2.6排第 18。一代产品狂涨 17 名直接干到第一。7 个细分领域Kimi K3拿了 6 个第一。Kimi K32.8 万亿参数百万上下文。全球参数量最大的开源模型刚刚上线了。一个开源模型在编程上打败了所有闭源顶级选手。不只是编程在第三方综合评测 Artificial Analysis 最新排行榜上Kimi K3综合得分 57排名第四。前三名分别是Claude Fable 560 分、GPT-5.6 Sol59 分和 58 分不同思考强度。Claude Opus 4.856 分GPT-5.555 分都在 Kimi 后面。更绝的是Kimi K3API 定价输入 20 元/百万 token输出 100 元。编程场景下缓存命中率超过 90%实际输入成本大约只有标价的四分之一。作为对比Claude Fable 5输出定价约 360 元/百万 tokenGPT-5.6 Sol约 216 元。Kimi K3不到Fable 5的三分之一。这恐怕是第一次一个国产开源模型能够真正和闭源顶级模型掰手腕。AI 研究者 Nathan Lambert 评论「关于中国模型是蒸馏出来的说法可以停了。中国确实擅长做模型。」月之暗面自己在官方技术博客里也没有回避差距。「虽然Kimi K3的整体表现仍落后于最强的闭源模型Claude Fable 5和GPT-5.6 Sol但它在我们的整套评测中展现出前沿水平的能力并稳定超过了其他所有模型。」K3还没正式发布就被网友在 Arena 上扒了出来。化名「Kivine」提前偷跑。开发者 chetaslua 拿Kimi K3和GPT-5.6 Sol做了一轮正面对比。「如果我把Kimi K3的名字换成Fable 5你会直接相信。不只是视觉上的问题功能上也是。两者都能实现相同的结果但实现方式不同Kimi 更有创造力。」Lentils80 跑了一轮前端测试。「确实慢甚至比 Fable 还慢。花了 35 分钟才跑完。不过这是我用这个提示词得到的最好的结果之一比很多顶级模型都好。」慢但猛。synthwavedd 发了一条 1800 赞的推文。「我觉得 Kimi K3 会让那些说“中国落后 8 个月”的人感到震惊。」有网友引用了一篇报道里面提到 K3 参数量在 2 到 3 万亿之间100 万 token 上下文性能预计超越Claude Opus 4.8。「中国落后六个月的时代结束了。」Midjourney 联合创始人兼 CEO David Holz 在 Kimi 官方推文下面评论。「this is really beautiful」美如画。Kimi 这条官方推文160 万阅读超 1 万点赞1300 转发。DeepSeek 铁粉 teortaxesT 这样总结。「R1-level moment.」DeepSeek-R1时刻。2.8 万亿参数全球能把模型预训练到这个量级的 AI 公司一只手数得过来。国内只有两家DeepSeek 和月之暗面。超过 2 万亿的只有月之暗面。预训练做大难的不是钱是算力和试错机会。参数量翻一倍训练成本指数级增长。一次训练崩了几千万美元就打水漂了。很多团队都卡在了万亿参数这个训练门槛上。再加上算力资源本就有限2.8 万亿参数的预训练差不多只有一次成功的机会。Kimi 官方在K3技术博客里引用了这样一句话「犯其至难而图其至远者发之以勇守之以专达之以强。」挑最难的事去做才能走到最远的地方。2.8 万亿参数的模型传统架构搞不定。神经网络层数越多早期层的信息越容易被后面的层稀释掉。Kimi 为此专门发了一篇论文提出了「注意力残差」机制Attention Residuals。今年 3 月发表的马斯克亲自下场点了赞。论文作者之一是一个 17 岁的高中生。注意力残差解决的就是这个「深度稀释」问题。传统残差连接是每层输出等权累加不管有用没用都加在一起。注意力残差让每一层自己决定从前面哪些层取信息权重动态分配。K3的 MoE 架构里有 896 个专家实际激活 16 个。配合 Kimi Linear 混合线性注意力架构处理长输入和长输出的成本更低。这也是它能实现 100 万 token 上下文的底层原因。整体扩展效率比Kimi K2提升了约 2.5 倍。网上有个说法Kimi 是「预训练仙人」。这话一点没毛病。过去 12 个月里有 9 个月Kimi 模型都保持着开源模型的参数规模上限。从Kimi K2的 1 万亿到Kimi K3的 2.8 万亿一直在刷新天花板。资本也在用真金白银投票月之暗面估值半年翻了近 7 倍逼近 2000 亿人民币。来一波实测。经典的「鹈鹕骑车 SVG」起手。这是Kimi K3画的。一只褐色鹈鹕栗色后颈红色喉囊踩在脚踏板上骑着一辆结构完整的自行车。车架、链条、辐条轮、刹车一个不少。整体是复古风连批注标签和渐变填充都安排上了。很顶这质量妥妥的 TOP 级别。同一段提示词我也让GPT-5.5、GPT-5.6 Sol、Claude Opus 4.8和Claude Fable 5各画了一张。四个模型画出来的都是卡通风格K3画了个博物馆标本图鉴。「天气卡片」。四张深色玻璃拟态天气卡片。风、雨、晴、雪并排。飘动的云、摇摆的树下落的雨滴激起阵阵涟漪飘落的雪花和月光光晕都很有感觉。黑洞引力透镜、交互式太阳系、粒子生命模拟、程序化四季地形这些我也都跑了。一句提示词生成完整的 3D 交互场景代码结构干净基本不用改就能直接用。但让我真正上头的是深海探测驾驶舱。一句提示词K3生成了一个完整的「DSV-09 深渊号」深海潜艇操控界面。从启动画面开始带声呐扩散动画和开机自检日志一整套完整的系统。HUD 风格界面荧绿色等宽字体面板斜角切割金属角码装饰螺钉。右侧深度标尺按真实水层分为了四段下潜时指示器实时移动。底部仪表台一排交互面板氧气储量、舱外水压、系统日志在实时显示。整个界面的设计颗粒度精细到了每一个螺钉的像素位置。面板系统、状态管理、动画时序、视觉层次Kimi K3全做对了。这是组件级的工程理解上一个让我有这种感觉的模型还是Fable 5。犯其至难而图其至远者发之以勇守之以专达之以强。从 1 万亿到 2.8 万亿Kimi 还在路上。我是木易Top2 美国 Top10 CS 硕现在是 AI 产品经理。关注「AI信息Gap」让 AI 成为你的外挂。
编程竞技场 Code ArenaKimi K3登顶了Code Arena 是一个匿名盲测平台。用户看不到模型名字只根据生成结果的质量投票打分。1679 分。Claude Fable 5第二1631。GPT-5.6 Sol第三1618。上一代Kimi K2.6排第 18。一代产品狂涨 17 名直接干到第一。7 个细分领域Kimi K3拿了 6 个第一。Kimi K32.8 万亿参数百万上下文。全球参数量最大的开源模型刚刚上线了。一个开源模型在编程上打败了所有闭源顶级选手。不只是编程在第三方综合评测 Artificial Analysis 最新排行榜上Kimi K3综合得分 57排名第四。前三名分别是Claude Fable 560 分、GPT-5.6 Sol59 分和 58 分不同思考强度。Claude Opus 4.856 分GPT-5.555 分都在 Kimi 后面。更绝的是Kimi K3API 定价输入 20 元/百万 token输出 100 元。编程场景下缓存命中率超过 90%实际输入成本大约只有标价的四分之一。作为对比Claude Fable 5输出定价约 360 元/百万 tokenGPT-5.6 Sol约 216 元。Kimi K3不到Fable 5的三分之一。这恐怕是第一次一个国产开源模型能够真正和闭源顶级模型掰手腕。AI 研究者 Nathan Lambert 评论「关于中国模型是蒸馏出来的说法可以停了。中国确实擅长做模型。」月之暗面自己在官方技术博客里也没有回避差距。「虽然Kimi K3的整体表现仍落后于最强的闭源模型Claude Fable 5和GPT-5.6 Sol但它在我们的整套评测中展现出前沿水平的能力并稳定超过了其他所有模型。」K3还没正式发布就被网友在 Arena 上扒了出来。化名「Kivine」提前偷跑。开发者 chetaslua 拿Kimi K3和GPT-5.6 Sol做了一轮正面对比。「如果我把Kimi K3的名字换成Fable 5你会直接相信。不只是视觉上的问题功能上也是。两者都能实现相同的结果但实现方式不同Kimi 更有创造力。」Lentils80 跑了一轮前端测试。「确实慢甚至比 Fable 还慢。花了 35 分钟才跑完。不过这是我用这个提示词得到的最好的结果之一比很多顶级模型都好。」慢但猛。synthwavedd 发了一条 1800 赞的推文。「我觉得 Kimi K3 会让那些说“中国落后 8 个月”的人感到震惊。」有网友引用了一篇报道里面提到 K3 参数量在 2 到 3 万亿之间100 万 token 上下文性能预计超越Claude Opus 4.8。「中国落后六个月的时代结束了。」Midjourney 联合创始人兼 CEO David Holz 在 Kimi 官方推文下面评论。「this is really beautiful」美如画。Kimi 这条官方推文160 万阅读超 1 万点赞1300 转发。DeepSeek 铁粉 teortaxesT 这样总结。「R1-level moment.」DeepSeek-R1时刻。2.8 万亿参数全球能把模型预训练到这个量级的 AI 公司一只手数得过来。国内只有两家DeepSeek 和月之暗面。超过 2 万亿的只有月之暗面。预训练做大难的不是钱是算力和试错机会。参数量翻一倍训练成本指数级增长。一次训练崩了几千万美元就打水漂了。很多团队都卡在了万亿参数这个训练门槛上。再加上算力资源本就有限2.8 万亿参数的预训练差不多只有一次成功的机会。Kimi 官方在K3技术博客里引用了这样一句话「犯其至难而图其至远者发之以勇守之以专达之以强。」挑最难的事去做才能走到最远的地方。2.8 万亿参数的模型传统架构搞不定。神经网络层数越多早期层的信息越容易被后面的层稀释掉。Kimi 为此专门发了一篇论文提出了「注意力残差」机制Attention Residuals。今年 3 月发表的马斯克亲自下场点了赞。论文作者之一是一个 17 岁的高中生。注意力残差解决的就是这个「深度稀释」问题。传统残差连接是每层输出等权累加不管有用没用都加在一起。注意力残差让每一层自己决定从前面哪些层取信息权重动态分配。K3的 MoE 架构里有 896 个专家实际激活 16 个。配合 Kimi Linear 混合线性注意力架构处理长输入和长输出的成本更低。这也是它能实现 100 万 token 上下文的底层原因。整体扩展效率比Kimi K2提升了约 2.5 倍。网上有个说法Kimi 是「预训练仙人」。这话一点没毛病。过去 12 个月里有 9 个月Kimi 模型都保持着开源模型的参数规模上限。从Kimi K2的 1 万亿到Kimi K3的 2.8 万亿一直在刷新天花板。资本也在用真金白银投票月之暗面估值半年翻了近 7 倍逼近 2000 亿人民币。来一波实测。经典的「鹈鹕骑车 SVG」起手。这是Kimi K3画的。一只褐色鹈鹕栗色后颈红色喉囊踩在脚踏板上骑着一辆结构完整的自行车。车架、链条、辐条轮、刹车一个不少。整体是复古风连批注标签和渐变填充都安排上了。很顶这质量妥妥的 TOP 级别。同一段提示词我也让GPT-5.5、GPT-5.6 Sol、Claude Opus 4.8和Claude Fable 5各画了一张。四个模型画出来的都是卡通风格K3画了个博物馆标本图鉴。「天气卡片」。四张深色玻璃拟态天气卡片。风、雨、晴、雪并排。飘动的云、摇摆的树下落的雨滴激起阵阵涟漪飘落的雪花和月光光晕都很有感觉。黑洞引力透镜、交互式太阳系、粒子生命模拟、程序化四季地形这些我也都跑了。一句提示词生成完整的 3D 交互场景代码结构干净基本不用改就能直接用。但让我真正上头的是深海探测驾驶舱。一句提示词K3生成了一个完整的「DSV-09 深渊号」深海潜艇操控界面。从启动画面开始带声呐扩散动画和开机自检日志一整套完整的系统。HUD 风格界面荧绿色等宽字体面板斜角切割金属角码装饰螺钉。右侧深度标尺按真实水层分为了四段下潜时指示器实时移动。底部仪表台一排交互面板氧气储量、舱外水压、系统日志在实时显示。整个界面的设计颗粒度精细到了每一个螺钉的像素位置。面板系统、状态管理、动画时序、视觉层次Kimi K3全做对了。这是组件级的工程理解上一个让我有这种感觉的模型还是Fable 5。犯其至难而图其至远者发之以勇守之以专达之以强。从 1 万亿到 2.8 万亿Kimi 还在路上。我是木易Top2 美国 Top10 CS 硕现在是 AI 产品经理。关注「AI信息Gap」让 AI 成为你的外挂。
双梁正问题 【 torch 实战】（Python代码实现）)
