每百万Token的缓存命中价翻倍：算力紧到什么程度-北京尧图网络

阶跃星辰宣布10 月 14 日 0 时 30 分起调整 Step-5-preview 的按量付费 API 价格项调整前调整后变化缓存命中输入0.35 元/百万 tokens0.7 元/百万 tokens翻倍缓存未命中输入7 元/百万 tokens7 元/百万 tokens不变输出20 元/百万 tokens20 元/百万 tokens不变这个调价的结构比幅度更有信息量只涨了最便宜的那一档。公告同时说明10 月 14 日 0 时 30 分前已通过按量付费调用过的用户不受本次调价影响。同期的动作是10 月 13 日发布智能体手机10 月 15 日开源该模型权重。一、为什么只涨缓存命中价先看三档价格的相对关系调整前0.35 : 7 : 20约等于1 : 20 : 57。缓存命中价之所以能做到这么低是因为命中的部分不需要重新做前向计算——KV Cache 已经在了只需要读出来用。未命中的部分要完整跑一遍 prefill。两者的算力消耗差着量级价格差也就跟着差量级。调整后变成 0.7 : 7 : 20即1 : 10 : 29。含义缓存命中这一档的「算力折扣」从 95% 收窄到了 90%。也就是说厂商在缩小「省着用」和「不省着用」之间的价差。为什么这么调文中引述行业人士的判断是直接原因是行业整体算力偏紧提价是迫不得已的选择。这个解释和调价结构是自洽的——如果算力紧张最先被压缩的就是「低价但占用缓存资源」的那一档。二、对应用侧的实际影响这个调价对不同类型的应用影响完全不同应用形态缓存命中占比受影响程度长文档反复问答同一份文档多轮提问高大多轮对话同一会话持续上下文中高中固定前缀的批量任务相同 system prompt 跑大量请求高大单次短请求每次内容都不同极低几乎无第三行值得单独说。「固定前缀批量」是最典型的成本优化手法——把系统提示词、few-shot 示例、知识库片段固定成一个前缀让后续所有请求都命中缓存。这一档价格翻倍直接冲击的就是这类设计的成本模型。给应用侧的一个具体动作如果你的成本优化依赖前缀缓存现在是重新测一次的时候。把「命中率」这个指标显式测出来再乘以新的单价才知道实际涨幅是多少。只盯着「翻倍」两个字会高估影响——如果命中占比只有 10%总成本涨不到 10%。三、这个信号说明什么把这次的调价和行业层面的几个动作连起来看同为大模型「六小龙」的 DeepSeek、智谱、Kimi 已先行调价存储侧美光明确表示 2027-2028 财年的供需将比 2026 年更紧张看不到恢复平衡的拐点HBM 2027 年的大部分供应已签订协议三星三季度营业利润同比增长近 8 倍。三条合起来是一个判断这一轮算力紧张不是短期波动而是有供应侧的硬约束支撑。所以「等便宜了再用」这个策略在可预见的窗口内不成立。对工程团队的实际含义是省 Token 从「优化项」变成「必要项」。具体来说缓存设计、上下文压缩、请求合并这三件事的优先级要往上提。四、结语与适用边界一次调价本身不是大事。但它说明了成本结构里「哪一档最容易被挤压」——永远是补贴最重、单价最低的那一档。这类信号出来的时候最该做的不是判断厂商动机而是把自己系统里的实际命中率测出来。没有这个数任何「涨了多少」的讨论都是猜的。把视角放到国内企业的实际环境算力成本的压力在信创场景下还有一层额外约束——模型调用通常不能直接走出内网需要通过本地部署或专有通道承接。这意味着「换一个更便宜的 API」这条最直接的路往往走不通能动的只有请求侧的结构哪些内容进模型、哪些内容靠检索、上下文留多长。金蝶天燕 Apusic 这条线上ASE 承担检索与向量能力基于 Lucene 内核、全面兼容 Elasticsearch、KNN 插件提供近似最近邻与精确检索、支持 GPU 加速与多种向量引擎适用于语义搜索与 RAG 等场景。在成本敏感的应用里它承担的是把「每次都要调模型」的部分换成「先检索再调模型」——检索层的成本结构与推理层完全不同这也是在内网环境下控制总成本的一条现实路径。适用边界价格数据取自阶跃星辰官方调价公告的公开报道具体计费规则以厂商正式文档为准。「缓存命中占比」的影响测算为示意实际值需在自己的业务流量上测量后得出。产品能力描述仅引用其官方产品资料所载内容。互动你们算过自己业务的缓存命中率吗如果没有现在是个合适的时机——因为这一档的价差已经变了。

每百万Token的缓存命中价翻倍：算力紧到什么程度

相关推荐

Windows远程桌面(RDP)完整配置指南：从端口映射到安全加固

SSM网络硬盘管理系统：从数据库设计到部署的全流程实战解析

ICPC算法题解析：序列重排与逆序数计算

更多资讯

ISAR成像RD算法原理与工程实践详解

月度经营会怎么开？四类看板让销售、财务、老板看同一套数据

多元线性回归预测时间序列：特征工程与工程实践全解析

HDFS架构设计与实战命令：从设计理念到运维排错

信息与通信工程学科全景：从信息论到射频电路的系统协作

计算机输出设备技术全解析：从显示器到3D打印

今日更新

小波包能量谱原理与MATLAB实现：从频带分解到故障特征提取

基于LSTM的网易云音乐评论情感分析：数据清洗与模型调优实战

Alpha-Beta剪枝与极大极小值算法：博弈树搜索原理与实战优化

本周精选

交通拥堵预测毕设：基于Python+LSTM的车辆流量预测系统全流程解析

MATLAB/Simulink搭建10机39节点电力系统暂态稳定仿真实战

无人机航拍三维重建全流程：从SfM到网格生成的避坑指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？