深度求索 API 平台今日上线缓存命中折扣机制。当开发者发送的请求中包含与近期请求重复的输入前缀时，重复部分的 token 将按优惠费率计费，最高可节省 90% 的输入成本。
这一机制特别适合系统提示词固定、用户问题多变的应用场景，例如智能客服、文档问答和代码补全等。开发者无需修改接口调用方式，系统自动识别并应用缓存策略。
控制台新增"缓存统计"面板，可查看命中率与节省金额。更多 API 接入细节请参阅模型能力介绍一文。
深度求索 API 平台今日上线缓存命中折扣机制。当开发者发送的请求中包含与近期请求重复的输入前缀时，重复部分的 token 将按优惠费率计费，最高可节省 90% 的输入成本。
这一机制特别适合系统提示词固定、用户问题多变的应用场景，例如智能客服、文档问答和代码补全等。开发者无需修改接口调用方式，系统自动识别并应用缓存策略。
控制台新增"缓存统计"面板，可查看命中率与节省金额。更多 API 接入细节请参阅模型能力介绍一文。