deepseek-harness/packages/llm/token-meter/README.zh.md

@deepseek-ai/dsh-token-meter

English | 中文

通过单例 ctx.tokenMeter 服务进行感知回放的 token 测量。它从持久日志为每个会话推进一个隔离 fold，因此压缩与其他压力敏感插件可以共享计量，无需依赖 CompactService。

配置

估算器没有设置。它有意使用一项固定启发式规则：每个 token 按四个字符估算，再加上角色、块与请求 envelope 字段的结构开销。任何 key 都会被拒绝，包括已废弃的全局 contextWindow；模型容量属于拥有精确提供方／模型路由的适配器，可通过 ctx.llm.resolveModelInfo().context 获取。

测量契约

ctx.tokenMeter 直接公开两个操作：

• measure(session, requestHeader?) 在同一个已消费日志 revision 上返回请求压力与当前已计价表层。
• estimateMessage(message) 使用固定启发式规则为一条消息计价。

measure() 会同步一次，返回一个与输入脱离、深度不可变的快照。totalTokens 是请求与响应压力，surfaceTokens 是仅表层启发式总量，等于 nodes[].tokens 之和。requestHeader 覆盖只影响压力字段；表层字段仍描述当前会话。每次调用都会克隆带位置的节点，因此测量是 O(surface)。

fold 跟踪完整请求标头快照、步骤边界、表层追加与替换、成功 assistant 消息、提供方用量和 assistant chunk 溯源。只有当最新成功调用的规范请求 envelope 与已测量 envelope 匹配，且其总量不低于该调用的完整启发式锚点时，才会复用提供方用量；后续成功会替换较早锚点。否则估算完整当前 envelope 与表层。表层变更保持相对于匹配锚点的带符号值，包括缩减替换后的负 delta。

用量计量会求和不重叠的输入、cache-read、cache-write 与输出 bucket；不会再次添加 reasoning。每次成功调用都会记录一个 assistant 锚点，包括无内容调用。显式空溯源列表表示已知空提供方流，而缺失的遗留溯源会保守地将持久 assistant 输出视为提供方输出。

组合

- name: '@deepseek-ai/dsh-token-meter'
- name: '@deepseek-ai/dsh-compact-basic'

两个插件都有可用默认值。meter 保持与模型路由和可选压缩无关。部署会在 LLM 适配器上配置容量，并在 dsh-compact-basic 上配置压缩策略。

模型体验

通过 dsh-compact-basic 等消费方间接影响；该服务自身不添加提示词、消息、schema、工具或模型调用。

KV Cache 影响

不会直接失效；请求前缀变更由具名消费方负责。

已知限制与暂缓事项

• 固定启发式规则是近似值：没有可复用提供方用量的内容按字符数加结构开销计价，而不是使用精确提供方 tokenizer 或请求 serializer。
• 每次测量都会克隆当前表层：连贯不可变快照使读取成为 O(surface)，包括低于阈值的压力检查。
• 提供方用量只能为完全相同的规范 envelope 复用：提示词、前缀、工具、提供方、模型或调用配置变更都会有意回退到完整启发式估算。
• 遗留溯源采取保守策略：没有 sourceEventSeqs 的 assistant 消息无法区分提供方输出与 listener 改写，因此 fold 不会声称已知空流或精确 chunk 流。