Tianyi Cui
8a952ab433
# Conflicts: # .agents/notes/implemented/architecture/2026-06-21-bounded-llm-request-recovery.md # docs/architecture.i18n.yaml # docs/config-catalog.md # docs/cordis-catalog/events.md # docs/cordis-catalog/services.md # docs/core-data-structures/llm-streaming.i18n.yaml # docs/core-data-structures/llm-streaming.md # docs/core-data-structures/llm-streaming.zh.md # docs/event-producer-consumer.md # docs/module-graph.md # examples/headless-agent/tests/headless.snapshot.ts # packages/compact/compact-basic/tests/compact-loop-repro.spec.ts # packages/cordis/tool-cordis/src/api-catalog.ts # packages/core/agent-loop/README.md # packages/core/agent-loop/src/loop.ts # packages/examples/agent-spine-demo/README.md # packages/llm/README.md # packages/llm/llm-deepseek/src/adapter.ts # packages/llm/llm-pi-ai/src/adapter.ts # packages/llm/llm-retry/README.md # packages/llm/llm/README.md # packages/llm/llm/src/index.ts # packages/llm/llm/tests/service.spec.ts # packages/support/llm-replay/src/index.ts # packages/support/llm-replay/tests/llm-replay.spec.ts
1.7 KiB
1.7 KiB
llm/：LLM 能力家族
English | 中文
LLM seam 及其提供方适配器。接口包（llm）拥有抽象服务、内容块词汇和流分片组装器；适配器是在 ctx.llm 上注册的具体实现。这些全是产品 包。
| 包 | 职责 | ctx key |
|---|---|---|
llm/ |
抽象 LLM 服务 + 内容块词汇 + 分片组装器 | ctx.llm |
token-meter/ |
感知回放的请求与表层 token 测量 | ctx.tokenMeter |
llm-retry/ |
确切提供方的 normal 或无界请求重试策略 | （监听 agent/request-error） |
llm-deepseek/ |
DeepSeek API 适配器（直接 fetch + eventsource-parser SSE） | （注册到 ctx.llm） |
llm-pi-ai/ |
通过 @earendil-works/pi-ai 实现的多提供方适配器 |
（注册到 ctx.llm） |
接口位于 llm/llm/；适配器、重试策略和可复用的 token 计量器都是该分组下的扁平兄弟包。请求按 provider 路由，而 model 会原样传给选中的适配器。拥有路由的适配器提供重试策略，并解析可用的确切模型身份、上下文容量和推理元数据；重试执行器与 token 计量器仍与提供方无关。新的提供方适配器只需在 ctx.llm 上注册一个或多个提供方路由，无需改动消费方。两个已交付实现见双生 LLM 适配器，测量归属见回放 token 计量器 Agent Note，容量与压缩策略归属见路由模型上下文 Agent Note。