Files
deepseek-harness/docs/core-data-structures/web.zh.md
T

9.4 KiB
Raw Blame History

Web 访问

English | 中文

Web 访问 seam 是一个能力 seam,在同一个 ctx.web 服务上横跨两项能力search 与 fetch),并拆分到多个包:接口(dsh-webctx.web + 提供方注册表)、实现(dsh-web-search-exadsh-web-search-perplexitydsh-web-search-deepseekdsh-web-fetch-local)与消费方(dsh-tool-web,即 web_search/web_fetch 工具 schema)。Web 是一项可选能力,不属于 agent loop(智能体循环)主干,因此其词汇定义在此而非 core.md 中。更换 search 提供方不会改变模型提交查询的方式,更换 fetch 实现也不会改变模型请求 URL 的方式。

源码:packages/web/web/src/types.ts

为什么两项能力合为一个 seam

搜索与抓取既不共享请求 schema,也不共享业务逻辑,但它们被有意设计为同一个 ctx.web 中间层:一个提供方选择策略的所有者、一套中止与错误词汇,以及一个面向产品的「此 harness 如何访问 Web」配置界面。代价是服务上并行的 searchXfetchX 方法对;这种并行是有意为之,而不是遗漏了可抽取的共性。提供方注册的是能力WebSearchProviderWebFetchProvider),而非工具;面向模型的名称、schema、提示词引导与展示全部集中在唯一的消费方 dsh-tool-web 中。

搜索请求与结果

面向模型的工具参数仅为一个 querymaxResults 是消费方自有的上限(dsh-tool-websearchMaxResults 配置,默认 8),通过 seam 传递并在返回时强制执行——如果提供方返回超量,seam 截断 sources[] 并设置 truncated

/**
 * What one search-capable backend can return. The model-facing argument is just
 * a query; `maxResults` is a `dsh-tool-web`-layer bound passed through unchanged
 * and enforced on the way back by the seam (see {@link WebSearchResult}).
 */
interface WebSearchRequest {
  readonly query: string
  /**
   * Upper bound on returned sources; the seam truncates to it. Omitted = no
   * bound. `dsh-tool-web` always sets it. A provider whose API supports a
   * result-count control (Exa's `numResults`) should apply it at the request
   * layer as a cost/latency optimization; the seam enforces the bound
   * regardless.
   */
  readonly maxResults?: number
}
/**
 * Normalized search outcome. `content` is optional provider-generated answer
 * text or summary (Exa returns none; Perplexity returns a generated answer).
 * `sources[]` is the portable citation surface. `truncated` is set by the seam
 * when it cut `sources[]` down to `maxResults`.
 */
interface WebSearchResult {
  /** Optional provider-generated answer text, search context, or summary. */
  readonly content?: string
  /** Citeable sources, already truncated to the request's `maxResults`. */
  readonly sources: readonly WebSearchSource[]
  /** True when the seam dropped sources to honor `maxResults`. */
  readonly truncated: boolean
}

content 是提供方可选生成的回答文本(Exa 和 DeepSeek 不返回;Perplexity 返回生成式回答)。sources[] 是一套可跨提供方使用的引用数据结构。每个来源都必须有 urltitlesnippetpublishedAt 为可选字段,因为并非每个提供方都会返回它们——Perplexity 的引用可能只有 URL,强迫适配器编造其余字段会让 seam 说谎。dsh-tool-web 渲染时使用 title ?? hostname(url)

/**
 * One citeable source. A source always has a URL; `title`, `snippet`, and
 * `publishedAt` are optional because not every provider returns them — forcing
 * adapters to invent them would make the seam lie (Perplexity citations may be
 * URL-only). `dsh-tool-web` renders `title ?? hostname(url)` for display.
 */
interface WebSearchSource {
  readonly url: string
  readonly title?: string
  readonly snippet?: string
  /** Publication/crawl timestamp as a provider-supplied ISO-8601 string. */
  readonly publishedAt?: string
}

抓取请求与结果

/**
 * What one fetch-capable backend is asked to retrieve. The request deliberately
 * omits timeout, format, prompt, and extraction controls: cancellation is a
 * direct execution argument, while presentation and higher-level LLM concerns
 * belong outside safe retrieval.
 */
interface WebFetchRequest {
  readonly url: string
}

HTTP 状态码是被抓取资源状态的一部分,不自动视为失败:即使一次成功的网络抓取收到 404500 响应,也仍会产出一个 WebFetchResult,其中包含状态码和长度受限的已解码正文。url 是经过允许的重定向后的最终 URL。WebError 仅用于无法安全获取或表示资源的情况。

/**
 * Normalized fetch outcome. A successful network fetch of a non-2xx response is
 * a result, not an error: the status code is part of the fetched resource
 * state. {@link WebError} is reserved for failures to safely retrieve or
 * represent the resource.
 */
interface WebFetchResult {
  /** The final URL after allowed redirects (the request URL is in the request). */
  readonly url: string
  /** HTTP status code of the fetched response. */
  readonly statusCode: number
  /** Decoded body, classified by content kind. */
  readonly body: WebFetchBody
  /** True when the provider capped the decoded body. */
  readonly truncated: boolean
}

WebFetchBodydsh-web 拥有的封闭可辨识联合类型(不是可合并扩展的 map):提供方解码 kind,dsh-tool-web 渲染它,因此新增一个 kind 是已知包之间的协调变更,而非插件扩展。消费方对 kindswitch 并以 default: assertNever(...) 结尾,所以新增 kind 会在每个消费方处编译失败,直到被处理。即使各分支当前字段一致,每个分支仍保持独立的对象字面量,为将来分支特有字段留出空间(例如未来 pdf body 的 pageCount)。

/**
 * The decoded body of a fetched resource. A CLOSED discriminated union owned by
 * `dsh-web`: the provider decodes the kind and `dsh-tool-web` renders it, so a
 * new kind is a coordinated change across known packages, not a plugin
 * extension. Consumers `switch` on `kind` ending in `default: assertNever(...)`
 * so adding a kind breaks compilation at every consumer until handled. Each arm
 * stays its own object literal even where fields coincide today, leaving room
 * for arm-specific fields later (a `pdf` body's `pageCount`).
 */
type WebFetchBody =
  | { readonly kind: 'html'; readonly content: string }
  | { readonly kind: 'text'; readonly content: string }

提供方可用性

提供方的 available(): boolean 是一个廉价的本地检查(凭证是否存在、配置是否可解析),禁止发起网络调用。它是执行时选择提供方的输入,而不是健康检查系统:search()fetch() 会读取它来选择可用的提供方。选择失败时,调用方会收到可据以分支处理的结构化 WebError;其错误代码和消息会说明缺失的 id 或存在歧义的候选集。

选择从不依赖注册顺序、配置顺序或 HMR(热模块替换)顺序:一项能力要么有显式的提供方 id(配置 searchProviderfetchProvider,或填充同一字段的对应环境变量),要么在恰好只有一个可用提供方注册时自动选择;如果存在多个可用提供方却未配置 id,则抛出 WEB_PROVIDER_AMBIGUOUS,而不会选用最先注册的提供方。

错误

WebError extends HarnessErrorcore.md 错误分类体系),带有 code: string(开放式,与其他 seam 的错误一致——LlmErrorSubagentError),而非封闭联合类型:提供方可以在不修改 dsh-web 的情况下抛出自己的错误代码,消费方必须容忍未知错误代码。错误代码按所有者划分。由 seam 统一定义的错误代码来自 WebService 的选择逻辑和共享契约:WEB_PROVIDER_UNAVAILABLEWEB_PROVIDER_CONFIGURED_MISSINGWEB_PROVIDER_CONFIGURED_UNAVAILABLEWEB_PROVIDER_AMBIGUOUSWEB_DUPLICATE_PROVIDER(注册时的编程错误,类似 LlmServiceDUPLICATE_ADAPTER)、WEB_ABORTED,以及 WEB_PROVIDER_ERROR(提供方自身故障经 seam 暴露时使用的兜底代码,包括 DNS、连接被拒绝、TLS 等网络或传输故障)。抓取传输层错误代码由 dsh-web-fetch-local 实现拥有,不同的抓取后端无需抛出它们:WEB_INVALID_URLWEB_BLOCKED_URLWEB_REDIRECT_BLOCKEDWEB_FETCH_TOO_LARGEWEB_FETCH_TIMEOUTWEB_UNSUPPORTED_CONTENT_TYPE

服务

WebService 注册搜索与抓取提供方,以 WEB_DUPLICATE_PROVIDER 拒绝重复 id,并在执行时以结构化的选择错误解析提供方。本地抓取后端仅接受 HTTP(S)、拒绝凭证、限制重定向次数、字节数、字符数和时间、对每一跳同源重定向重新校验,并解码正文;展示由工具负责。SSRF/私有网络防护尚未实现,因此在能够触及敏感内部目标的环境中,禁止启用 web_fetch