大模型(LLM)流式调用链

大模型(LLM)流式调用链 由 Archify 生成的时序图。 prepareCall() PreparedLlmCall stream(prepared) llm/stream waterfall 可包装、替换或短路 选择 adapter HTTP stream + 扩展字段 chunk × N 规范化 StreamChunk AsyncIterable<StreamChunk> append assistant/chunk 可重试错误 → 再调用 最终错误写入日志 完成消息 准备与路由 请求与流式响应 重试或结束 ReactLoopAgent · step 调度 · 时序参与者 ReactLoopAgent step 调度 LlmRuntime · 路由与策略 · 时序参与者 LlmRuntime 路由与策略 llm/stream · waterfall · 时序参与者 llm/stream waterfall LlmAdapter · 协议适配 · 时序参与者 LlmAdapter 协议适配 DeepSeek API · 流式响应 · 时序参与者 DeepSeek API 流式响应 Session Log · chunk / error · 时序参与者 Session Log chunk / error 图例 请求 返回 安全 异步追踪 默认消息

能力接缝

  • • Agent 只依赖 PreparedLlmCall 与规范化 chunk
  • • Adapter 隔离供应商协议和 DeepSeek 扩展字段

错误语义

  • • 只有策略判定可重试时才再次调用
  • • 最终错误与部分输出都必须可观察