参考资料

• LangChain Callbacks
• LangChain Middleware

LangChain（13） - Callback、Middleware 与运行时扩展

Python 实现地图

Python 的 Callback 通过 config 传递；Agent Middleware 从 langchain.agents.middleware 使用装饰器或类实现，分别包裹模型、Tool 和 Agent 生命周期。

events = ["on_chain_start", "on_tool_start", "on_tool_end", "on_chain_end"]
print(events)

读完后，你应能：

• 能验证“在不污染业务链的前提下统一记录模型、检索和工具调用，并实现限流、降级和审计”，并保存输入、输出与失败样本。
• 能验证“Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行”，并保存输入、输出与失败样本。

在不污染业务链的前提下统一记录模型、检索和工具调用，并实现限流、降级和审计。

一、先建立全局：Callback、Middleware 与运行时扩展 是什么？

理解“Callback、Middleware 与运行时扩展”，先要把标题中的对象放进同一条处理链：它接收什么输入，经过哪些状态变化，最终用什么证据判断结果。下表不另造概念，只把作者正文已经解释的章节按依赖顺序连起来。

“Callback、Middleware 与运行时扩展”的第一个核心判断是：Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。。先弄清这个判断中的对象和输入输出，后面的实现、故障和验收才有共同语境。

顺序	章节	读完本节应抓住的结论
1	核心决策	Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。
2	落地步骤	定义统一事件 Schema。 -> 在模型、Retriever、Tool 三个边界注入追踪。 -> 用正常、超时、解析失败和回调故障四类用例验证。
3	决策记录怎么写	上线前不要只留下“采用 Callback、Middleware 与运行时扩展”这一句结论。
4	生产避坑	同步上报 Trace 会放大尾延迟。
5	故障演练	注入与“同步上报 Trace 会放大尾延迟。 -> 注入与“重复注册 Callback 会产生重复 Span 和成本统计。 -> 注入与“把业务分支写进通用回调会导致链条不可理解。
6	在不污染业务链的前提下统一记录模型、检索和工具调用	在不污染业务链的前提下统一记录模型、检索和工具调用，并实现限流、降级和审计。

1.1 核心对象之间怎样衔接

flowchart LR
  S1["核心决策"] --> S2
  S2["落地步骤"] --> S3
  S3["决策记录怎么写"] --> S4
  S4["生产避坑"] --> S5
  S5["故障演练"]

这张图只表达本文的讲解顺序，不替代正文机制。判断“Callback、Middleware 与运行时扩展”是否真正掌握，需要能从最后一个结果沿图回到前面每个章节的输入、状态变化和证据。

1.2 再看失败：问题最早会出现在哪一步？

在“Callback、Middleware 与运行时扩展”的对象和顺序已经明确后，再看可观察的失败：字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功。定位时不从最后一条错误猜原因，而是沿上图找第一个偏离正文结论的节点。

二、为什么需要 Callback、Middleware 与运行时扩展

本章给出可以进入设计评审和生产检查的最小框架。

三、Callback、Middleware 与运行时扩展的核心决策

• Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。
• Trace 必须携带 request_id、tenant_id、model、token、latency 和 error_type，但不能记录密钥与完整敏感正文。
• 扩展点失败默认不能拖垮主链路；审计类事件则需要可靠缓冲和告警。

四、Callback、Middleware 与运行时扩展的落地步骤

1. 定义统一事件 Schema。
2. 在模型、Retriever、Tool 三个边界注入追踪。
3. 用正常、超时、解析失败和回调故障四类用例验证。

五、Callback、Middleware 与运行时扩展的决策记录怎么写

上线前不要只留下“采用 Callback、Middleware 与运行时扩展”这一句结论。

需要回答的问题	当前决策	必须保留的证据
决策 1	Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。	对应步骤 1 的数据集、日志或压测结果
决策 2	Trace 必须携带 request_id、tenant_id、model、token、latency 和 error_type，但不能记录密钥与完整敏感正文。	对应步骤 2 的数据集、日志或压测结果
决策 3	扩展点失败默认不能拖垮主链路；审计类事件则需要可靠缓冲和告警。	对应步骤 3 的数据集、日志或压测结果

下面的记录可以直接放进项目设计文档。

topic: Callback、Middleware 与运行时扩展
baseline:
  version: required
  dataset: required
candidate:
  version: required
  change: required
acceptance:
  quality: business_threshold
  p95_latency_ms: service_slo
  cost_per_success: budget_limit
rollback:
  trigger: any_acceptance_regression
  owner: named_on_call

六、Callback、Middleware 与运行时扩展的生产避坑

• 同步上报 Trace 会放大尾延迟。
• 重复注册 Callback 会产生重复 Span 和成本统计。
• 把业务分支写进通用回调会导致链条不可理解。

七、Callback、Middleware 与运行时扩展的故障演练

1. 注入与“同步上报 Trace 会放大尾延迟。”对应的失败条件，记录用户侧现象、Trace 中的首个异常 Span 和恢复动作。
2. 注入与“重复注册 Callback 会产生重复 Span 和成本统计。”对应的失败条件，记录用户侧现象、Trace 中的首个异常 Span 和恢复动作。
3. 注入与“把业务分支写进通用回调会导致链条不可理解。”对应的失败条件，记录用户侧现象、Trace 中的首个异常 Span 和恢复动作。

演练必须能回答三个问题：故障是否在预算内快速失败， 是否会越权或产生重复副作用， 恢复后是否能用同一数据集证明质量没有退化。 只有错误日志、没有用户影响和恢复证据，不能算完成排障。

验收清单

• 关键输入、输出、预算和停止条件都有结构化记录。

八、动手验证：先跑通 Callback、Middleware 与运行时扩展，再改变一个变量

前面的章节已经建立问题、概念和机制。现在把“Callback、Middleware 与运行时扩展”放进同一套基线中运行；本节不再引入新术语，只验证前文结论能否被复现。

8.1 基线与候选只允许一个变量不同

验证“Callback、Middleware 与运行时扩展”时，先固定Runnable 输入类型、Prompt 变量、依赖版本、模型替身和异常样本。候选方案只能改变本次要验证的变量；如果同时更换数据、依赖和配置，即使结果改善，也不能知道是哪一项产生作用。

执行“Callback、Middleware 与运行时扩展”时，动作是：逐段 invoke 并记录 Retriever、Prompt、Model、Parser 的输入输出，再比较整链结果。原始结果不能只保留截图或汇总分数，必须同步保存：各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本，使下一次复查可以在同一输入上重放。

实验要素	本文要求
固定条件	Runnable 输入类型、Prompt 变量、依赖版本、模型替身和异常样本
唯一变量	本次候选方案与基线之间的一项明确差异
原始证据	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
通过阈值	数据形状逐段匹配，错误停在首个失效边界，整链结果能由中间状态解释
立即停止	字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功

8.2 执行前先排除不可比较条件

“Callback、Middleware 与运行时扩展”开始前先确认下面四项；任一项不成立，都应先修复实验条件，而不是解释结果。

• 基线能够在“Callback、Middleware 与运行时扩展”的当前环境重复运行。
• 候选只改变一个与“Callback、Middleware 与运行时扩展”结论直接相关的条件。
• “Callback、Middleware 与运行时扩展”的基线和候选使用同一批输入、同一版本依赖与同一通过阈值。
• “Callback、Middleware 与运行时扩展”的原始输出和失败现场不会被重试、格式化或汇总覆盖。

8.3 执行后先核对证据完整性

结果出来后先检查证据，再讨论“Callback、Middleware 与运行时扩展”是否通过。缺少中间状态时，最终输出只能说明现象，不能证明机制。

检查项	当前文章的判定
输入可追溯	Runnable 输入类型、Prompt 变量、依赖版本、模型替身和异常样本
过程可回放	逐段 invoke 并记录 Retriever、Prompt、Model、Parser 的输入输出，再比较整链结果
结果可审计	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本

“Callback、Middleware 与运行时扩展”的一次合格基线对照按以下顺序执行：

1. 保存“Callback、Middleware 与运行时扩展”基线版本及输入摘要，确认基线本身可以重复运行。
2. 写下“Callback、Middleware 与运行时扩展”候选方案唯一变化的变量，以及它预期影响的指标。
3. 在同一环境执行“Callback、Middleware 与运行时扩展”：逐段 invoke 并记录 Retriever、Prompt、Model、Parser 的输入输出，再比较整链结果。
4. 为“Callback、Middleware 与运行时扩展”保存：各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本。
5. 使用“Callback、Middleware 与运行时扩展”预登记条件判断：数据形状逐段匹配，错误停在首个失效边界，整链结果能由中间状态解释。
6. 如果“Callback、Middleware 与运行时扩展”未通过，不修改第二个变量，先恢复基线并保留失败现场。

九、用一张矩阵验证 Callback、Middleware 与运行时扩展 的关键结论

矩阵按正文顺序列出“Callback、Middleware 与运行时扩展”的结论。一次实验只选择一行，只改变这一行对应的条件；不要把多行合并成一个无法归因的大实验。

正文章节	已解释的结论	本轮唯一变量	必须保存的证据
核心决策	Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。	只改变与“核心决策”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
落地步骤	定义统一事件 Schema。 -> 在模型、Retriever、Tool 三个边界注入追踪。 -> 用正常、超时、解析失败和回调故障四类用例验证。	只改变与“落地步骤”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
决策记录怎么写	上线前不要只留下“采用 Callback、Middleware 与运行时扩展”这一句结论。	只改变与“决策记录怎么写”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
生产避坑	同步上报 Trace 会放大尾延迟。	只改变与“生产避坑”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
故障演练	注入与“同步上报 Trace 会放大尾延迟。 -> 注入与“重复注册 Callback 会产生重复 Span 和成本统计。 -> 注入与“把业务分支写进通用回调会导致链条不可理解。	只改变与“故障演练”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本
在不污染业务链的前提下统一记录模型、检索和工具调用	在不污染业务链的前提下统一记录模型、检索和工具调用，并实现限流、降级和审计。	只改变与“在不污染业务链的前提下统一记录模型、检索和工具调用”相关的条件	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本

9.1 记录本次实际实验

下面的记录用于“Callback、Middleware 与运行时扩展”当前这一次实验，不是第二套知识目录。先从矩阵选择一个章节，再填写实际值；没有填写的字段表示尚未验证。

topic: "Callback、Middleware 与运行时扩展"
selected_chapter: required
claim_from_article: required
baseline_version: required
changed_condition: exactly_one
execution: "逐段 invoke 并记录 Retriever、Prompt、Model、Parser 的输入输出，再比较整链结果"
evidence: "各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本"
pass_when: "数据形状逐段匹配，错误停在首个失效边界，整链结果能由中间状态解释"
stop_when: "字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功"
observed_result: required
first_deviation: null_or_evidence
recovery_replay: required_after_failure

9.2 边界实验必须证明能够停止和恢复

成功路径只能证明“Callback、Middleware 与运行时扩展”在当前样本上工作，不能证明它可以进入生产。边界实验需要主动制造：字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功，并观察系统是否在产生不可逆副作用前停止。

场景	只改变什么	应保存什么	通过标准
正常路径	使用已知有效输入	各 Runnable 的序列化输入输出、Trace、异常类型、预期断言和依赖版本	数据形状逐段匹配，错误停在首个失效边界，整链结果能由中间状态解释
边界路径	把一个输入推进到约束临界值	临界值前后的输出与指标	不静默降级，不把部分结果冒充成功
明确失败	注入：字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功	原始错误、首个异常阶段和最终状态	失败被正确分类且没有扩大副作用
恢复重放	执行：隔离失败 Runnable，固定其输入单独重放，再恢复相邻节点契约测试	原失败样本的复测证据	原样本恢复，正常样本没有回归

恢复动作不是简单重启。对于“Callback、Middleware 与运行时扩展”，第一步是：隔离失败 Runnable，固定其输入单独重放，再恢复相邻节点契约测试。完成后使用原始失败样本复测；只验证一个新样本成功，不能证明触发条件已经消失。

“Callback、Middleware 与运行时扩展”边界实验结束后，应把正常、临界、失败和恢复四类记录放在同一个运行批次中。这样才能区分“候选方案真的修复问题”和“环境变化让问题暂时没有出现”。

十、Callback、Middleware 与运行时扩展 的结果解释

解释“Callback、Middleware 与运行时扩展”实验时先看首个偏差，而不是最后一条错误。最后的异常通常只是上游状态错误的结果；从末端反推容易误把症状当根因。

观察结果	可以支持的判断	下一步
主链路没有达到预期	字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功	先执行：隔离失败 Runnable，固定其输入单独重放，再恢复相邻节点契约测试
异常链路无法恢复	字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功	先执行：隔离失败 Runnable，固定其输入单独重放，再恢复相邻节点契约测试
新样本成功但原样本仍失败	修复没有覆盖原始触发条件	固定原失败输入，恢复基线后重新比较
指标改善但证据无法回链	数据、版本或中间状态没有固定	暂停发布，补齐可追溯记录后重跑

“Callback、Middleware 与运行时扩展”只有同时满足“数据形状逐段匹配，错误停在首个失效边界，整链结果能由中间状态解释”，并且没有出现“字段到模型阶段才报错、Parser 吞掉原始输出、流式中断被当成完整成功”，才可以认为主链路通过。这里的“通过”只对当前固定版本、样本和环境有效，不能外推到尚未测试的容量、权限或数据分布。

如果“Callback、Middleware 与运行时扩展”候选方案与基线差异很小，先检查证据分辨率是否足够；如果差异很大，先排除数据泄漏、环境漂移和版本不一致。两种情况都不能只看一个汇总均值，需要回到逐样本输出和中间状态。

“Callback、Middleware 与运行时扩展”故障定位完成后，记录“现象、首个偏差、根因、改动、原样本复测”五项。缺少原样本复测时，只能标记为待观察，不能标记为已解决。

十一、Callback、Middleware 与运行时扩展 的发布判断

发布判断需要把“Callback、Middleware 与运行时扩展”的质量、失败边界和恢复能力放在同一份记录中。以下任一条件缺失，都应停止扩量，而不是用“基本正常”替代证据。

• “Callback、Middleware 与运行时扩展”的基线与候选只存在一个计划内变量。
• “Callback、Middleware 与运行时扩展”的输入、代码、依赖、配置和数据版本可以追溯。
• “Callback、Middleware 与运行时扩展”的正常、临界、失败和恢复样本使用同一套断言。
• “Callback、Middleware 与运行时扩展”的原始输出、中间状态和失败现场已经保留。
• “Callback、Middleware 与运行时扩展”的日志、Trace、截图和测试数据已经脱敏。
• “Callback、Middleware 与运行时扩展”的停止条件、负责人和回滚入口已经演练。
• “Callback、Middleware 与运行时扩展”尚未覆盖的输入、权限、容量和外部依赖已经登记。

最终记录至少包含基线版本、唯一变量、原始证据、首个偏差、恢复复测和发布责任人。没有参与本次修改的人如果不能据此重放“Callback、Middleware 与运行时扩展”的判断，就不能发布。

十二、总结

• 核心决策：Callback 适合观察生命周期事件，Middleware 适合在调用前后修改上下文或拦截执行。
• 落地步骤：定义统一事件 Schema。 -> 在模型、Retriever、Tool 三个边界注入追踪。 -> 用正常、超时、解析失败和回调故障四类用例验证。
• 生产避坑：同步上报 Trace 会放大尾延迟。
• 故障演练：注入与“同步上报 Trace 会放大尾延迟。 -> 注入与“重复注册 Callback 会产生重复 Span 和成本统计。 -> 注入与“把业务分支写进通用回调会导致链条不可理解。