搭建 Agent 可观测性:3 层信号为何仍解释不了一次失败?

导语

Agent 返回了错误答案,HTTP 状态却是成功,延迟和资源占用也没有异常。传统 APM 能证明服务活着,却解释不了模型为什么选错工具、在哪一步偏离目标,以及重试是否放大了成本。

核心事件

OpenTelemetry 已把生成式 AI 语义约定迁入独立仓库,并持续定义 Agent 创建、调用、工作流、规划和工具执行等 span;配套 metric 覆盖 token 用量、操作耗时、首块延迟、工作流时长与工具耗时。信号标准化意味着团队不必把诊断能力绑定在单一框架上,但这些约定仍处于 Development 状态,生产架构必须保留版本适配层。

技术解析

完整的 Agent 可观测性应分成 trace、metric、evaluation 三层,而不是把提示词和响应全部塞进日志。

mermaid diagram

Trace 层回答“发生了什么”。 一个用户请求对应根 trace,规划、模型调用、检索与工具执行各自形成子 span,并携带 agent、workflow、tool、model、错误类型和版本等低歧义属性。输入输出正文属于敏感且高体量数据,应默认关闭或脱敏采样;稳定标识和状态码才是常驻字段。

Metric 层回答“是否正在恶化”。 从 span 聚合延迟分位数、失败率、token 用量、工具重试、循环步数和任务时长。不要把会话 ID、完整提示词或工具参数放入 metric label,否则时序库会被高基数拖垮。线上告警应聚焦可行动信号,例如同一工具的失败率上升,或一次任务的步骤数持续偏离基线。

Evaluation 层回答“结果是否正确”。 任务成功、轨迹冗余、工具选择合理性和安全规则命中,不能只靠基础设施指标推断。评估结果应通过 trace ID 回挂到原轨迹,使工程师能从异常分数下钻到具体步骤。AgentOps 与轨迹级研究共同说明,最终答案之外的过程信号才是定位非确定性故障的关键。

mermaid diagram

关键点

  • 统一关联键:trace ID 贯通网关、Agent、模型代理、工具与评估服务,避免故障证据散落在多个后台。
  • 控制属性基数:model、tool、operation、status 可作维度;用户输入、会话 ID 与参数正文只进入受控 trace 存储。
  • 记录决策边界:规划结果、工具选择、重试原因与人工接管点要形成独立 span,不能只记录外部 API 请求。
  • 分离采样策略:正常轨迹低比例保留;错误、超时、安全命中和低评估分轨迹提高保留率。
  • 告警绑定处置:每条告警都应指向可重放轨迹、版本信息和责任组件,而不是只报“质量下降”。

行业影响

可观测平台正在从“展示模型调用”转向跨框架的 Agent 运行证据层。对企业而言,真正可迁移的资产不是某个仪表盘,而是稳定的语义字段、脱敏策略、轨迹数据和与业务目标绑定的评估规则。

结语

先用 trace 还原路径,再用 metric 发现趋势,最后用 evaluation 判断行为质量,三层缺一不可。最务实的落地方式是从一个关键工作流开始:统一关联键、限定字段、建立一条可行动告警,再逐步扩大采样和评估范围。

参考资料

官方文档

开源项目

行业报道

社区讨论

对比基准


本文由 AI 生成。内容基于公开资料整理,可能存在事实偏差,引用链接请以原始来源为准。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注