导语
Agent 返回了错误答案,HTTP 状态却是成功,延迟和资源占用也没有异常。传统 APM 能证明服务活着,却解释不了模型为什么选错工具、在哪一步偏离目标,以及重试是否放大了成本。
核心事件
OpenTelemetry 已把生成式 AI 语义约定迁入独立仓库,并持续定义 Agent 创建、调用、工作流、规划和工具执行等 span;配套 metric 覆盖 token 用量、操作耗时、首块延迟、工作流时长与工具耗时。信号标准化意味着团队不必把诊断能力绑定在单一框架上,但这些约定仍处于 Development 状态,生产架构必须保留版本适配层。
技术解析
完整的 Agent 可观测性应分成 trace、metric、evaluation 三层,而不是把提示词和响应全部塞进日志。

Trace 层回答“发生了什么”。 一个用户请求对应根 trace,规划、模型调用、检索与工具执行各自形成子 span,并携带 agent、workflow、tool、model、错误类型和版本等低歧义属性。输入输出正文属于敏感且高体量数据,应默认关闭或脱敏采样;稳定标识和状态码才是常驻字段。
Metric 层回答“是否正在恶化”。 从 span 聚合延迟分位数、失败率、token 用量、工具重试、循环步数和任务时长。不要把会话 ID、完整提示词或工具参数放入 metric label,否则时序库会被高基数拖垮。线上告警应聚焦可行动信号,例如同一工具的失败率上升,或一次任务的步骤数持续偏离基线。
Evaluation 层回答“结果是否正确”。 任务成功、轨迹冗余、工具选择合理性和安全规则命中,不能只靠基础设施指标推断。评估结果应通过 trace ID 回挂到原轨迹,使工程师能从异常分数下钻到具体步骤。AgentOps 与轨迹级研究共同说明,最终答案之外的过程信号才是定位非确定性故障的关键。

关键点
- 统一关联键:trace ID 贯通网关、Agent、模型代理、工具与评估服务,避免故障证据散落在多个后台。
- 控制属性基数:model、tool、operation、status 可作维度;用户输入、会话 ID 与参数正文只进入受控 trace 存储。
- 记录决策边界:规划结果、工具选择、重试原因与人工接管点要形成独立 span,不能只记录外部 API 请求。
- 分离采样策略:正常轨迹低比例保留;错误、超时、安全命中和低评估分轨迹提高保留率。
- 告警绑定处置:每条告警都应指向可重放轨迹、版本信息和责任组件,而不是只报“质量下降”。
行业影响
可观测平台正在从“展示模型调用”转向跨框架的 Agent 运行证据层。对企业而言,真正可迁移的资产不是某个仪表盘,而是稳定的语义字段、脱敏策略、轨迹数据和与业务目标绑定的评估规则。
结语
先用 trace 还原路径,再用 metric 发现趋势,最后用 evaluation 判断行为质量,三层缺一不可。最务实的落地方式是从一个关键工作流开始:统一关联键、限定字段、建立一条可行动告警,再逐步扩大采样和评估范围。
参考资料
官方文档
开源项目
- Langfuse 仓库元数据 API [200]
- OpenLIT 仓库元数据 API [200]
行业报道
社区讨论
对比基准
本文由 AI 生成。内容基于公开资料整理,可能存在事实偏差,引用链接请以原始来源为准。
