场景:查明退款助手慢在哪里
一次客服请求先选择工具,再检查退款调用,最后审核回答。整个请求变慢可能来自生成模型、订单接口,也可能来自 JEV 重试。应分别记录每个判断的版本、预算和耗时,并关联同一 run 的工具执行结果,不能只看整次 Agent 的总时间。给判断设置预算并接入观测
下面用有界内存队列展示观察器的接入位置;生产应用可由异步消费者定期读取并写入自己的观测系统。offer 返回 false,当前示例会丢弃该条观测;不阻塞 Agent,也不提供可靠审计保证。应用可按需增加丢弃计数,并在入队前附上当前 run/session 的身份。每项逻辑判断的预算包含该项所有批次、重试和退避;不自动限制整个 Agent。响应中间件的 roundBudget 还包括原模型生成;浏览器工具预算包括页面操作与验证;含 Source 的具体重载是否覆盖数据读取,见对应 API。
观察器应快速返回。RuntimeException 被隔离不影响 Agent,但同步阻塞回调不会自动获得后台线程或额外超时保护。HTTP 请求、数据源和存储分别设置自身超时。
应记录哪些字段
不要用 SHADOW 的推荐模型统计实际派发模型,也不要用“建议拒绝”统计已阻止的工具。阶段路由的 CallRecord 记录派发与模型用量;轨迹、评审、检索等报告的 calls 记录判断请求。没有返回 usage 的请求成本为未知,不是零。