跳转到内容

启用可观测性

可观测性分两部分:server wiring 和 operator review。本指南聚焦 server 暴露 runtime stats、trace、audit、eval stores 后,operator 在 UI 中应该看到什么、点击什么。

Dashboard,展示 workload、health、recent activity 和 system metadata。
Dashboard:确认可选 observability subsystems 已接入。
Agents list,展示 model/plugin metadata 和 runtime inference statistics。
Agents list:先看 runtime stats,再进入单个 Agent。
  1. 打开 Dashboard
  2. HealthSystem 中检查 audit log、runtime stats、trace、eval 是否可用。
  3. 打开 Agents,查看 inference count、latency 和 error signals。
  4. 打开已保存 Agent;trace routes 启用后,使用 Recent runs
  5. 把重要 trace 保存为 dataset fixture。
  6. 运行 eval,在接受行为变更前查看 report。
界面用途
DashboardHealth、workload、recent audit activity 和 subsystem availability。
Agents list接入 stats 后展示每个 Agent 的 inference count、errors、latency。
Recent runs / traces单次 run 的 tool calls、model output、prompt variants 和 final status。
Datasets把 trace 整理成可重复 fixtures。
Eval RunsLive 或 scripted replay 结果。
Eval Reports离线 NDJSON report review 和 baseline comparison。
Datasets 界面,包含 dataset list 和 fixture counts。
Datasets:把 trace 归组成可回放 fixtures。
Eval run 详情页,展示 pass/fail fixture output。
Eval run detail:查看每个 fixture 的 pass/fail output。

当 dashboard 或 trace 观察引出了调优动作,就用 eval 验证。循环是:observe → tune 一个字段 → validate → preview → save → rerun 同一个 fixture。

如果界面提示某个 subsystem unavailable,说明 UI 正常:server 还没有暴露对应 store 或 route。

UI 中缺失Server 侧检查
History 空或 Audit Log disabledAudit log store/wiring
Agent stats 显示 n/aRuntime stats registry/store
没有 recent runs 或 trace drawerTrace capture/store routes
Dataset/eval 页面 disabledEval dataset 和 run stores
没有外部 telemetry spansOTel exporter 和 collector configuration

构建自定义 observability backend 时,把上面的 UI 流程和提供数据的代码面对应起来:

  • MetricsSink 接收 runtime metrics;一个 run 需要写入多个目的地时使用 CompositeSinkBatchingSink
  • TraceStore 支撑 recent runs、trace drawer 和 dataset fixture curation。
  • RuntimeStatsRegistry 提供每个 Agent 的 counts、latency 和 error signals。
  • SamplingPolicy 控制哪些 spans 会进入持久化存储。

代码参考:crates/awaken-ext-observability/src/sink.rscrates/awaken-ext-observability/src/trace_store/crates/awaken-ext-observability/tests/observability_integration.rscrates/awaken-ext-observability/tests/wiring_integration.rs