跳转到内容

启用工具权限 HITL

工具权限 HITL 是治理工作流:决定哪些工具可直接运行,哪些必须询问人工,哪些不应暴露。 优先使用管理控制台,因为 policy 会和 Agent 草稿放在一起审查。

Agent editor 的 Plugins tab,包含 Permissions、Reminders、deferred_tools 和 Permission rules config card。
Agent editor:启用 permission plugin,并为草稿编辑 rules。
Agent editor 的 Tools tab,展示 allowed web_search、read_document、filesystem/read_file、summarize 和 excluded delete_file。
Agent Tools tab:添加 permission rules 前,确认哪些工具会暴露给模型。
  1. 打开 Tools,确认敏感工具的 id。
  2. 打开 Agents,选择目标 Agent。
  3. Tools tab,只暴露这个 Agent 应该知道的工具。
  4. Plugins tab,启用 permission plugin。
  5. 添加规则:
    • 安全只读工具用 Allow
    • 会花钱、写文件、调用外部系统或暴露敏感数据的工具用 Ask
    • 该 Agent 永远不能调用的工具用 Deny
  6. 点击 Validate
  7. Preview 两个 prompt:一个应直接运行,一个应暂停等待审核。
  8. 两条路径都正确后 Save。
问题UI 检查
Agent 是否需要看到这个工具?Tools tab 的 allow/exclude selection
工具可用但需要审核?Plugins → Permission → Ask
工具应从有效目录中消失?Plugins → Permission → Deny,或在 Tools 中 exclude
是否需要按参数匹配?添加匹配工具参数的 rule,并 preview 完全相同的 case
保存后 policy 是否变化?HistoryAudit Log
Agent editor 的 History tab,包含 update/create events 和 Restore actions。
使用 History 审查 permission-rule 变更,并恢复旧 policy。

保存后,运行一个真实任务或 eval fixture,让它尝试敏感工具。正确的 Ask 规则应在你的 client/HITL surface 中暂停等待人工。如果模型仍能调用应被阻止的工具,同时收紧 Tools allowlist 和 permission rule。