启用工具权限 HITL
工具权限 HITL 是治理工作流:决定哪些工具可直接运行,哪些必须询问人工,哪些不应暴露。 优先使用管理控制台,因为 policy 会和 Agent 草稿放在一起审查。
你要点击什么
Section titled “你要点击什么”- 打开 Tools,确认敏感工具的 id。
- 打开 Agents,选择目标 Agent。
- 在 Tools tab,只暴露这个 Agent 应该知道的工具。
- 在 Plugins tab,启用 permission plugin。
- 添加规则:
- 安全只读工具用 Allow。
- 会花钱、写文件、调用外部系统或暴露敏感数据的工具用 Ask。
- 该 Agent 永远不能调用的工具用 Deny。
- 点击 Validate。
- Preview 两个 prompt:一个应直接运行,一个应暂停等待审核。
- 两条路径都正确后 Save。
| 问题 | UI 检查 |
|---|---|
| Agent 是否需要看到这个工具? | Tools tab 的 allow/exclude selection |
| 工具可用但需要审核? | Plugins → Permission → Ask |
| 工具应从有效目录中消失? | Plugins → Permission → Deny,或在 Tools 中 exclude |
| 是否需要按参数匹配? | 添加匹配工具参数的 rule,并 preview 完全相同的 case |
| 保存后 policy 是否变化? | History 和 Audit Log |
保存后,运行一个真实任务或 eval fixture,让它尝试敏感工具。正确的 Ask 规则应在你的 client/HITL surface 中暂停等待人工。如果模型仍能调用应被阻止的工具,同时收紧 Tools allowlist 和 permission rule。