AI代理安全测试审批门如何设计?

2 人参与

审批门最容易失效的地方,不是没做,而是被做成了一个点“确认”就放行的弹窗。安全测试里的 AI 代理会在一次任务中连续发起多次工具调用,如果每一次调用都没有携带完整上下文——调用了哪个工具、打向哪个目标、参数是什么、对应哪张授权单——那审批者在弹窗里看到的就只是“是否允许”,而无法判断“该不该允许”。

设计审批门的第一步,是把审批对象从“操作”细化到“调用”。一个可用的审批界面至少要让审批者看到工具名、目标地址、关键参数、预期影响和授权引用。目标是授权清单里的地址,还是清单外的第三方,应当在审批前就能分辨出来。做不到这一点,审批门只是把自动化执行换成了机械点击。

第二步是分级,而不是一刀切。只读探测、信息收集这类低风险工具可以进入首轮验证,用来跑通“授权—调用—审批—证据—复核”整条链路;C2 监听、WebShell 管理、凭据抓取、持久化写入这些动作默认应当关闭,需要使用时单独提出来,按工具和目标做窄授权并设置过期时间。这样做的逻辑是:审批门保护的是高风险动作,不是给所有调用都加一道无差别的阻力。如果所有工具都要人工确认,团队很快会因为疲劳而选择全局关闭审批。

第三步,权限要分离。操作者发起调用,审批者判定是否放行,审计者在事后核对记录,三者最好由不同角色承担。团队小的时候至少要做到审批记录独立留存,不能由执行者在任务结束后补一句“已同意”。审批记录里要能看出谁在什么时间批准了哪个工具打向哪个目标,事后补录和事前审批在工单时间戳上应当是能区分的。

还有一个常被忽略的设计点:被拦住之后怎么办。审批门拦截了一次调用,正确的处置是缩小授权范围、记录原因、等待审批者上线,而不是为了跑通流程临时把审批全局关掉。把“绕过审批”当成故障排除手段,等于亲手拆掉了这道门。工具调用被拦下不是系统故障,绕过审批才是。

最后,审批门要和证据体系咬合。一次经过审批的调用,应当留下任务卡、审批记录、原始输出和网络流量日志,让另一个人不用询问执行者就能判断这次调用是否在授权范围内。把审批当成流程节点而不是证据节点,门就只是走了一个形式;把审批记录纳入证据目录,它才真正具备可复核性。

参与讨论

2 条评论
  • JungleDrifter

    审批弹窗只写“是否允许”确实等于没审

  • 晨曦之歌

    把审批对象细化到调用这一步很关键