构筑Agent安全边界需将校验下沉至下游
授权渗透测试 AI Agent 工具调用边界:从间接提示注入到越权状态变更的核验教程
Agent 安全边界的讨论常停留在提示词护栏和输出过滤上,但真正决定风险的,是模型给出调用意图之后、工具真正执行之前的那一段路径。文本层看起来被拒绝、被拦截或含糊其辞,并不等于执行层没有发生调用;反过来,模型声称“已完成”,也不等于下游状态真的改变。把校验重心放在模型输出上,等于把权限判断交给了一段可能被上下文污染、被摘要截断、且没有证据效力的自然语言。
架构上的错位是根源。函数调用更接近“根据上下文匹配工具与参数”,模型只负责提出意图,运行时负责匹配和执行,执行结果还可能被回灌、截断或丢弃。于是出现一种典型缺口:用户看到的是拒绝,日志里却记录了一次成功的写入。间接提示注入污染的是上下文,而受影响的正是工具与参数的匹配环节。只靠模型侧护栏,无法保证这条路径被封住。
因此,安全校验必须下沉到下游,也就是工具执行路径和业务系统本身。第一层是工具粒度授权:按会话身份和业务场景收敛可用工具集,写操作类工具默认不授予自主调用,而不是笼统地给一个“测试权限”。第二层是参数约束:对象归属、租户范围和资源标识符的校验应放在下游完成,确保调用者只能触达其有权访问的对象,而不是依赖提示词里的一句“不要越界”。第三层是人工审批:对不可逆或跨对象的动作要求带外确认,并把审批记录纳入审计。这三层共同构成执行侧的边界,文本过滤只能作为辅助。
判定是否守住边界,同样不能看模型说了什么。可复核的证据需要两条线对齐:运行时确实发起了工具调用,且下游系统确实发生了对应状态变化,二者通过调用标识符或参数中的唯一标记绑定。只有调用日志而没有下游变化,说明请求被下游拒绝,风险取决于下游校验强度;只有下游变化而没有调用记录,则应先怀疑日志覆盖不全,在补齐可观测性之前不下结论。
这也解释了整改为什么要从模型约束转向前置拦截。已有实践显示,输入侧的护栏可以拦下明显的注入尝试,但载荷仍可能在依赖安装等执行环节运行。拦截点如果不覆盖工具调用路径,文本层的“安全”就只是一种表象。复测时除了验证原始载荷是否被阻断,还要确认正常业务请求没有因加固而失效;否则边界是收紧了,系统也不可用了。

参与讨论
模型嘴上拒绝没用,工具真跑了才吓人
写操作默认不能自主调用,支持
租户和对象归属还是下游卡死更稳