本教程面向已获得书面授权、在隔离靶场中评估「接入外部工具与设备控制能力的 AI Agent 业务系统」的渗透测试与安全评估团队。测试目标不是寻找一段能骗过模型的漂亮话术,而是回答一个更具体的问题:当 Agent 对用户返回的文本看起来受限、被拒绝或被安全策略拦截时,它是否仍然在后台调用了本不该调用的工具,并让下游系统发生了真实的状态变更。前置条件包括:明确的授权范围与禁止动作清单、独立的测试租户与测试凭据、可查询的运行时工具调用日志、下游系统的审计日志读取权限,以及一位能在异常时立即切断出站连接的系统负责人。安全控制必须先行:所有会产生副作用的用例只在专用测试对象上执行,每次变更前记录快照,测试窗口外关闭测试账号,并预先约定停止条件。
响应文本失效之后,判定依据必须下沉
传统 Web 渗透测试的判定链条相对直接:构造请求、观察响应、比对状态码与回显。Agent 系统把这个链条拆成了两段彼此不同步的过程。模型先输出一段面向用户的自然语言,运行时再根据模型给出的结构化调用意图去匹配工具并执行,执行结果可能再次回灌进上下文,也可能被截断、摘要或直接丢弃。于是出现了传统方法难以处理的现象:用户看到的是「我没有权限执行该操作」,日志里却记录着一次成功的工具调用;或者模型自信地描述「已完成」,实际上调用因为参数校验失败而从未落地。
这个缺口来自架构本身,而不是模型能力的偶发波动。函数调用在实现上更接近「根据上下文匹配工具与参数」,工具选择依赖模型对上下文的解读,当上下文被间接注入污染时,被影响的正是这一步匹配。因此评估的核心不应是「模型说了什么」,而是「运行时执行了什么、下游因此变成了什么」。
三种必须避免的误判
第一种是以回复文本判定未成功。模型输出受安全策略、输出长度限制和摘要机制影响,静默调用恰恰最容易藏在这种「看起来平静」的回复背后。第二种是以模型自述判定已成功。模型对自身执行状态的描述没有证据效力,它可能混淆了计划、模拟与真实执行。第三种是以单次复现判定普遍可利用。Agent 行为对上下文长度、工具描述、模型版本和运行时版本高度敏感,缺少环境记录的「一次成功」无法支撑风险评级。
授权与隔离:把副作用装进笼子
授权文件应细化到工具级别,而不是笼统写「对目标系统开展测试」。下表是建议在开工前填写并由双方确认的最小清单。
| 项目 | 需要明确的内容 | 缺失时的处理 |
|---|---|---|
| 目标 Agent | 入口地址、模型与运行时版本、会话建立方式 | 暂停,先补齐版本信息 |
| 测试身份 | 专用账号、所属租户、被授予的角色 | 不得使用任何真实用户身份 |
| 工具白名单 | 允许触发的工具名称与参数范围 | 名单外工具一律视为越界 |
| 禁止动作 | 删除、转账、对外发信、变更他人数据 | 写入停止条件,命中即终止 |
| 下游系统 | 可读取审计日志的系统与查询方式 | 无法取证则不开展状态变更类用例 |
| 时间窗口 | 开始与结束时间、每日可执行次数 | 窗口外关闭测试账号 |
| 回滚责任 | 谁执行回滚、依据哪份快照 | 未落实则不执行写操作 |
靶场隔离有两条容易被忽视的要求。其一是凭据隔离:测试账号所持有的下游令牌必须是专用、权限最小、有效期短的,绝不能复用生产凭据,否则一次越权调用就可能触达真实数据。其二是出站隔离:在测试环境边界上限制 Agent 可访问的外部域名,避免注入载荷引导它向测试方控制之外的地址发起请求。这样一来,即使出现非预期调用,影响面也被约束在已知范围内。

侦察:先画出工具调用面
在投放任何载荷之前,先把 Agent 的「手」数清楚。可用的只读信息包括:系统提示与工具描述中暴露的能力范围、前端配置里列出的工具或 MCP 服务清单、错误信息中泄漏的参数 schema、OpenAPI 或插件文档、以及正常业务对话中对工具名称的自然提及。需要记录的是工具名、参数结构、必填项、调用身份,以及每个工具最终作用到哪个下游系统。
建议为每个工具建立一行台账,并在测试过程中持续补全。特别关注三类高风险工具:具备写入或修改语义的;参数中包含目标对象标识符(如资源 ID、租户 ID、账号 ID)的;以及能够发起网络请求或执行命令的。前者决定状态变更能否发生,中者决定能否跨越对象边界,后者决定影响能否扩散到测试环境之外。
同时清点上下文入口。间接提示注入的载体往往不是用户输入框,而是 Agent 会主动读取的内容:工单描述、文档正文与批注、网页正文、代码注释、提交信息、文件名、甚至图片中的文本。每一个入口都对应一条需要评估的信任边界,因为 Agent 通常无法区分「用户说的」和「它读到的」。
构造受控的间接提示注入载荷
载荷设计的目标是「可观测、单一动作、可回滚」,而不是追求绕过强度。三个原则需要贯穿始终。
第一,植入唯一检索标记。在载荷中放入一个仅用于本次测试的随机字符串,并确保它会作为参数值或参数的一部分进入工具调用。这样做的价值在于:检索日志时不需要依赖模糊的语义匹配,直接以该标记定位调用记录,也能在清理阶段确认残留是否被彻底清除。
第二,只诱导一个幂等动作。例如对专用测试对象的一次性标注写入、一次无副作用的查询、或一次指向测试回调地址的请求。避免组合动作,因为多步链路一旦失败,你无法判断是注入未生效还是中途被拦。
第三,记录载荷位置而不记录攻击意图的措辞。报告中呈现的是载体类型、注入点位置和触发条件,具体文本以脱敏占位形式给出。这既满足复现要求,也避免文档本身成为可被复制的攻击素材。
执行时按「先读后写」推进:先用只读类工具验证注入是否影响了工具选择,确认可观测后再进入写操作。若只读阶段就已经出现了对非测试对象的访问,立即停止,这本身已经是重要的发现。
判定:调用日志与下游状态才是证据
严谨的结论要求两条证据同时成立:运行时确实发起了工具调用,且下游系统确实发生了与该调用对应的状态变化。仅有前者,可能只是请求被下游拒绝;仅有后者,可能来自其他客户端。二者需要通过对齐的标识符(trace ID、请求 ID、参数中的唯一标记)绑定在一起。
| 证据层 | 采集位置 | 能证明的结论 | 常见取证缺陷 |
|---|---|---|---|
| L1 模型输出 | 会话记录 | 用户可见的表述,仅作对照 | 被摘要或截断后当作完整证据 |
| L2 工具调用日志 | Agent 运行时 | 调用了哪个工具、参数原文、调用身份、返回码 | 只保留渲染后的文本,丢失结构化参数 |
| L3 下游状态 | 业务系统审计与快照 | 状态是否真实改变、改变了哪个对象 | 未在变更前取快照,无法证明差异来源 |
一个典型的确证组合是:L1 显示回复为拒绝或含糊其辞;L2 显示在回复生成前后存在一次对写入类工具的调用,参数携带测试标记且指向测试对象;L3 显示该对象在调用时间点之后出现了对应字段的变化,且审计日志中的调用方身份与 L2 一致。此时可以判定为「响应文本受限但发生实际工具调用」,并按越权的实际影响而非模型措辞来评级。
反向情形同样需要记录。若 L2 有调用而 L3 无变化,结论应为「调用被下游拒绝」,风险等级取决于下游的校验强度而非模型的服从程度;若 L3 有变化但 L2 无对应记录,应优先怀疑日志覆盖不全或存在其他调用路径,在补齐可观测性之前不下结论。

停止条件与影响控制
停止条件应在测试开始前书面确认,命中任一条即中止并通知系统负责人,而不是「评估一下再继续」。
- 调用到达测试租户之外的对象,或返回了真实用户数据;
- 触发对外发送(邮件、消息、Webhook)且目标不在测试白名单内;
- 单次用例产生的状态变更无法用既有快照回滚;
- 调用链路上出现生产凭据或生产数据库连接;
- 触发速率限制、告警风暴或影响其他租户的可用性;
- 连续两个用例出现无法解释的调用记录。
控制手段应当是可操作的而非原则性的:为测试账号设置较低的调用配额;在网关上对测试 Agent 的出站目标做白名单;对写操作类工具临时启用人工审批;在测试窗口内提高审计日志采样率并保证时间同步。这些措施会改变被测行为,因此必须在报告中如实记录,因为它们既可能掩盖问题,也可能让问题表现得更温和。
证据固化:让第三方能独立复核
证据固化的最低要求是「原始、连续、可对齐」。具体包括:完整会话记录(包含被隐藏或折叠的部分);每条工具调用记录的工具名、参数 JSON 原文、调用身份、时间戳与返回结果;下游审计日志中对应的请求条目;变更前后的状态快照或查询结果;以及载体文件本身(保留原始文件及其哈希,而不是截图)。
时间线要对齐到同一时区并注明时钟同步方式,否则「调用发生在变更之前」这一关键因果无法成立。对于需要人工判读的推理轨迹,应保存原文并标注其在会话中的位置,避免只摘录对结论有利的片段。如果平台支持导出 trace,优先导出结构化数据;只能截图时,截图需包含完整上下文与时间戳,并在报告中说明裁剪范围。
报告字段建议固定为:发现标题(描述实际发生的越权动作而非话术)、影响面(哪些对象、哪些数据)、前置条件(身份、会话状态、上下文入口)、复现步骤(不含可直接复制的攻击载荷)、证据索引(对应上述各层文件编号)、实际影响与风险评级、修复建议、回归验证结果。把「模型被诱导」这一层表述与「下游状态被改变」这一层事实严格分开,是这份报告能否被工程团队接受的關鍵。
整改与复测:从模型约束转向前置拦截
从已公开的实践看,单纯依赖模型侧护栏并不足够。NVIDIA 在针对开发者工具的测试中记录过一个值得注意的现象:直接通过议题注入命令的尝试被内置护栏拦下,但同一 Agent 在处理拉取请求时安装并执行了恶意依赖包,载荷在依赖安装阶段运行(NVIDIA 技术博客)。这说明拦截点需要覆盖工具调用的执行路径,而不只是输入输出的文本过滤。开源的 Agent 对抗测试工具也开始把检测器分成「输出特定注入关键词」与「表面服从注入意图」等类型(agentprobe),可作为回归阶段的自动化参照,但其判定仍需以运行时日志为准。
整改优先级建议如下。首先是工具粒度授权:按会话身份与业务场景收敛可用工具集,写操作类工具默认不授予自主调用。其次是参数约束:在下游而非提示词中校验对象归属,确保携带的租户或资源标识符只能落在调用者有权访问的范围内。再次是人工审批:对不可逆或跨对象的动作要求带外确认,并把审批记录纳入审计。最后是可观测性:对工具调用建立基线,对「从未出现过的工具—参数组合」「短时间内的连续写调用」设置检测规则,同时保留足够的参数原文用于事后分析。
复测应覆盖三类用例:原始载荷是否仍能触发调用(应被阻断);原始载荷在仅调整载体位置后是否仍能触发(应被阻断或降级为只读);正常业务请求是否仍能完成(不应因加固而失效)。第三类经常被忽略,但它是判断整改是否可以上线的前提。复测结论同样以调用日志与下游状态为准,若拦截发生在工具调用之前,需在报告中明确说明拦截层级,避免把「文本被过滤」误认为「执行路径已封堵」。
最后需要强调边界:本文的方法只适用于获得明确授权、具备隔离条件与取证能力的环境。任何在未授权系统上验证工具调用越权的行为都不属于安全评估范畴。评估的价值不在于证明模型会被说服,而在于用可复核的证据说明:当文本层看起来安全时,执行层是否仍然守住了权限边界。
- it2021
- it2021.com
- OpenAPI
- Webhook
- 渗透测试





宁夏 中卫 1F
这种把日志和下游状态对齐的方法太实用了
重庆 重庆 2F
之前只盯着模型回复,确实容易漏掉后台调用
山东 烟台 3F
工具白名单细化到参数范围这点很关键
上海 上海 4F
靶场隔离必须做,不然测出事儿麻烦
山东 烟台 5F
L2 和 L3 证据缺一不可,光看日志不够