SPILLWAY 防提示注入方法发布

KAIST 等机构的 Woosang Lim 等人提交论文，提出 SPILLWAY 防御框架，为工具型智能体抵御提示注入提供无需逐任务计划的确定性防线。该方法将目标准入与净化分离：当工具调用中来自工具输出而非用户任务的每个目标值，均由只读工具在类型化字段中返回或被固定委托规则覆盖时，调用才被放行。 净化方面，一个确定性净化器在模型读取前按固定规则移除指令样文本，并将被移除内容保留为证据；一个本地评判器可以恢复被拒绝的调用，但目标位于被移除文本中的调用不可恢复。论文称 SPILLWAY 构成一个确定性底线。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。