跳到正文
热点事件持续更新

guardscope:度量 LLM 智能体运行时控制的动作覆盖

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Kentaroh Toyoda 等研究者在 arXiv 发布 guardscope 框架,使企业运行时控制(如 agent gateway)对 LLM 智能体工具调用行为的检查覆盖情况可以被度量。 该框架分两个阶段:静态阶段预测一个控制可从源头检查智能体 15 条行动路径中的哪些;实证阶段在实现 8 种拓扑设计的部署上运行固定工作负载,结合内核级真值把每个行为分类为已检查、绕过或被阻止。研究者用两种智能体 harness 和真实运行时控制(包括微软的 agent governance toolkit 和 agentgateway)进行了实验。

AI 根据报道生成 · 36 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    guardscope:测量 LLM 智能体系统中运行时控制实际检查了哪些行为

    研究者发布 guardscope 框架,让企业运行时控制(如 agent gateway)对 LLM 智能体工具调用行为的检查覆盖率可被验证。该框架分两阶段:静态阶段预测控制可从源头检查 15 条行动路径中的哪些,实证阶段在 8 种拓扑设计的部署上运行固定工作负载,结合内核级真值将每个行为分类为已检查、绕过或被阻止。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。