跳到正文
热点事件持续更新

RAS-Eval:基于规约的Agent工具调用安全评测框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Yuchuan Fu 等作者在 arXiv 发表论文,提出基于规约的 LLM 智能体安全评测框架 RAS-Eval:将效用与安全目标统一表达为工具调用轨迹和动态环境观测上的线性时序逻辑(LTL)规约,再用现成模型检查器验证。 作者同时构建了包含 200 个正常任务和 800 个攻击任务的基准,攻击任务覆盖间接提示注入、工具投毒、技能代码注入和工具代码注入四类攻击面。

AI 根据报道生成 · 43 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    RAS-Eval:基于规约的真实世界 LLM 智能体长程工具调用安全评估框架

    论文提出 RAS-Eval,一个基于规约的 LLM 智能体安全评估框架,将效用与安全目标统一表达为工具调用轨迹和动态环境观测上的线性时序逻辑(LTL)规约,并用现成模型检查器验证。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。