提出Janus前瞻式Agent安全框架

Janus论文作者在arXiv提出面向长程智能体安全的前瞻性框架Janus，通过多智能体模拟合成轨迹，联合训练“预测安全未来”与“安全裁决”两项任务，并用CoA-RL按预测对下游安全判断的效用来给予奖励。框架训练出的守护模型Vanguard可在动作执行前拦截不安全行为。 论文称，在四个智能体安全基准上，Vanguard的平均防护较基线守护模型提升15.9个百分点，良性任务完成率提高5.1个百分点。这些数字来自论文自述，属作者报告的结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。