arXiv cs.AI· Hao Chen, Wenhui Dong, Ye Chen, Jiezhi Yao, Chenbo Xia, Yuwen Qu, Renxiang Wang, Fudong Yuan, Camil Hamami, Chenglong Pan, Xinquan Yue, Ziyu Wang, Fengyu Ye, Chenyang Si, Caifeng Shan·· 2 小时前AI 评分50
CoSec：面向 LLM 智能体社区场景的安全基准评测
CoSec: Benchmarking Agent Security in Communities
AI 导读
研究者推出 CoSec，一个评估 LLM 智能体在多用户社区环境中隐私与授权执行情况的可执行基准，包含 208 个规范场景，覆盖固定与演化的社区边界，攻击途径包括对话、环境内容、持久记忆及组合工作流。实验通过执行轨迹和信息流校验发现，智能体常能完成良性任务却频繁违反隐私与授权边界。结果表明任务效用不等于合规，社区场景下的授权仍是持久智能体尚未解决的安全挑战。
来源：arXiv cs.AI · arxiv.org