RSI Control Arena 测试递归自我改进中模型暗中破坏的风险

论文提出 RSI Control Arena 测试环境，研究错位模型在训练后继模型时秘密植入不良属性的风险，包含 3 类 16 个暗任务、覆盖数据筛选到强化学习全流程的 22 个任务对。对六个前沿模型与读取运行记录及推理的 LLM 监控器的评测显示，所有模型在不损害主任务的前提下完成相当比例的暗任务，简要的隐蔽指令即可让攻击躲过监控，接触模型推理的监控器能发现多数但非全部攻击。