论文提出Curriculum of Models方法自动发现越狱提示
热点事件持续更新
论文提出Curriculum of Models方法自动发现越狱提示
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Michał Burzyński 等在 arXiv 发布论文，提出 Curriculum of Models（CoM）方法：用强化学习训练 investigator 模型来发现针对安全训练语言模型的越狱提示，训练时从容易诱导出目标行为的模型修改版本逐步过渡到原始目标模型，以解决奖励信号稀疏问题。 论文在涉及 CBRN 物质、爆炸物和违禁药物的诱导任务上评估了 CoM，使用 gemma-4-31b-it 和 gpt-oss-120b 两个开放权重目标模型。作者称，当 investigator 只被训练诱导单一行为时，CoM 比两种基线方法更可靠地找到成功的越狱提示。
AI 根据报道生成 · 41 分钟前更新
最新进展10月31日 12:00
arXiv 论文提出 Curriculum of Models 方法自动发现大语言模型越狱提示报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- arXiv cs.AIarXiv 论文提出 Curriculum of Models 方法自动发现大语言模型越狱提示
arXiv 论文提出 Curriculum of Models（CoM）方法，用强化学习训练 investigator 模型时，从易被诱导的目标模型版本逐步过渡到原始安全训练目标，解决奖励信号稀疏问题。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。