研究:VLA模型识别危险后仍倾向执行任务
热点事件持续更新
研究:VLA模型识别危险后仍倾向执行任务
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Vy Vo 与 Dinh Phung 在 arXiv 发布论文,在三个视觉-语言-动作模型和两个视频基准上,考察模型面对可见危险和有害后果时是否像人类一样产生防御性反应,方法是分析模型的内部表征和动作倾向。 研究称,即使模型内部已识别到危险,任务执行仍可能是默认响应。该论文发表于 CoRL 2026 的物理 AI 安全科学研讨会。
AI 根据报道生成 · 58 分钟前更新
最新进展10月27日 12:00
超越行为:视觉-语言-动作模型安全评估的刺激-反应研究报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI超越行为:视觉-语言-动作模型安全评估的刺激-反应研究
一项 arXiv 研究在三个模型和两个视频 benchmark 上考察视觉-语言-动作模型是否像人类一样对安全关键刺激产生防御性反应。研究发现,即使模型内部已识别到危险,任务执行仍可能是默认响应。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。