跳到正文
热点事件持续更新

论文提出社会化对齐模型:权衡社会规范与任务完成

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Thomas Brennan、Andrew W. Lo 与 Chaoyi Zhao 在 arXiv 发布论文《Alignment by Socialization: Learning Tradeoffs Under Selection》(arXiv:2611.18531),通过进化选择模型研究 AI 智能体如何在社会规范与任务完成之间做权衡。论文称,当环境奖励由人类提供时,学习型策略收敛到的权衡称为“社会化”。 论文比较了三种策略:只重任务的策略在仅奖励完成度的环境中繁荣,但在行为规范重要时失败;固定线性策略随任务利害上升偏向完成任务;学习型策略则收敛到环境奖励的权衡。作者用小型神经网络的实验说明训练目标与记忆如何影响这些结果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    通过社会化实现对齐:选择压力下的权衡学习(arXiv 论文)

    一篇 arXiv 论文通过进化选择模型研究 AI 智能体如何在社会规范与任务完成之间做权衡。论文比较三种策略:只重任务的策略在仅奖励完成度的环境中繁荣,但在行为规范重要时失败;固定线性策略随任务利害上升偏向完成任务;学习型策略则收敛到环境奖励的权衡,当奖励由人类提供时称为“社会化”。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月16日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。