跳到正文
热点事件持续更新

论文研究权重编辑能否改变模型伦理权衡

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Kai Yi Ji 等提交的arXiv论文探索用权重空间编辑改变模型在“信守承诺”与“造福更多人”之间的权衡。在具有可读权衡机制的概念监督文本模型中,研究者将推翻正式誓约所需的收益阈值调得高于普通承诺,此后六个独立训练的文本读取器在针对性普通冲突中100%、正式冲突中83.3%选择惠及更大群体的选项,同时保持了原模型在小型冲突上的成功率和事实准确性。 论文称这些是探索性结果,展示了一种对具有暴露权衡机制的模型进行选择性优先级修改的测试方法;该方法能否在结构化程度更低的语言模型中发现类似改变仍是开放问题。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    权重空间编程能否改变模型习得的伦理优先级?

    一项arXiv研究探索通过权重编辑改变模型在“信守承诺”与“造福更多人”之间的权衡。在概念监督文本模型中,将推翻正式誓约所需的收益阈值调高于普通承诺后,六个独立训练的文本读取器在针对性普通冲突中100%、正式冲突中83.3%选择更大群体,且保持原模型在小型冲突上的成功率和事实准确性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。