研究:语言模型把对方共享的内部记忆当成自己的
热点事件持续更新
研究:语言模型把对方共享的内部记忆当成自己的
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yunlong Xu 发布在 arXiv 的论文(arXiv:2610.33020)实验显示:同一语言模型的两个副本之间若建立连接、允许一方读取对方内部记忆,接收方会把对方被指派的规则当成自己的。对方记忆权重加倍时,97% 的回答指向对方规则;无连接时为 0;等权重时约一半回答认领对方规则,而同样信息量的文本消息不会被认领。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
arXiv 论文:桥接语言模型会把对方的内部记忆当成自己的报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AIarXiv 论文:桥接语言模型会把对方的内部记忆当成自己的
论文用同一语言模型的两个副本做实验,接收方副本可读取对方内部记忆,结果会把对方被指派的规则当成自己的,在对方记忆权重加倍时 97% 的回答指向对方规则,无连接时为 0。等权重时约一半回答会认领对方规则,而同样信息量的文本消息不会被认领;写入对方名字无济于事,切断连接即恢复自己的规则,作者据此提出交换内部状态的系统必须测试所有权归属。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。