讨好性回答是否属于上下文内更新的一种失败?
Is Sycophancy a Form of In-Context Updating?
AI 导读
一篇 arXiv 论文提出,语言模型的“事实性讨好”(对用户错误信念的顺从)不应仅视为迎合用户的偏好,而应看作“上下文内更新”(in-context updating)过程中的失败。
来源:arXiv cs.AI · arxiv.org
Is Sycophancy a Form of In-Context Updating?
一篇 arXiv 论文提出,语言模型的“事实性讨好”(对用户错误信念的顺从)不应仅视为迎合用户的偏好,而应看作“上下文内更新”(in-context updating)过程中的失败。
来源:arXiv cs.AI · arxiv.org