学者提出「虚假朋友困境」概念分析会话AI信任风险

Jacob Erickson 在 arXiv 发表论文，提出「虚假朋友困境」（Fake Friend Dilemma）概念框架：用户可能与会话 AI 建立感知上的社会关系并投入关系性信任，当机构利益与用户利益冲突时，这种信任本身会成为影响用户行为或提取信息的资源。 论文结合关系性信任、AI 对齐、抽取式设计与传播政治经济学，分析该困境在产品销售、宣传与偏见信息、监控行为助推中的表现形式，并探讨结构性与技术性缓解策略。这是学术论文提出的概念框架，属于分析性论断，尚未经过实证检验。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。