arXiv 论文提出 disparity laundering：临床多智能体系统会放大而非消除人口偏差
Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems
AI 导读
arXiv 论文（arXiv:2610.38215）提出 disparity laundering 概念，指出临床多智能体系统不会过滤人口统计偏差，反而会将其漂洗成无法被单版本审计发现的分诊决策。
推荐理由
论文用 120 例 MIMIC-IV 案例证明多智能体会把人口偏差漂洗进临床分诊决策，并给出可降低 67 至 94% 差距的多样化集成方案。
正文 · AI 翻译
摘要：临床大语言模型越来越多地以多智能体团队的形式部署，其假设是商议过程能平均掉个体的错误。但它并不能平均掉偏见。在 120 个真实的 MIMIC-IV 急诊病例上，对五个模型家族和四种聚合拓扑进行全因子实验，并在反事实人口属性替换下，没有任何配置能消除这种差异：全部 20 个组合都会沿用其智能体独立答案的方向，给予 Black 患者更紧急的分诊。每个模型都有一种会放大其基线差距的拓扑，但具体是哪一种因模型而异，因此没有任何设计能可靠地安全或可靠地放大：差异只是被转移，从未被消除。后期补救措施无效：公平性指令和人口属性遮蔽对差距毫无影响，而各智能体的自我去偏反而会扩大差距，因为偏见早已编码在智能体的常规临床数值中。我们将此称为“差异漂白”（disparity laundering）；目前针对临床 AI 的审计——按模型、按输出、按版本——只能认证各个部件，却永远无法认证最终提交的决策。只有当干预措施让反事实版本在系统内部可见，并通过商议将它们汇聚到最终提交的决策中时，才能缩小差距。一个多元视角的集成方法在保留团队的同时做到了这两点，且无需重新训练或更改架构：当全部五种视角在每一轮都进行汇聚时，差距下降 67% 到 94%；而唯一一种从不进行汇聚的拓扑，正是它无法可靠修复的那一种。医疗多智能体系统不会过滤人口属性偏见；它们会把偏见漂白成任何单版本审计都无法察觉的看似合理的决策，唯一的防御手段就是让偏见变得可见。
| 评论： | 21 页，8 幅图。代码：this https URL。已提交至 EACL 2027 |
| 学科： | 人工智能 (cs.AI); 多智能体系统 (cs.MA) |
| 引用方式： | arXiv:2610.38215 [cs.AI] |
| （本版本请引用 arXiv:2610.38215v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.38215 通过 DataCite 获取 arXiv 签发的 DOI |
提交历史
来自：Xiaoyang Wang [查看邮件]
[v1]
2026 年 10 月 28 日 星期三 03:10:28 UTC（263 KB）
来源：arXiv cs.AI · arxiv.org