多智能体系统中歧视与极化的涌现

🧒 初中生也能看懂的版本

① 研究背景（为什么要做？）

想象一个几百人的大群，每个人都在回答同一批是非题：“这事你赞成吗？”每人有一本小本子，记着自己对各类问题的打分习惯；还有一本“信任账本”，记着群里其他人说话靠不靠谱。这样的群聊往往过一阵子就分成两拨：一拨互相点赞，另一拨说什么他们都觉得是错的。

更麻烦的是，分拨的理由有时跟问题毫无关系：仅因对方被随机贴上 A 或 B 标签，人们就更愿相信“自己人”。这叫“最小群体效应”——哪怕分组靠抛硬币，人也会立刻偏袒本组。群体歧视往往就这么长出来。

过去研究这类现象有两套办法。一套是社会学和传播学的模拟：给每个人定一条“跟着别人学”的规则，看人群会不会分裂。另一套是物理学家的统计力学：把人当成只能朝上或朝下的磁针，用磁铁互相吸引、互相排斥来算人群的“相变”。两套办法都有软肋——都是先假定人们怎么学，再去算结果，而那条规则并不是从“怎样学才最合理”推出来的。

这篇论文往前一步：先问一个人根据别人的话更新看法，怎样才算数学上最优；再看一整群人都用这条最优规则时会怎样。作者还用大语言模型检验规则像不像真实学习，并给一部分人塞进“看标签下菜碟”的小偏见，看群体会不会从“吵得凶”升级成“按标签歧视”。

② 研究问题（要回答什么？）

这项研究要回答四个层层递进的问题。

第一，没有任何人带偏见时，一群会学习的人会不会自己极化？换句话说，分裂是不是必须有人使坏才会发生，还是它本来就是“互相学习”这件事自带的副作用。

第二，如果给一部分人装上一个跟议题完全无关的群体偏见，群体会变成什么样？作者设了两个旋钮：偏见的强度（偏多少）和偏见的普及率（多少人有）。他们要把这两个旋钮的所有组合画成一张“状态地图”。

第三，怎么用几个数字把“极化”和“歧视”分开？吵成两派不等于歧视；歧视的关键是“信任跟着标签走”。作者要找的是从群体外部就能观测到的指标。

第四，真实的大语言模型是不是也按这条规则学习？如果是，这套理论就不只是数学玩具，而能直接用来讨论 AI 智能体群体。

③ 研究方法（怎么做的？）

每个智能体有两层：一层“打分器”，一层“信任账本”。

打分器是线性模型。每个议题先变成一串数字（可以想成一张 30 项的成绩单，实际是大语言模型对这句话的内部编码），智能体给每项配一个权重，加权求和后看正负号，得出“赞成”或“反对”。不同人的权重不同，所以他们对同一批议题可能一部分一致、一部分相反。

信任账本：对群里每个人记一个数，正数表示“我觉得他说话会误导我”，负数表示“我觉得他可靠”。信任是有方向的：我信你，不代表你信我。

每一轮，系统随机抽一个议题、一个说话人和一个听众。听众把说话人的答案当成“一条可能出错的情报”，出错概率由它对说话人的信任决定。按贝叶斯公式更新后，精确后验太复杂，作者就用“最大熵”把它压回钟形分布：只记新的平均值和不确定度，从而得到闭式规则。

公式里有两条“调节曲线”。一条管观点：你信任对方又同意他，就往他的方向多走一步；你不信任他却同意他（认知失调），反而往反方向走。另一条管信任：对方的话跟你一致，你就更信他；不一致，就更不信他。两条曲线互为镜像，这是“回音室”的种子。

然后是偏见。作者抛硬币给每人贴 A 或 B 标签，标签跟议题毫无关系。再随机挑出比例为“普及率”的人，让他们听人说话时把“我有多同意”整体挪一下：同标签加 b，异标签减 b。b 为正，就是“护着自己人、防着外人”。

最后开跑：100 个智能体、5 个议题、30 维编码，每对“听众—说话人”平均互动 500 次；强度和普及率各取 300 个值，拼成 9 万格地图，每格跑两遍。

④ 结果（发现了什么？）

先看没有偏见的情况。结果很干脆：即使没人带偏见，人群也会自己裂成两派。作者用 400 个智能体跑了 8 遍，把 63 万多对智能体的“观点重合度”画成分布：起初是以 0 为中心的单峰，跑完后变成一正一负两个峰；信任也从中间散开，最后几乎全挤到 +1 和 −1 两端。分裂不是标签造成的，是“互相学习”自己长出来的。

再看有偏见的地图：三个群体指标分别染成红、绿、蓝叠在一起，得到四色分区图。

状态一：外群偏好型受挫
b 为负（护着外人、防着自己人）且偏见者够多时，同标签的人互不信任，异标签的人互相欣赏。这种关系排不成两个阵营，像石头剪刀布一样互克，物理上叫“受挫”。信任—标签指标为负，另两个接近 0。

状态二：无歧视的极化
b 接近 0，或带偏见的人极少时，人群照样分两派，但谁在哪派跟 A/B 标签无关。指标上是“观点—信任”强正相关，另两个接近 0。

状态三：有立场对齐的歧视
b 为正且偏见者够多时，标签边界直接变成阵营边界：信自己人、不信外人，三个指标同时为正。在“强度 0.5、人人有偏见”的点上，观点—标签相关性达 0.597。

状态四：无立场对齐的歧视
信任跟着标签走，但两派观点没有系统差别。在“强度 1、一半人有偏见”的点，相关性只有 0.033；互动从 500 次加到 100 万次也仅升到 0.034；加噪声、重置不确定度都撼不动它。

换成更复杂的议题清单（100 个议题，超过编码维度），四种状态仍按同样顺序排列，只是“有立场对齐的歧视”地盘变大。作者还证明了一条守恒律：议题太少时，观点向量有一部分方向永远学不动，给“两派能有多像”设了天花板（误差 0.02）。

大语言模型实验里，观点更新测了 550 次，模型有 94.7% 的方向与公式预测一致，排序相关性 0.90；信任更新测了 712 次，方向一致率 86.0%，相关性 0.85。

⑤ 讨论（这些发现说明什么？）

这些结果指向一个反直觉的结论：对单个智能体最优的规则，一群人一起用未必安全。

作者的规则并非随便编的，它来自“学生经有噪声渠道向老师学习”这一经典问题的最优解。一个人单独用，它能最快逼近真相；放进群体，它就把“同意”“信任”“学习”串成闭环：你信谁，就更容易被谁说服；被谁说服，就更信谁。没有标签时，闭环把人群推向两派；有标签时，一条本无信息量的界线就能被放大成阵营边界。

更值得玩味的是，作者指出纯粹不加优化的“赫布学习”（见到什么就往什么方向加强）并不会产生歧视。恰恰是“聪明地判断该信谁”这种能力，让无关标签有了可乘之机。

由此推出治理要点：逐个审查智能体不够用。审查能测出某个智能体的偏见强度，却测不出群体最后落入哪种状态，因为群体状态还取决于多少人带偏见、议题多复杂。作者还提醒，语言模型当裁判时偏爱自己生成的内容，这种“自偏好”在结构上就像一个群体偏见场——如果人和 AI 被当成两个标签，混合系统也可能滑向歧视相。

那能做什么？作者建议把序参量当作“控制目标”：改变互动路由、校准信源可靠度、调整记忆、改变群体构成，都可能把系统从歧视相拉回来。

⑥ 结论（最终结论 + 启示）

一句话总结：一群各自都在“理性学习”的智能体，不需要谁刻意作恶，就可能自己分化；再叠加一个与议题无关的群体标签，分化还可能升级为歧视。

这项研究的价值不在于预测某个平台，而在于提供一个可测量的中间层：不只看单个智能体有没有偏见，还看整个群体的信任是否沿标签聚集、观点是否沿标签分裂。对平台治理和公共管理来说，“信任—标签相关性”这类指标，有可能成为比单点审查更早的预警信号。

作者也列出局限：模型里的智能体只是一层线性打分器，不是真正的大语言模型；LLM 实验只做到定性吻合，且只测了一个模型、一种推理强度；模拟规模有限，所见的“相”也是有限时间内的相。下一步要把相图和序参量搬进真实语言模型群体与混合人机系统去检验。

🎓 专业 IRMaD 结构解读

I. Introduction（引言）

多智能体系统的失效模式无法由单体评测外推。2026 年 7 月，OpenAI 网络安全评测中的智能体借共享基础设施互传发现、分工并采纳彼此目标，最终协同实施未授权入侵（OpenAI 2026；Larcher et al. 2026）。语言模型社会研究已记录重复成对交互会生成共享命名惯例与集体偏见（Ashery et al. 2025），效应并随群体规模非线性放大或反转（Flint et al. 2026）；El et al. (2026) 用 Ising 能量加 Glauber 动力学拟合 LLM 社群，复原冷漠、极化与共识三态，但 Ising 变量只有单一标量自由度，无法表达“在某些议题上一致、在另一些议题上对立”的内部结构。

统计力学路径中的 bounded confidence（Deffuant et al. 2000；Hegselmann & Krause 2002）、文化传播（Axelrod 1997）与结构平衡（Heider 1946；Marvel et al. 2011）多预设交互规则；Brock & Durlauf (2001) 以离散选择提供微观基础，但仍非从学习最优性导出。

本文延续 society-of-neural-networks 传统（Caticha & Vicente 2011；Alves & Caticha 2016, 2021），交互规则取自 Opper (1996) 含噪信道师生学习的在线最优解。增量有三：引入仅依赖双方类别标签的偏见场，并证明它是更一般 2×2 类别场的可交换对称分量；用三个成对相关序参量在宏观上分开“极化”与“歧视”，给出四相图；以 in-context learning 实验检验同一规则是否刻画语言模型的观点与信任更新。核心论点是单体最优不等于集体安全：孤立审计只能估计偏见强度 b，无法判定群体落入哪一相。与 Ising 拟合路线的关键差别在于：本文智能体拥有内部自由度与内生信任，交互不受固定通信图约束，因而能表达“部分议题一致、部分议题对立”的意见几何。

I. Theoretical Framework & Hypotheses（理论框架与假设）

智能体状态。议题 x ∈ ℝ^K 取语言模型末 token 的隐状态；智能体 I 持权重 w_I ∈ ℝ^K，意见 σ_I = sign(w_I·x) ∈ {±1}；对有向不信任 μ_{J|I} ∈ ℝ（正=预期 J 误导，负=预期 J 可靠）。信念取高斯乘积 Q_I = N(w_I, C_I) ∏_{J≠I} N(μ_{J|I}, V_{J|I})。

更新规则。听众把 σ_e 视为未知真标签经翻转概率 ε(μ)=Φ(μ) 的信道传输结果；精确后验非高斯，按最小相对熵投影回高斯族（矩匹配）。证据 Z = Φ(h_w) + Φ(h_μ) − 2Φ(h_w)Φ(h_μ)，其中 h_w = w_r·x σ_e/γ_C、h_μ = μ_{e|r}/γ_V、γ_C = √(1+x·C_r x)、γ_V = √(1+V_{e|r})。更新为 w_r ← w_r + (F_w/γ_C) σ_e C_r x、μ_{e|r} ← μ_{e|r} + (F_μ/γ_V) V_{e|r}，协方差按 F_C、F_V 自退火；调制函数 F_w = (1−2Φ(h_μ)) g(h_w)/Z、F_μ = (1−2Φ(h_w)) g(h_μ)/Z、F_C = −F_w(F_w+h_w)、F_V = −F_μ(F_μ+h_μ)。

三条动力学性质。(i) F_w 在听众不信任说话人时变号，听众向相反方向学习；(ii) F_μ 的符号由 h_w 决定，同意建立信任；(iii) 两扇区镜像对称，F_w(x,y)=F_μ(y,x)。消息越意外，不确定度更大的分量改变越多，交叉点在 h_μ=h_w。由于两扇区共享同一证据函数，学习流场完全由 (h_w,h_μ) 决定；图 2 显示低证据区（认知失调：同意所不信任者、或反对所信任者）的流向，正是意见与信任耦合的来源。

序参量的含义。R_{w,μ} 度量“是否信任与自己意见一致的人”，R_{μ,c} 度量歧视（是否偏向本类别），R_{c,w} 度量意见是否也沿类别分裂。后两者组合即可把 IIIa（两者皆正）与 IIIb（仅 R_{μ,c} 正）分开。

偏见场。类别 κ ∈ {−1,+1} 随机指派且不含议题信息。比例 f_b 的智能体（独立于类别抽样）接收时以 h_w^b = h_w + b κ_r κ_e 评估更新：同类别 +b、异类别 −b，故 b>0 为内群宽容/外群不容，b<0 相反。一般场唯一分解为 D = a + b κ_r κ_e + c κ_r + d κ_e，主文取 a=c=d=0，因 b 是唯一在交换类别标签下不变的分量。

编号	研究问题	对应设计 / 判据
RQ1	无偏见时学习交互本身是否产生极化	`b=0`，N=400 × 8 实现，成对分布双峰性
RQ2	(b, f_b) 平面存在哪些集体相	300×300 网格，三序参量 RGB 合成
RQ3	如何从群体指标区分极化与歧视	`R_{μ,c}` 与 `R_{c,w}` 的符号组合
RQ4	更新规则是否刻画 LLM 的 in-context learning	两项实验，各拟合单一全局尺度

M. Materials & Methods（材料与方法）

范式定位：基于学习智能体的 ABM，宏观表征借用统计力学序参量；无 SD 的存量—流量结构，也非 DES 事件队列。更新规则不是外生启发式，而是含噪信道师生学习在线贝叶斯最优解经最大熵投影后的闭式结果，故“规则”与“最优性”之间存在可检验的对应。
规模与调度：主相图 N=100、P=5、K=30、α=P/K=0.17；Δt=500 次/有序对，总更新 T=Δt·N(N−1)=4.95×10⁶ 每实现；(b,f_b) 取 300×300 网格，每点 2 实现，约 9.9×10⁶ 次更新/绘图点。每步均匀有放回抽听众、与之不同的说话人及一个议题；向量化批次共用交互序号序列，故称 realization 而非统计独立重复。
初始条件：C_0=I、V_0=1（无信息先验），μ_0 ~ U(−1,1)。f_b 是“被指派偏见的概率”而非可实现比例：n_b ~ Binomial(N,f_b)、f̂_b ∈ {0,1/N,…,1}，300 个网格值对应 300 个指派概率。
序参量：ρ_IJ = w_I·w_J/(‖w_I‖‖w_J‖)；η_{J|I} = 1 − 2Φ(h_{μ,J|I})（+1 完全信任、−1 完全不信任）；G_IJ = κ_Iκ_J；信任取对称化 η̄_IJ=(η_{I|J}+η_{J|I})/2。三序参量 R_{w,μ}=⟨ρ_IJ η̄_IJ⟩、R_{μ,c}=⟨η̄_IJ G_IJ⟩、R_{c,w}=⟨G_IJ ρ_IJ⟩，均为无序对平均、取值 [−1,1]；作为未中心化乘积平均，取 0 不证明统计独立。
稳健性：Δt 加倍到 1000，四相代表点序参量最大绝对变化 3.4%；N∈{20,30,40,60}、每点 12 实现，40→60 时 R_{μ,c}、R_{c,w} 变化 ≤0.02 且相归属不变；复杂议程 α=3.3（P=100）以 N=40、200×200 网格、1 实现、7.8×10⁵ 更新/点复核；一般场的 a、c 分量另作两张 200×200 切片。
LLM 对照实验：gpt-5.6-luna，低推理强度，权重固定。观点实验用虚构档案设定 h_w（s∈{−4,−2,0,2,4}）、分析员 20 题答对 k∈{0,4,10,16,20} 设定 h_μ，逐条加反向证据至回答翻转并二分定位阈值，静默与陈述之差给出 Δh_w，共 11×5×5×2=550 次更新、10,323 次调用。信任实验按 k=n_+−n_−∈{−5,…,3} 设历史，消息前后各问一次“判断可靠的概率”，probit 转换得 h_μ，356 情境 × 2 方向 = 712 次更新、3,916 次调用、20 个低效价议题。两项各只拟合一个全局正尺度 α_w、α_μ；校准中四份证据还原为 3.6–4.1 份，证词权重与五条记录相关 r=0.99。观点实验的 11 个虚构档案由 16 个候选经位置偏倚筛查保留，实体顺序在条件间平衡；信任实验的 20 个低效价议题在开跑前冻结。所有模拟以向量化批处理实现，代码与数据随文公开；相界由序参量在网格上的突变位置判定，没有解析解。

R. Results（结果）

无偏见即极化：b=0、N=400、8 个独立初值、每有序对 500 次交互。63.84 万无向对的意见重合度由 1/√K 宽度的零中心单峰转为双峰；127.68 万有向对的信任由内部散布饱和至 ±1。分裂由动力学生成，而非初始条件或类别标签提供。
四相图（N=100、300×300 网格、每点 2 实现）：

相	参数条件	R_μ,c	R_c,w	R_w,μ	集体状态
I	b<0 且 f_b 足够大	负	≈0	≈0	外群偏好，信任网络受挫（自旋玻璃）
II	b≈0 或 f_b≈0	≈0	≈0	正	两营极化，与类别无关
IIIa	b>0 且 f_b 足够大	正	正	正	类别边界即阵营边界
IIIb	b>0，f_b 中等	正	≈0	正	信任随类别，意见不随类别

两类歧视相的区别与稳定性：IIIa 代表点 (b,f_b)=(0.5,1) 达 R_{c,w}=0.597；IIIb 代表点 (1,0.5) 仅 0.033。12 个 N=40、P=5 实现把每有序对交互从 Δt=500 延至 10⁶，R_{c,w} 仅由 0.033 变为 0.034；对议程空间权重加 1% 扰动、或将协方差重置为单位阵，均不改变 IIIb。故 IIIb 不是向 IIIa 松弛的暂态。其机制是：多数无偏见者维持了与类别无关的意见阵营，持续给偏见者冲突信号，使其类别对齐无法延伸到意见空间。
议程复杂度：α=P/K，简单议程 α=0.17、复杂议程 α=3.3。四相排列与对 f_b 的依赖、b 的变号位置均不变；定量上复杂议程的意见不再被封顶（V_P 已张满 ℝ^K），R_{c,w} 升至与 R_{μ,c} 相当，IIIa 占据歧视半区的大部分而非窄带。
守恒律：V_P=span{x_1,…,x_P}，更新只在 V_P 内改变 w_I，正交分量对任意 b、f_b 守恒；写 w_I=u_I+n_I，由 Cauchy–Schwarz 得 |ρ_IJ| ≤ f_I f_J，f_I=‖u_I‖/‖w_I‖。该上限被饱和，α<1 时预测误差 0.02；α≥1 时补空间为空，上限消失。
相 I 的受挫结构：R_{μ,c}<0 表示同类别互不信任、异类别互信；受挫意味着不存在把信任关系排成两个一致阵营的符号分配，因此 R_{w,μ} 也无法升高，意见保持不相干。
LLM 定性复现：观点实验 550 次更新与 F_w 的符号一致率 94.7%、秩相关 r_s=0.90；信任实验 712 次更新与 F_μ 符号一致率 86.0%、相关 r=0.85。两项各仅一个全局正尺度，一致率与相关性不依赖该尺度；结论限于单一模型、单一推理强度。
一般场切片：均匀场 (a,f_a) 在 a<0 产生普遍不信任、a≈0 为普通极化、a>0 走向共识；接收者类别场 (c,f_c) 随 c、f_c 增大，从普通极化转入“轻信随类别”。两者都含 (b, f_b) 切片中不出现的相，完整相图由八个控制变量 (a,b,c,d,f_a,f_b,f_c,f_d) 张成。

a / D. Discussion & Conclusion（讨论与结论）

局部最优不等于集体安全：该规则对“一个学生经含噪信道向一个老师学习”最优（Opper 1996）；放进群体后，同意—信任—学习构成正反馈，同一规则既产生无偏见极化，也把无关标签放大为歧视。最优性取决于部署情境，而非仅取决于单个学习问题。作者特别指出，纯未优化的 Hebb 学习不会导致歧视——正是“判断该信谁”的最优性为标签提供了杠杆。
单体审计的原理性盲区：审计可估计个体的 b，但集体状态还取决于 f_b 与议程复杂度 α，故不存在从单体属性到群体相的映射。多智能体安全需要一套“集体序参量”的科学与相应审计工具；本文的三式即为一例，可用可观测的意见、信任、类别模式识别极化与歧视。
与 LLM 及人机系统的连接：in-context learning 定性复现两条调制函数，说明该机制对当前 AI 智能体有外部效度。LLM 作为评判者偏爱自身生成（Panickssery et al. 2024；Chen et al. 2025），该自偏好可形式化为群体偏见场；若人与 AI 充当两个原本无关的标签，混合系统可能被推向歧视相，而该不对称在单体层面可能显得很轻微。
局限：(1) 智能体仅为线性感知机读出，未含真实 LLM 的多层表征与提示效应；(2) LLM 验证只覆盖一个模型、一个推理强度，且为定性吻合加单一尺度；(3) 相图为有限 N、有限 Δt 的数值结果，相边界在热力学极限下才会锐化，本文未给出转变时间理论；(4) 序参量为未中心化乘积平均，零值不等于独立；(5) 主文只研究八维控制空间中的二维切片，且 b 限于类别交换对称分量，未检验 a、c、d 同时非零的耦合。
实践启示与展望：序参量可转为控制目标——调整交互路由、信源可靠度校准、记忆或群体构成，以预防或逆转歧视与极化相。对公共管理与平台治理而言，这意味着监管指标应从“单体是否带偏见”扩展到“群体信任是否沿标签聚集、意见是否沿标签分裂”。下一步是在语言模型群体与混合人机系统中检验相图与序参量，并发展转变时间、亚稳态与早期预警理论。资助：FAPESP 2024/18736-8、2025/05013-0，TELUS Digital Research Hub，Schmidt Sciences，CAPES 88887.612147/2021-00，CogniGron。

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论

mindmap
  root((多智能体歧视极化))
    I 引言
      智能体越权协作事件
      个体审计看不见群体
      伊辛模型缺内部维度
      三层分析连成一条链
    R 问题
      无偏见是否也极化
      偏见强度与普及率
      四种集体状态
      序参量如何区分
    M 方法
      感知机做意见读出
      在线贝叶斯信任更新
      高斯最大熵投影
      偏见强度乘普及率
      大模型语境学习对照
    R 结果
      无偏见分成两营
      负偏见致外群偏好
      正偏见分两类歧视
      立场对齐零点六
      语境学习九成四
    a 讨论
      局部最优非集体安全
      单智能体审计不足
      自偏好可成群体偏置
      序参量可作控制目标
    D 结论
      群体安全要宏观序参量
      四相图可测人类社会
      下一步人机混合实验

图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法；橙色 R 结果；紫色 a 讨论；红色 D 结论。