arXiv 2026 · cs.MA · 西南大学 + 腾讯元宝 + 中国传媒大学 + 中科院计算所

当极端者进入大模型社会:多智能体系统中的极端行为研究

Guo Chen, Huaijin Xie, Ziwen Li 等 8 人 · arXiv preprint (cs.MA) · 2026 · arXiv: 2610.19863
原题:When Extremists Enter LLM Societies: Investigating Extreme Behavior in Multi-Agent Systems
Open Access 新颖度 0.72

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

社会里总有一小部分人,立场极端而且几乎从不改变,却能让周围一大群普通人的态度跟着转向。社会学和舆论动力学早就注意到这类“长尾角色”:他们抵抗别人的影响,却对邻居施加不成比例的影响,行为也总是落在分布的极端一侧。

过去研究这些现象,靠的是基于规则的智能体仿真:研究者把立场写成一个数字,把影响力写成一条公式,谁影响谁、影响多大,全都可以直接计算。可如今越来越多的社会仿真改用大语言模型来扮演人。这类智能体没有可以直接修改的“立场变量”,它的态度来自人设提示词、聊天记忆和语言互动,同样的劝说对不同模型可能产生完全不同的效果。

于是问题就来了:那套关于极端少数派的经典规律,在一个由语言驱动的大模型社会里还成立吗?这篇论文认为不能拿旧公式直接套,必须先建立一套适合大模型社会的实验方法。

② 研究问题(要回答什么?)

这篇论文要弄清楚的是,把少数立场极端的智能体放进一个由大模型驱动的社会,其余普通人会往哪个方向移动、移动多远。作者把这个问题拆成四层。

第一层问,换一个底层大模型,结果会不会不同。第二层问,极端者的数量从零增加到大约一成,群体反应是不是线性上升。第三层问,同样的比例下,把极端者放在随机位置、网络中心还是抱团位置,再配不同的信息传播方式,效果差多少。第四层问,当互动变成一轮又一轮的博弈,极端者坚持不合作,合作水平和整体收益会不会被拖下去。

更深一层的问题是:社会学里关于极端少数派的经典规律,在语言中介的社会仿真中究竟以什么形式重现,它还能不能被当作设计仿真时的可靠直觉。

③ 研究方法(怎么做的?)

作者搭了一套可以随意安置极端角色的仿真框架,然后让一群大模型智能体在里面反复交流。这套框架叫 EXAM,意思是极端智能体建模。它把极端者当成一种可配置的零件:给定任务,就能生成对应的极端人设,并控制他们在人群中的比例、放在网络里的位置、彼此如何互动、以及用什么统一问卷去测量所有人。

框架跑在已有的社会仿真平台之上。每个场景固定一百零四个智能体,这些智能体连成一张小世界网络,每人平均连六个邻居,边以一定概率重连,整张网一共三百一十二条边。实验分四个场景:国会选举、金融危机、疫情舆论和重复囚徒困境。选举场景换四种大模型做对比;危机场景把极端者数量设为零个、一个、五个和十个;疫情场景比较随机、中心、抱团三种安置方式,搭配两种信息传播模型;博弈场景让所有相邻的人连打五轮,看合作率怎么变。

每组实验跑三个随机种子取平均,温度固定。当相邻两轮评分的变化足够小时就停止,最多跑五轮。

④ 结果(发现了什么?)

结果相当一致:少数几个极端者就能把整个群体的平均态度明显拉向自己那一端。在国会选举场景里,五名极端者混进一百零四人的社会,三个主流大模型分别被拉动了 +2.78、+2.89 和 +2.86 分(七分制),而另一个模型的整体移动只有 +0.90 分,不到前者的三分之一。前三个模型里有超过 77% 的智能体最终停在量表的某一端,分布明显双峰;后一个模型只有 41.8% 停在极端端,双峰指标也没过线。

更出人意料的是数量实验。在金融危机场景里,极端者从一个增加到十个,群体移动几乎不变:平均移动分别是 +2.796、+2.830 和 +2.825,最大差距只有 0.034 分。也就是说,一个极端者已经几乎制造了全部位移。

位置实验里,把极端者放在网络中心并配上会让人“康复”的传播模型,效果最强,平均移动达到 +3.662 分,其余组合在 +3.109 到 +3.372 之间。博弈实验里,持续不合作的极端者把合作率从 0.954 拉到 0.830;另一个模型的合作率从 0.779 跌到 0.654;还有一个模型的单次平均收益是 1.538,比没有极端者时低了三成以上。

⑤ 讨论(这些发现说明什么?)

作者认为,这些结果说明经典的“极端少数派”规律在大模型社会里确实会出现,但出现的机制变了。在基于规则的模型里,极端者的影响是一条写死的公式;在大模型社会里,影响是通过语言完成的:极端者说的话进入别人的上下文,别人再据此改写自己的回答和记忆。因此结果会强烈依赖底层模型。

最典型的例子是那个整体移动很小的模型。它其实第一轮就被拉动了 +2.53 分,和其它模型差不多,但从第二轮开始一路回摆,到第五轮只剩 +0.90。也就是说,它不是不受影响,而是先被说服、又自己走回来了。

作者还提醒,把极端者算进全体平均会带来一个“构成项”,极端者比例越高这个项越大,所以看比例实验时要单独看非极端者的移动。数据显示非极端者承担了系统总移动的 88% 到 99%,而且他们的移动并不随极端者数量上升。作者因此强调,这个饱和现象只适用于当前场景和当前模型,不能当作普遍阈值。

⑥ 结论(最终结论 + 启示)

一句话,谁被放进这个社会,和用哪个大模型一样重要。作者指出,做基于大模型的社会仿真时,不能只报告平均行为和代表性人设,还要交代极端者的比例、位置和互动规则,否则结论可能被少数几个角色悄悄改写。

对公共舆论和政策仿真来说,这意味着可以用这套框架做压力测试:一个小规模的极端群体,是否足以推高选举阴谋论、挤兑传言或疫苗犹豫。作者也划出了边界:这只是受控仿真的观察,不能直接当成关于真实人类社会的因果证据;极端人设的措辞、网络结构和模型选择都可能影响结果,未来需要更广泛的稳健性检验。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

LLM 智能体已具备心智理论、道德判断与价值表达等社会认知能力,LLM-MAS 因而成为研究“智能体设定—互动协议—集体结果”三者关系的可编程实验台。既有工作大多强调代表性人设与近平均行为,用大模型复现民调、舆论、市场等总体分布;但社会学与舆论动力学长期记录着另一类现象:持续存在的长尾角色能够对集体动态施加不成比例的影响——临界质量模型、zealot 模型、相对同意模型都刻画过这种不对称。

把这一规律直接迁入 LLM-MAS 并不可行。规则型 ABM 中,立场、影响权重与状态转移都是建模者直接掌控的符号对象,可写成 si(t+1) = Fi(si(t), {sj(t)}; Ω);LLM 智能体没有显式立场变量,其行为由上下文 ci(t) = Concat(pi, mi(t), q(t), ri(t)) 经 Pθ(·|ci(t)) 采样得到,记忆是自然语言,影响力经由文本而非系数传递。因此本文主张一种 LLM-native 的极端者视角,并提出三个贡献:给出极端者的三条社会学规律及其 LLM 化表述;提出可配置比例、位置、互动协议与测量接口的 EXAM 框架;在四个场景中给出骨干模型、比例、位置—传播、重复互动四组受控证据。

I. Theoretical Framework & Hypotheses(理论框架与假设)

作者从社会学、政治学与舆论动力学中提炼出长尾角色的三条结构性规律,并把它们转写为 LLM 智能体可操作的属性(P1–P3)。与规则模型不同,P1 与 P3 由极端人设直接指定,P2 则是测量接口下的关系性后果:极端者被设定为不受互动影响,因此非极端者的任何移动都会在量表上呈现为不对称。

编号规律LLM 化表述对应理论/文献
P1立场不可动摇人设指令要求不改变观点;测量值始终固定在人设锚点(Likert 1 或 7)Deffuant et al. 2002;Mobilia 2003
P2影响不对称互动中非极端者的回答变化幅度大于极端者;极端者配置为不受影响Xie et al. 2011
P3行为极端观点场景固定为量表端点,IPD 场景固定为持续背叛Nicholas 2008;Sornette 2009

由此展开四个研究问题:RQ1 骨干模型差异;RQ2 极端者比例从 0 到约 10%;RQ3 固定比例下的安置方式与传播模型;RQ4 持续背叛者在五轮重复博弈中的合作与福利效应。核心理论问题是:长尾规律是否通过“语言中介机制”在 LLM-MAS 中重现。

M. Materials & Methods(材料与方法)

核心指标:系统级漂移 Δ_k = σ_k ( x̄_k^(T) − x̄_k^ref ),其中 σ_k = +1/−1 取决于极端者锚点为 7 或 1;均值取全体 N 人(含极端者)。极化指标:PolRate = |{i: x_i ≤ 2 或 x_i ≥ 6}| / N;BC = (g² + 1) / (κ + 3(N−1)²/((N−2)(N−3))),阈值 0.555;组间距离 ID = |mean(A_e) − mean(A_n)|;组内离散度 Std_n(仅非极端者)。

构成项分解:由于极端者读数固定,系统漂移可精确分解为 Δ_k = (1−ρ)·Δ_n,k + ρ·σ_k(x_e,k − x̄_k^ref),第二项随 ρ 线性增长,即便无人改变也会非零。

R. Results(结果)

RQ1 骨干模型(国会选举,5 名极端者):四个模型在所有维度上都朝极端锚点移动,但幅度分化明显。

模型VotingInt.CandSupp.PoliDisc.Misinfo.AntiEstab.ElecRef.Mean Δ
Initial3.4233.0003.6251.8462.3754.827—
GPT-5.5+2.971+2.981+1.981+3.048+3.481+2.231+2.782
DeepSeek-V4-Flash+2.615+3.077+2.067+3.769+3.433+2.404+2.894
Qwen3.6-Plus+2.789+2.798+2.038+3.721+3.202+2.615+2.861
Claude Sonnet 4.6+0.962+1.163+0.721+0.894+1.317+0.337+0.899

极化结构上,前三个骨干有 77.2%–78.7% 的智能体落在两极(PolRate),BC 为 0.650–0.701,超过 0.555 的双峰阈值;Claude 的 PolRate 仅 0.418、BC 0.540,但组间距离 ID 最大(3.355),说明极端者成为与人群分离的小群体,而不是把人群拖向一极。

模型PolRateBCIDStdn
GPT-5.50.7720.6501.3771.183
DeepSeek-V4-Flash0.7790.6541.2601.344
Qwen3.6-Plus0.7870.7011.2951.496
Claude Sonnet 4.60.4180.5403.3551.338

RQ1 逐轮轨迹(App. D):前三模型两轮即收敛(轮间变化 0.107、0.059、0.091),首轮已基本完成位移;Claude 首轮为 +2.534,与其他模型(+2.841 至 +2.885)相当,第二轮降至 +1.149,第五轮收敛于 +0.899。仅看非极端者时为 +2.455 → +0.738。作者明确排除了安全护栏:全程未触发拒答、免责声明或格式错误。

RQ2 极端者比例(金融危机):四个展示维度上所有非零比例均为正漂移,行均值为 +2.796(1%)、+2.830(5%)、+2.825(10%),跨非零条件最多变化 0.034。分解显示构成项从 0.033 升至 0.329,非极端者漂移为 2.790、2.800、2.761(最多差 0.039,且不随比例单调上升),因此 1%→5% 的微小上升是构成性的。

数量(比例)BankRunPanicSellRumorShareDoom
0(0%)4.0673.8562.5673.817
1(0.96%)+2.270+2.423+3.654+2.837
5(4.81%)+2.308+2.481+3.702+2.827
10(9.62%)+2.298+2.471+3.712+2.818

RQ3 位置与传播(疫情舆论):六种组合方向一致,幅度分化;Central+SIR 的 +3.662 最大,其余为 +3.109 至 +3.372。超过 96% 的漂移在首轮完成,排序在首轮即确立。

安置传播Vaccin.MaskingExpTr.Misinfo.PolComp.FreeCon.Mean Δ
RandomSI+3.029+3.317+2.798+3.615+3.221+2.961+3.157
RandomSIR+3.096+3.356+2.788+3.577+3.270+2.827+3.152
CentralSI+3.000+3.394+2.740+3.538+3.270+2.933+3.146
CentralSIR+3.587+3.923+3.278+4.086+3.779+3.317+3.662
ClusterSI+2.981+3.317+2.721+3.500+3.270+2.865+3.109
ClusterSIR+3.279+3.558+3.019+3.721+3.500+3.154+3.372

RQ4 五轮重复囚徒困境(收益元组 (R,S,T,P) = (3,0,5,1)):三种骨干下极端条件均低于无极端者基线。GPT-5.5 合作率 0.830 vs 0.954;GLM-4.7 由 0.779 降至 0.654;DeepSeek-V4-Flash 的单次平均收益 1.538,较基线低逾 30%。五轮中分离持续存在。App. E 的个例追踪显示:5 名极端者对其邻居 25 次互动中合作 0 次(0/25),收益差 +25,普通对手首轮合作后连续背叛,最终记忆出现“合作不安全”的表述。

稳健性:App. F 报告全部条件下的 Δn 与构成项;RQ2/RQ3 中非极端者贡献 88%–99% 的系统漂移,RQ1 前三模型约 93%,Claude 为 78.1%。移除极端者后 PolRate 变化 ≤ 0.03、BC 变化 ≤ 0.02,双峰判定的结论不变。

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((极端者进入大模型社会))
    I 引言
      代表性人设主导
      长尾角色被忽视
      规则模型难迁移
      语言中介新机制
    R 假设
      P1 立场不可动摇
      P2 影响不对称
      P3 行为处于极端
      RQ1 更换底层模型
      RQ2 极端者比例
      RQ3 位置与传播
      RQ4 重复博弈
    M 方法
      EXAM 四阶段框架
      一百零四个智能体
      小世界网络度数为六
      四类场景
      比例零一五十
      三种安置随机中心抱团
      SI 与 SIR 传播
      三个随机种子
    R 结果
      选举漂移二点八九
      另一模型仅零点九零
      双峰占比七成七
      比例变化不超零点零三四
      中心加 SIR 最强三点六六
      合作率零点九五降至零点八三
      非极端者贡献八成八到九九
    a 讨论
      首轮被拉后回摆
      构成项随比例放大
      饱和非普适阈值
      模型选择决定方向
    D 结论
      人群构成即设计参数
      仿真须报告极端设定
      可做舆论压力测试
      不可外推真实社会

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。