NeurIPS 2026 · Datasets and Benchmarks Track · 已录用 · arXiv:2510.25110v7 (cs.CL)

DEBATE:评估角色扮演大模型智能体舆论动力学的大规模基准

Yun-Shiuan Chuang, Ruixuan Tu, Chengtao Dai 等 12 人 · NeurIPS 2026 (Datasets and Benchmarks Track) · 2026 · DOI: 10.48550/arXiv.2510.25110 · arXiv: 2510.25110
原题:DEBATE: A Large-Scale Benchmark for Evaluating Opinion Dynamics in Role-Playing LLM Agents
Open Access 新颖度 0.86

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

网上的人讨论争议话题时,立场常常会慢慢靠拢或者越吵越远,这种变化被称为舆论动力学。过去研究它,多半靠数学公式给每个人设一个立场数字,再规定人和人之间怎么互相影响。现在有了大语言模型,可以让模型扮演不同性别、年龄、学历的普通人,像真人一样用自然语言聊天,这类角色叫角色扮演智能体。单个智能体说话往往很像人,可是把好几个放在一个群里,它们常常很快就意见一致,显得比真人还容易妥协。问题是,学界一直缺少一把尺子,能拿真实人群的多轮讨论来衡量这种模拟到底像不像。这篇文章就是来造这把尺子的。

② 研究问题(要回答什么?)

研究团队要回答三个层面的问题。第一,在只预测下一句话时,模型能不能接住真人的语气和立场。第二,在让模型自己把整场讨论演完时,群体的意见分布会不会像真人一样演化。第三,用真人对话微调之后,模型能不能同时改善个人立场预测和群体收敛预测。更进一步,他们想知道模型和真人的差距究竟出在哪个环节:是最后的立场不对,还是改变的方向和幅度不对,抑或是整个小组收敛得太快。为此,他们还需要一套能分别衡量单条消息、单个人和整个小组的指标,而不是只看一句话像不像。

③ 研究方法(怎么做的?)

研究团队在美国的众包平台上招募了两千八百多名参与者,把每四个人随机编成一个小组,分到一个争议话题。整场实验大约半小时,分四步:先私下给自己的初始立场打一到六分并写下理由;然后进行三轮公开交流,每轮先发一条类似推文的短帖,再和一位组员实时聊天四分钟,三轮下来每个人都和另外三人各聊过一次;聊完再私下报告最终立场;最后填写年龄、性别、教育、政治倾向等人口信息。研究者用大模型给每条消息判断是否切题、把立场映射到六分刻度,只保留四人都完整参与、且每一阶段都说了切题话的小组,最后得到近两千八百人和六百九十七个小组。接着他们让七个大模型分别扮演这些真人,做两种测试:一种是给真人写好的历史、只预测下一句;另一种是从头到尾自己演,把自己的输出再喂回记忆。

④ 结果(发现了什么?)

微调后的模型在三项立场误差上都比原始模型更接近真人。三项误差分别是最终立场差多少、立场变化差多少、小组意见分散度变化差多少。最容易看出问题的是收敛:真人小组公开立场的组内标准差平均只缩小零点一五,而原始模型缩小零点三一,拟合出来的经典数学模型缩小零点四七;微调后回到零点一二。私下立场同样,真人缩小零点一三,原始模型缩小零点四一。把立场从开始到结束的迁移画成矩阵,原始模型偏离真人的距离公开为零点八四、私下为零点八三,微调后降到零点五一和零点三零。文字层面,微调让公开帖的语义相似度从零点七一升到零点七五,私下最终意见与真人的长度差从四十八个多词降到三个多词,说明它不只是把立场数字蒙对。

⑤ 讨论(这些发现说明什么?)

作者认为,问题的核心不只是模型会不会说话,而是它对聊天对象的立场太敏感。他们量了一个叫伙伴差距的指标:对方的初始立场离你越远,你往对方方向移动多少。真人本来就有这种倾向,公开聊时相关系数约零点三二,私下约零点二零;原始模型把这个倾向放大了,公开和私下都显著强于真人,于是整个小组被迅速拉向中间。微调把这个反应拉回到真人附近,私下改善尤其明显,公开只是方向对但统计上还不够稳。作者还排除了几种解释:调高或调低采样温度,过度收敛依然存在;切题率从第一轮到第三轮只掉了一点点,不是跑题造成的;把智能体记忆里的初始立场和第一条帖删掉,模型反而收敛得更厉害,说明它靠记忆里写明的立场来抵抗同伴压力。

⑥ 结论(最终结论 + 启示)

这篇论文的主要贡献是给多智能体舆论动力学模拟提供了一套可复现的真人基准,而不只是又一个数据集。它把公开消息和私下信念分开测量,把评估拆成消息、个人、小组三层,并且同时提供较容易的下一句预测和较困难的完整动力学仿真。结果显示,零样本的角色扮演智能体会明显过度收敛,微调能缓解但不能消除差距,私下信念始终比公开表态更难对齐。对研究极化和不实信息的人来说,这意味着用大模型智能体做政策推演时要格外小心:它们可能把社会分歧抹得比现实更平。作者也提醒,这个基准只覆盖美国参与者、四人小组和半小时左右的短期讨论,不能直接外推到整个社会或更长的时间尺度。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

多智能体角色扮演大语言模型(role-playing LLM agents, RPLA)已被用于模拟舆论动力学,但既有评估多停留在单智能体拟人或人工构造任务,缺少与真实多人讨论对齐的经验基准。既有语料(CMV、IAC 1.0/2.0、PersuasionForGood 等)通常缺少多人、多轮、人口属性、完整读者上下文、强制轮流发言或公开/私下双重测量中的至少一项。DEBATE 的定位是首个面向该场景的大规模经验基准:2,832 名美国 Prolific 参与者在 107 个高熵争议话题上完成四人、三轮、公开推文加双人私聊的实验,清洗后保留 2,788 人、697 个小组、7,972 条推文、5,302 条初始/最终意见与 15,012 条聊天消息。论文贡献为:基准本身;下一句预测与完整动力学仿真两种设定;消息、个人、小组三级立场指标;识别过度收敛与对伙伴立场过度敏感两类行为差距;以及以 Llama-3.1-8B-Instruct 的监督微调作为后训练用例。需强调,这不是传统方程型 ABM/SD/DES,而是 LLM 多智能体仿真,经典 DeGroot 只作为标量 ABM 对照基线。

I. Theoretical Framework & Hypotheses(理论框架与假设)

理论落点是把经典舆论动力学的最小假设搬进自然语言多智能体:每个主体持有可观测的公开立场与不可观测的私下信念,二者随互动更新;DeGroot 式加权平均与有限信任模型预测群体标准差随时间收缩。DEBATE 用六点 Likert 把立场标量化,公开状态取第一条与第三条推文的立场,私下状态取初始与最终自报意见,从而把“说了什么”和“信了什么”分开。基准设计遵循六条判据:多人(N≥3)、多轮、人口属性、读者上下文可追溯、强制轮流发言、公开与私下意见并存。评估分三层:消息层看过不过题与立场标签,个人层看最终立场与立场变化,小组层看组内离散度的变化。作者另设三条非学习参照来标定误差尺度:均匀随机下界、对真人标签加高斯噪声的上界,以及在训练集上拟合的 DeGroot 基线。后者每个主体只与第一位搭档互动,公开与私下分别用系数 αpub、αpriv 做加权平均并截断到 [1,6]。

层级指标定义方向
个人单点误差 Esingle个体末立场与真人末立场之差的绝对值均值越低越好
个人更新误差 Eupdate个体立场变化量与真人变化量之差的绝对值均值越低越好
小组收敛误差 Econv小组 ΔSD 与真人 ΔSD 之差的绝对值均值,ΔSDg=SD(末立场)−SD(初立场)越低越好
小组收敛水平 Cc(m)各小组 ΔSD 的组间均值,负值越强表示收敛越强越接近真人越好
机制伙伴差距响应自身立场变化对第一位搭档初始立场差距的 Spearman ρ越接近真人越好

M. Materials & Methods(材料与方法)

数据来自 Prolific,经 IRB 批准。每组 4 人、随机分配话题,单场 25–30 分钟,四阶段:2 分钟初始私下意见(1=Certainly disagree 至 6=Certainly agree,附理由);3 轮公开交流,每轮先写推文式短帖,再与一位组员实时聊天 4 分钟;2 分钟最终私下意见;人口问卷。原始 2,832 人、708 组。清洗采用 golden-group mask:四人全部完成、每个阶段至少一条切题消息、每人至少 8 条切题消息;切题性由 gpt-5-mini 以四类提示模板判定,并在覆盖 107 话题、7 个模型、两种设定的 10% 分层样本(含 11,161 条推文与 7,423 条意见)上人工校验,人与人的切题一致性 κ=0.89、立场一致性 κ=0.81,LLM 与人工约 90% 一致。最终 2,788 人、697 组。分组泛化按小组划分:训练 561 组/2,244 人,测试 136 组/544 人;话题泛化按话题划分:训练 79 话题/515 组,测试 28 话题/182 组。智能体为数字孪生,记忆含人口画像、初始意见与理由、历史推文与对话、当前轮上下文,按式(1)逐轮生成发言。两种设定:下一句预测用真人历史;完整动力学仿真把自己的生成递归写回记忆。DeGroot 基线仅用训练集拟合,组泛化 αpub=0.843、αpriv=0.929;话题泛化 αpub=0.840、αpriv=0.943。SFT 用 Llama-3.1-8B-Instruct,3 个 epoch、学习率 5×10-5、completion-only loss。

R. Results(结果)

主结果见下表(小组泛化测试集,完整动力学仿真为主设定)。SFT 在单点、更新、收敛三类误差上均优于基座:单点与更新在公开、私下两个通道均 p≪0.001;收敛误差私下 p≈0.005、公开 p≈0.135。完整动力学仿真始终难于下一句预测,私下始终难于公开(三个指标上 7/8、7/8、8/8,p=0.035、0.035、0.0039)。收敛机制上,真人公开 ΔSD=−0.15±0.06、私下 −0.13;Llama-3.1-8B 为 −0.31±0.09、−0.41;SFT 为 −0.12、+0.04;DeGroot 公开 −0.47±0.03。转移矩阵 L2 距离:公开 0.84→0.51,私下 0.83→0.30。伙伴差距 Spearman:真人公开 ρ=0.322(p≪0.001)、私下 0.202(p=0.0015);基座反应更强(公开 p=0.015、私下 p<0.001);SFT 与真人无显著差异(公开 p=0.517、私下 p=0.261)。文字层:公开语义相似度 0.71→0.75、ROUGE-L 0.41→0.44;私下长度误差 48.23→3.56 词、ROUGE-L 0.09→0.11;跨 8 个条件格 8/8 改善(符号检验 p=0.0039)。

指标真人Llama-3.1-8BSFTDeGroot
公开 ΔSD−0.15±0.06−0.31±0.09−0.12−0.47±0.03
私下 ΔSD−0.13−0.41+0.04—
公开转移矩阵 L200.840.51—
私下转移矩阵 L200.830.30—
伙伴差距 ρ 公开0.322显著更强 (p=0.015)接近真人 (p=0.517)—
伙伴差距 ρ 私下0.202显著更强 (p<0.001)接近真人 (p=0.261)—

a / D. Discussion & Conclusion(讨论与结论)

作者把过度收敛归因于对伙伴立场的过度响应,而不是解码随机性或跑题。稳健性检验支持这一解释:温度 T=0、默认、T=1 下公开/私下 ΔSD 分别为 −0.30/−0.33、−0.32/−0.40、−0.41/−0.27;切题率从第 1 轮到第 3 轮仅下降 0.01(真人)与 0.03(基座);删除记忆中的初始意见与首条推文后,基座收敛从 −0.28/−0.32 恶化到 −0.57/−0.59。四人小样本下的替代离散度也复现:推文平均成对距离 −0.07(真人)对 −0.41(基座),极差 −0.18 对 −0.72;私下为 +0.02 对 −0.44、−0.08 对 −0.69;话题级 Wilcoxon p=0.02(推文)与 0.05(私下)。人工标注 20 组复核同样显示真人收敛更弱(推文 −0.12 对 −0.24,私下 −0.11 对 −0.33);换 Gemini-3-pro-preview 作第二评判器,结论不变。对公共管理与传播研究,这意味着用 RPLA 做极化、不实信息或协商民主推演时,默认设定会系统性低估社会分歧的持久性;SFT 能校正一部分,但私下信念仍难对齐,且基准仅覆盖美国、四人、短期讨论,不能外推到社会尺度。

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((角色扮演智能体舆论基准))
    I 引言
      多智能体模拟兴起
      群体行为不自然
      缺少真人基准
      极化与不实信息
    R 问题
      下一句能否接住
      群体演化像不像
      微调能否改善
      差距出在哪一环
    M 方法
      两千八百名参与者
      一百零七个话题
      四人三轮讨论
      公开与私下双测
      七个大模型
      两种仿真设定
      三层立场指标
    R 结果
      公开收敛负零点一五
      模型收敛负零点三一
      微调回到零点一二
      私下误差更大
      转移距离明显下降
      文字指标改善
    a 讨论
      伙伴立场反应过度
      调温度不消失
      删记忆更收敛
      人工复核一致
    D 结论
      基准公开可复现
      微调部分修复
      私下信念难对齐
      谨防抹平分歧

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。