ESORICS 2026 · LNCS 16969 · 安全会议(CCF-B)· 全量公开数据 2.2M 笔记 / 184M 评分

超活跃少数派动摇了社区笔记的稳定性

Jacopo Nudo, Eugenio Nerio Nemmi, Edoardo Loru 等 6 人 · ESORICS 2026(LNCS 16969, pp. 482–501);arXiv:2602.08970 v3 · 2026 · DOI: 10.1007/978-3-032-38695-3_24 · arXiv: 2602.08970
原题:Hyperactive Minority Alters the Stability of Community Notes
Open Access 新颖度 0.72

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

过去,判断一条帖子是不是在误导人,主要靠专业的事实核查机构。平台雇人、查资料、贴标签,可这条路越来越走不动:假消息太多太快,核查员忙不过来,还总被质问“凭什么由你来定义真相”。于是从二零二一年起,推特先推出一个叫“鸟瞰”的项目,后来改名“社区笔记”。普通用户可以在有问题的帖子下面写一段补充说明,再由其他用户给这段说明打分,说它有用、有点用还是没用。平台用一个共识算法判断:只有当平时意见常常相左的人也大体认可时,这条说明才会公开显示在所有人眼前。听起来很像把判断真假的权力交还给了群众。

问题在于,群众并不是均匀出场的。社交平台上向来是极少数人生产绝大多数内容,社区笔记会不会也这样?如果给说明打分的总是同一小批人,而且这批人自己立场鲜明,那么“大家共同认可”这句话就要打上问号。这篇论文要查的正是这件事。

② 研究问题(要回答什么?)

研究要回答的其实是一个链条上的三件事。第一,打分这件事有多集中:是人人都在参与,还是少数人包办了大部分评分。第二,这些高频打分者是不是中立的志愿者:他们挑不挑内容,政治立场是否比一般参与者更极端。第三,也是最关键的一环:平台的共识算法对这批人的存在有多敏感。换句话说,如果把最活跃的那几十个人从数据里拿掉,重新按同样的规则算一遍,会有多少条说明的显示状态发生改变。

作者把前两问当作描述,把第三问当作反事实推演。他们并不声称自己能证明“少数人导致了某条说明消失”,而是问:在算法固定、笔记固定的条件下,输出对输入的微小扰动有多不稳定。

③ 研究方法(怎么做的?)

研究者拿到的是平台官方公开的完整记录,时间从二零二一年一月二十八日一直到二零二五年十二月二日。里面有两百二十多万条提交的说明、约一百三十万名至少打过分的人,以及约一亿八千四百万次评分。这个体量相当于把整个系统几年的账本全部摊开。

但账本有个缺口:它不告诉你发帖人是谁。要研究政治立场,就得借助另一份由研究者整理的政治标注样本,只保留发帖账号能被判断为民主党或共和党倾向的说明。这份子样本包含二十一万八千多条说明、十六万多条推文,涉及一万八千多个共和党倾向账号和两万多个民主党倾向账号,评分约一千八百二十万次,占全部评分的十分之一左右。

第三步是用平台开源的共识算法做重算。作者把评分表和每条说明的状态历史喂给算法,先复现平台当时给出的结果,再动手做实验:依次删掉最活跃的十人、一百人、两百人、五百人、一千人、五千人和一万人,看每条说明的状态会怎么变。他们还解除了平台“超过十四天不再重算”的锁定,让所有说明都能重新参与判定。然后比较每次结果与原始结果的重合程度。

④ 结果(发现了什么?)

打分活动高度集中在少数人身上,这是整篇论文最先摆出来的事实。打分次数的分布有一条长长的尾巴:绝大多数人只打了几次,少数人打了几万次。用幂律去拟合,指数约为三点零六,拟合明显优于指数分布。洛伦兹曲线显示,大约两成的用户贡献了八成的评分。基尼系数在全部观察期上是零点七八,属于很高的不平等。分年看,二零二一年是零点六九,二零二二年升到零点七八,此后稳定在零点八一、零点七九、零点七九附近,说明这不是刚上线时的暂时现象。

再看挑不挑内容。把每个打分者打过分的不同发帖账号数画成曲线,会发现活跃者很快就“饱和”了:他们反复回到同一批账号下面。拟合出的特征尺度是六百三十二,随机打乱后的基线是一千零八十;饱和后的账号数分别是四百二十八和九百七十。两组置信区间完全不重叠,说明这种偏好不是随机造成的。

然后是政治立场。作者用一条从负一到正的指标刻画每个打分者的行为倾向,负值偏民主党,正值偏共和党。全样本均值是负零点零八,分布接近对称。但按活跃度分成十档后,越活跃的档越往两边分:第十档明显偏向共和党一侧,双峰分离度从低档的二点八左右升到第九档的三点六三和第十档的四点一七。

最后是重算实验。只删掉最活跃的十个人,原本公开显示的十五万二千五百六十五条说明里,就有四千五百八十七条不再显示,另有七千七百六十八条被标为“不有用”的说明发生改变。删到一万人时,这一状态与原始结果的重合度最多下降六成九。而这些人只占打分者总数的极小一部分。

⑤ 讨论(这些发现说明什么?)

作者认为,这组结果说明社区笔记并没有跳出社交媒体的老规律。平台越大,参与越不均,最活跃的一小撮人既挑内容又带立场,而算法恰恰要把他们的评分算进去。共识算法的本意是要求不同政治阵营的人都点头,可如果某一方的高活跃者特别多,他们的评分就会在加权后占据更大分量。于是“跨阵营共识”可能只是表面上的,实际由一批立场鲜明的高频用户推动。

他们特别提醒,重算实验不是现实实验。删人只是在数据里做减法,算法、说明内容、其他人的评分都没动,现实中被删的人可能会换号回来、平台也可能改规则。所以能说的是系统对参与结构很敏感,不能说是某条说明因为某个人而消失。政治立场也是从打分行为反推出来的,不等于用户自己承认的党派身份。

还有一个时间维度:说明从提交到公开平均要一天以上,而推文的热度窗口通常只有三天左右。共识形成得越慢,纠正信息赶到时看到的人越少。少数高频用户如果把关太严,可能让整个流程更慢。

⑥ 结论(最终结论 + 启示)

社区核查把判断权从专业机构手里拿走,却没有真正把它分给所有人。它更像是重新分配:权力落到一小群高度活跃、立场更鲜明的人身上,而算法让这种集中变得看不见。作者因此建议,平台可以考虑给个人打分次数设上限,或者对超级活跃者做动态降权,让共识更难被少数人左右。

对普通用户来说,这条研究的提醒是:看到一条社区笔记被标为“有用”,别急着把它当成全民共识,它可能只代表那几十个最勤快、也最有立场的人。对平台来说,透明度不该只公开数据,还该公开参与结构本身。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

社区式事实核查(community-based fact-checking)的兴起,源于专业核查的两重困境:一是“谁有权定义真相”的规范争议,二是面对内容体量与传播速度时的可扩展性瓶颈。X 的 Community Notes(前身 Birdwatch,2021 年上线)是这一模式中数据最透明、算法最开放的实例:用户提交注释,其他用户以 Helpful / Somewhat Helpful / Not Helpful 三档评分;算法只在历史上评分行为多元(即彼此曾出现分歧)的评分者之间达成共识时,才把注释标为 Currently Rated Helpful(CRH)并公开显示;未达共识者保持 Needs More Ratings(NMR),被判定不有用者为 Currently Rated Not Helpful(CRNH),在界面上默认折叠。

既有文献大体沿三条线展开。其一是效能:众包核查被认为可扩展、成本低,准确率可与专业核查相比,且社区注释在跨党派受众中被认为比第三方核查标签更可信。其二是生态依赖与时效:注释撰写者大量引用专业核查机构的结论,社区系统更像混合机制而非独立替代;注释公开平均延迟超过二十四小时,多数用户根本看不到,错过注意力峰值后纠正效果大幅衰减。其三是政治不对称与参与脆弱性:共和党相关帖子被标记的比例显著更高,且难以由评分者偏差或用户构成单独解释;注释很少被采纳的贡献者更易流失。此外,一项合成数据研究系统评估了该算法,发现系统对评分者偏差与策略性操纵高度敏感。

缺口在于:上述研究多把系统当作“输入—输出”的黑箱来评估准确率或偏差,较少把参与结构本身作为解释变量,并用生产环境的算法复现做反事实检验。本文的贡献有三:以 2021–2025 年全量公开记录刻画评分活动的集中度与选择性;以行为推断的政治倾向指标检验高活跃者是否更极化;接入官方开源算法,在固定笔记与算法的条件下重算状态,度量输出对剔除高活跃评分者的敏感性。

I. Theoretical Framework & Hypotheses(理论框架与假设)

本文不设正式假设,而是把 Community Notes 视为一个社会—技术系统,沿三条分析维度组织经验检验,并把它们与共识算法的输出连接起来。理论预设来自两处:一是线上参与的幂律与重尾规律,即少数人贡献多数行为;二是“跨阵营共识”作为合法性来源的规范设计——若高活跃者本身极化,则共识的实质可能被稀释。下表给出每一维度的操作化与推断类型,这一区分对解读全文至关重要。

维度操作化指标数据基础推断类型
参与集中度每人评分次数的幂律拟合、洛伦兹曲线、基尼系数全量 184M 评分事件描述性
内容选择性累计不同发帖账号数随评分数的饱和曲线,与随机打乱基线对照政治标注子样本描述性(对照随机基线)
政治极化行为倾向指标 L(−1 至 +1)× 活跃度十分位;GMM 双成分与 Ashman D政治标注子样本描述性关联(不能定因果方向)
算法敏感性剔除前 k 名活跃评分者后重算状态,与基线做 Jaccard 相似度全量评分 + noteStatusHistory + 开源算法结构反事实/模型推演(非随机干预)

需要强调,算法被设计为只在“历史上评分行为多元”的评分者之间寻求共识,因此理论上高活跃者的评分并不自动等于更大权重;本文的问题恰恰是:在真实数据上,这种设计是否足以抵御参与集中带来的失衡。

M. Materials & Methods(材料与方法)

R. Results(结果)

指标数值含义
注释 / 贡献者 / 评分事件2.2M+ / 1.3M / 184M全量公开数据 2021-01-28–2025-12-02
政治标注子样本218,382 注释 · 162,228 推文 · 733,750 评分者 · 18,248,161 评分约占全部评分 10%
幂律指数 α / x_min / KS D3.06 ± 0.04 / 4232 / 0.013重尾显著优于指数分布(R=6.49, p<10⁻⁴)
基尼系数 G(全期)0.7820% 用户 ≈ 80% 评分
G_t(2021–2025)0.69 / 0.78 / 0.81 / 0.79 / 0.792022 后稳定于高位
饱和参数(观测 vs 随机)N_asy 427.9±1.0 vs 970.0±0.7;τ 632.7±2.0 vs 1080.1±1.0选择性非随机
行为倾向 Lμ=−0.08 · M=−0.11 · σ=0.69 · 偏度 0.19总体略偏民主党、近对称
Ashman D(第 1–4 / 9 / 10 档)2.80/2.73/2.82/2.86 · 3.63 · 4.17活跃度越高越双峰
剔除前 10 名评分者4,587 / 152,565 条 CRH 失去公开显示;7,768 条 CRNH 改变极小扰动即改变可见性
剔除 10,000 名评分者CRNH 的 Jaccard 最多下降 69%状态集合显著重排

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((社区笔记超活跃少数派))
    I 引言
      专业核查收缩
      社区笔记成替代
      共识算法定可见性
    R 问题
      打分成多集中
      活跃者是否更极化
      算法对少数人多敏感
    M 方法
      全量公开数据
      一亿八千多万评分
      政治标注子样本
      开源算法重算
      剔除最活跃者
    R 结果
      基尼系数零点七八
      两成人给八成评分
      活跃档更偏共和党
      十人即改四千条
    a 讨论
      描述性关联为主
      反事实属模型推演
      行为代理非自报
      共识或被少数塑造
    D 结论
      权力未被分散
      集中到极化少数
      建议限权与降权
      众智难以实现

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。