SSCI Q1 · Digital Journalism · 预注册实验 N=1,018 · CC 开放获取

没有简单解药:AI 标签、事实核查标签与社区笔记为何难挡 AI 生成假图

Teresa Weikmann, Marina Tulin, Michael Hameleers 等 4 人 · Digital Journalism(2026 年 8 月 29 日在线首发) · 2026 · DOI: 10.1080/21670811.2026.2723426
原题:No Easy Fix to Countering AI-Generated Visual Disinformation: The (in)Effectiveness of AI-Labels, Fact-Check Labels and Community Notes
Open Access 新颖度 0.74

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

如今用人工智能就能轻松生成以假乱真的照片,这类假图正越来越多地出现在社交媒体上,被用来给各种谣言“作证”。你可能刷到过这样的画面:荷兰的弗里斯兰群岛整片泡在海水里,或者一群难民在城市公园里搭满帐篷。这些事从没发生过,看上去却像新闻照片一样真。

麻烦在于,照片天生带着“这是真的”的光环。一段文字谣言我们还会怀疑一下,一张逼真的照片却会让人下意识觉得“有图有真相”。传播学者把这叫做“真实感捷思”:大脑一看到照片,就默认它记录了现实。更让人头疼的是,X 平台自带的 Grok、谷歌的 Gemini 等工具让人人都能随手造图,假图的花样越来越多,光靠一张张辟谣已经跟不上了。

平台手里主要有三种“贴标签”的办法:一是标上“由 AI 制作”(类似水印,欧盟《人工智能法》要求平台标注 AI 生成内容);二是请专业事实核查员标出“有误导”;三是让普通用户写“社区笔记”补充背景,这是 X 上的做法。2025 年 1 月,Meta 宣布在美国停止事实核查、全面改用社区笔记,“到底谁来贴标签更管用”一下子成了现实问题。可过去的研究大多针对文字谣言,而且常常只用单张图、单个话题做实验,把三种标签放在一起、专门比较它们对 AI 假图效果的研究还很少

② 研究问题(要回答什么?)

这项研究想弄清楚,给人工智能生成的假图贴上纠错标签,能不能让人少信一点,以及由谁来贴最管用。作者关心两个结果:一是人们觉得这张图本身有多可信;二是人们多大程度上相信图里讲的那件假事。具体问题如下:

有意思的是,作者特意让两个话题的“政治方向”相反:气候假图讲的是偏左的叙事(夸大气候变化的后果),移民假图讲的是偏右的叙事(渲染移民带来的问题)。这样就能看看,标签对左右两边的谣言是不是一样管用。

③ 研究方法(怎么做的?)

作者在荷兰做了一个事先登记方案的线上实验(预注册:先把要检验什么、怎么分析公开写好,防止事后“挑结果”)。调查公司 Dynata 按荷兰人口结构招募了 1018 名成年人,实验在 2025 年 4 月 7 日到 28 日之间完成。

第一步:造假图。研究者用 X 平台自带的 AI 画图工具 Grok 先生成了 30 张假图,再请 100 名荷兰网友打分:看起来多可信、故事多合理、多容易看出是 AI 画的。一眼就穿帮的、和逼真到谁都会信的都被剔掉,免得结果“触底”或“到顶”。最后留下 10 张图:5 张讲气候变化的夸张后果(比如弗里斯兰群岛被海水淹没),5 张讲关于移民的误导性故事(比如难民在公共公园里搭帐篷)。

第二步:贴标签。每张图都放进一条仿真的社交媒体帖子里,再配上四种处理之一:

① AI 标签
抬头用的是 Meta 真实使用的“Made with AI”(由 AI 制作)。
② 事实核查标签
写明是事实核查员作出的判定。
③ 社区笔记
抬头用的是 X 上真实的“Readers added context”(读者补充了背景)。
④ 对照组
什么标签都不贴。

为了公平,三种标签除了“是谁说的”以外一字不差,都写着:“某某已判定这张照片是用人工智能生成的。帖子中的说法具有误导性。”这样一来,效果上的差别就只能归到标签的来源上。10 张图乘以 4 种处理,一共 40 个版本,每个人随机只看其中一个,这叫“被试间设计”。

第三步:测反应。参与者先回答背景问题和几道“干扰题”(防止猜到实验目的),然后至少看帖子 12 秒,再用 1 到 7 分打分:这张图准确吗、真实吗、可信吗;以及“据你所知,这件事真的发生过吗”。实验前还测了他们对 AI 的看法、对事实核查员的信任、“随大流”的心理,以及对移民和气候变化的态度。结束时,研究者会告诉每个人这些图都是 AI 做的,并教大家怎么识别假图。

人数也是事先算好的:模拟计算显示每组要 235 人、共 940 人,才有九成把握发现标签的主效应;考虑到还要分话题比较,作者多招了一些,最终是一千零一十八人。

④ 结果(发现了什么?)

总体来看,三种标签都没能让人明显少信这些人工智能假图,只有在移民话题上,社区笔记显出了效果。先看全部 1018 人:按“觉得这张图有多可信”(1 到 7 分)来算,不贴标签的对照组平均 3.72 分,AI 标签组 3.50 分,事实核查组 3.46 分,社区笔记组 3.33 分方向是对的,贴了标签的组分数都更低,社区笔记最低;但差距太小,统计检验的 p 值是 0.069,没跨过 0.05 这条“显著”门槛。“相信那件假事”的程度也一样:对照组 3.07 分,三个标签组分别是 2.84、2.76、2.69 分,p 值 0.14,同样不显著。所以 H1、H2 都被否定,三种标签之间也分不出高下。

① 气候假图:全都不管用
只看看到气候假图的 502 人,结果和总体一样,哪种标签都没有显著效果。倒是另一个现象很清楚:越担心气候变化的人,越觉得这些夸大气候后果的假图可信(p = 0.003),而且不管贴没贴标签都这样。
② 移民假图:社区笔记起作用
只看看到移民假图的 516 人,情况就不同了。对照组“相信那件假事”的程度是 3.31 分,社区笔记组降到 2.56 分,差异显著(p = 0.02),效果大小属于“小到中等”。社区笔记组给图片的可信度打分也更低(3.21 对 3.75),但只是“接近显著”(p = 0.057)。
③ 越反移民,社区笔记越管用
在移民假图上,反移民态度越强的人,社区笔记让他们降低对假图信任的幅度越大(p = 0.011);同时,越不信任事实核查员的人,社区笔记对他们越有效(p = 0.015)。

还有一个值得留意的细节:那些相信“很多人都信的事多半是真的”的人(“随大流”心理强),AI 标签和事实核查标签对他们的效果会打折扣;社区笔记的效果虽然没有因此变强,但至少没有变弱,作者据此认为 H6 得到部分支持。在移民假图上,随大流心理越强的人,社区笔记和事实核查标签降低其“相信假事”的效果也越弱。

作者还做了一些没有事先登记的探索分析,只能当线索看:换一种更宽松的统计方法后,全体样本中社区笔记能显著降低可信度和相信程度;气候话题上,事实核查标签能降低假图的可信度;移民话题上,社区笔记再次两项都有效,AI 标签也能降低人们对假事的相信。

⑤ 讨论(这些发现说明什么?)

为什么贴了标签,人们还是差不多照样信?作者给出了几种解释。

① 照片太“像真的”
照片被当成现实的直接记录,一个小小的标签很难打破这种默认的信任。而且实验里的假事在帖子文字和图片里各说了一遍,读起来更顺,也就更容易被当真。
② 标签太短
实验里的标签只有短短两句话。以往研究发现,人们读完整篇核查文章才会有明显的纠正效果,一句“有误导”可能力度不够。
③ 实验里大家看得太认真
检查显示参与者都记得自己看到的是哪种标签,说明他们看得很仔细,可能比平时刷手机认真得多。于是三种标签都被“同样认真”地对待,差别也就显不出来了。
④ 假图里掺着真事
荷兰确实发生过森林火灾,一些骚乱里也确实有移民参与。半真半假的内容,可供纠正的“硬伤”更少。再加上作者用了 10 张不同的图,结果的“噪音”更大,效果更难测出来,但换来的是结论更贴近真实世界。

那为什么偏偏在移民话题上,社区笔记管用?移民问题牵动的是身份认同和“我们与他们”的群体情绪,和气候问题的心理机制很不一样。反移民态度越强的人,本来就越容易相信这类假图,所以可纠正的空间也更大;态度温和的人本来就不太信,标签能起的作用自然有限。更关键的是,社区笔记来自“和你一样的普通用户”,不像专业机构那样容易让人觉得“又是精英媒体在说教”,对不信任事实核查员的人尤其如此。作者认为这符合“动机性推理”和“选择性接受纠正”的研究:人们并不会一视同仁地接受所有纠正,来源让不让自己反感,影响很大。

不过作者也提醒,社区笔记靠普通人参与,可能出错、有偏见,甚至本身被谣言带偏;现实中的社区笔记还常常要引用专业核查文章。所以它应该是事实核查的补充,而不是替代。另外还有两个可能的干扰:一是两个话题的画面本身就不同,气候假图多是风景,移民假图多有人物,人脸和情绪线索本身就可能影响判断;二是数据收集于 2025 年 4 月,正好在扎克伯格宣布 Meta 放弃事实核查、改用社区笔记之后,偏右的受访者可能因此更不信核查、更愿意接受社区笔记。

⑥ 结论(最终结论 + 启示)

这项研究的结论是,对付人工智能生成的假图没有一招鲜的办法,标签管不管用要看话题和贴标签的是谁。总体上,三种标签都只让人“少信了一点点”,统计上站不住;但在移民这种高度两极化的话题上,普通用户写的社区笔记确实让人更少相信假事,对反移民态度强、最容易上当的人尤其有效。

这给平台和政策制定者带来三点启示。具体如下:

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

议题源流。生成式 AI(Grok、Gemini、Meta AI 等)大幅降低了合成图像的制作门槛,AI 驱动的视觉虚假信息在社交媒体上日益常见(Corsi 等 2024),2025 年荷兰大选期间亦有案例(Votta 与 Kruschinski 2025)。既有研究表明,此类内容会被视为真实信息(Shen 等 2021)、负面影响对政治人物的态度(Dan 2026)、削弱对视觉材料(Weikmann 与 Lecheler 2023)和社交媒体新闻的信任(Vaccari 与 Chadwick 2020),进而可能侵蚀数字环境中新闻业的公信力。然而与文本虚假信息的纠正研究(Walter 等 2020;Martel 与 Rand 2023)相比,如何降低 AI 视觉虚假信息的误导力仍缺乏证据。

制度背景。欧洲《强化版虚假信息行为准则》(2022)要求更可见的事实核查;欧盟《人工智能法》要求平台标注 AI 生成内容;X 广泛部署社区笔记;Meta 于 2025 年 1 月宣布在美国终止事实核查、全面转向社区笔记模式。由此,AI 生成的视觉虚假信息可由三类主体标注:AI 标签(水印)、独立事实核查员、用户社区笔记;而与此同时,事实核查机构与平台的正式合作正在弱化。

文献空白。(1)标签总体有效但效应温和(Clayton 等 2020),针对视觉内容、尤其是比较不同标签来源的证据稀缺,而公众对各干预主体的信任本就不同(Lee 2024);(2)既有研究多为单议题(如 Jia 等 2022)、单刺激(如 Koch 等 2023)设计;(3)多数研究聚焦美国语境与右倾虚假信息(Walter 等 2020)。

本研究贡献。预注册、经预测试的调查嵌入实验(荷兰代表性样本 N = 1,018),以原创生成的 10 张 AI 图像覆盖两个意识形态方向相反的议题(左倾的气候变化叙事 vs 右倾的反移民叙事),比较 AI 标签、事实核查标签、社区笔记与无标签对照对图像可信度虚假主张认同的影响,并检验来源态度与议题态度的调节作用;作者称这是少数明确比较左右两种意识形态框架虚假信息纠正效果、且在美国以外检验平台干预的研究之一。

I. Theoretical Framework & Hypotheses(理论框架与假设)

两个结果变量。(1)图像可信度:视觉模态触发「真实感捷思」(realism heuristic;Sundar 2008 的 MAIN 模型),越逼真越可信(Weikmann 等 2025a、2025b),有效标签应明示图像非真以降低其可信度;(2)虚假主张认同:配图会让虚假记忆更生动(Weikmann 与 Lecheler 2023),效果取决于叙事与语境(Lee 与 Hameleers 2025),有效干预应阻止人们在「视觉证据」加持下接受虚假主张。两者分别测量,但预期同时发生。

标签起效的两条机制。其一,改变即时加工,促使个体重新评估而非「默认为真」(Pennycook 等 2018);其二,可信来源提升纠正信息本身的可靠性(Prike 与 Ecker 2023)。对视觉虚假信息而言,真实感捷思与图像的指示性(indexicality)使其更抗纠正,纠正须「击穿」视觉证据与虚假叙事之间看似直接的联系。作者推想:AI 标签通过触发怀疑起效;事实核查进一步解释误导之处并提供替代解读;社区笔记提供社会证明。实验中三类标签在措辞与设计上被刻意设为「原则上同等有效」,只改变来源

编号假设 / 研究问题对应理论
H1a / H1b任一标签来源(AI、事实核查、社区笔记)相较无干预,更能降低图像可信度(a)与虚假主张认同(b)警示标签有效性综述(Martel 与 Rand 2023);打断「默认为真」
H2a / H2b事实核查来源比 AI 来源更能降低可信度(a)与认同(b)过程型 AI 标签效力较弱(Wittenberg 等 2025);事实核查对深度伪造有效(Dan 2026)
RQ1a / RQ1b图像可信度:AI vs 社区笔记;事实核查 vs 社区笔记社区笔记证据有限(Jia 等 2022;Drolsbach 等 2024)
RQ2a / RQ2b虚假主张认同:同上两组比较同上
H4a / H4b「AI 捷思」(相信 AI 客观、中立、准确、公平)越强者,AI 来源越有效机器捷思:机器「不带意识形态偏见」(Sundar 2008);人机传播来源理论(Lee 2024)
H5a / H5b对事实核查信任越高者,事实核查来源越有效来源可信度;不信任主流媒体者抵触核查(Primig 2024)
H6a / H6b从众捷思(群体智慧)越强者,社区笔记越有效从众捷思(Banas 等 2022);众包核查(Drolsbach 等 2024)
RQ3议题(气候 vs 移民)是否影响两项结果动机性推理(Taber 与 Lodge 2006);亲态度纠正更有效的元分析(Walter 等 2020)
RQ4a / RQ4b上述效应是否受气候变化 / 移民既有态度调节党派一致性调节标签效果(Jia 等 2022)

注:原文假设编号由 H2 直接跳到 H4,没有 H3。议题层面作者未设先验预期,将双议题比较定位为稳健性检验与探索。

M. Materials & Methods(材料与方法)

变量题项MSDCronbach α
AI 捷思(Lee 等 2022)4 题:AI 客观、中立、准确、公平3.991.34.83
事实核查信任(Martel 与 Rand 2023;Tsfati 与 Cappella 2003)4 题,以 Nieuwscheckers、deCheckers、Knack 为例:公正、讲出全貌、值得信任等4.031.10.79
从众捷思(Banas 等 2022)3 题,如「如果很多人相信某信息为真,它大概就是真的」3.591.33.80
移民态度(Hameleers 等 2021)5 题,如难民威胁安全、应对难民关闭边境4.271.70.94
气候变化态度(Gustafson 等 2020)语义差异量表 4 题4.711.46.79
DV1 图像可信度(Appelman 与 Sundar 2016)3 题:准确、真实、可信3.501.68.80
DV2 虚假主张认同(Wittenberg 等 2025)单题:据你所知该事件是否发生过2.851.96

R. Results(结果)

R1 · 全样本主效应(N = 1,018):均值方向一致(对照组最高、社区笔记最低),但单因素 ANOVA 均不显著,故未做事后比较。

条件图像可信度 M(SD)虚假主张认同 M(SD)
无标签对照3.72(1.63)3.07(2.08)
AI 标签3.50(1.68)2.84(1.92)
事实核查标签3.46(1.70)2.76(1.93)
社区笔记3.33(1.69)2.69(1.90)
ANOVAF(3, 1014) = 2.37, p = .069, η² = .007F(3, 1014) = 1.82, p = .14, η² = .005

R2 · 假设检验汇总(全样本)

假设检验项系数p结论
H1a / H1b标签 vs 无标签(ANOVA)见上表.069 / .14拒绝
H2a / H2b事实核查 vs AI未做事后比较拒绝
RQ1 / RQ2社区笔记 vs AI、事实核查无差异
H4aAI 来源 × AI 捷思 → 可信度β = 0.09.419拒绝
H4bAI 来源 × AI 捷思 → 认同β = 0.03.816拒绝
H5a核查来源 × 核查信任 → 可信度β = 0.15.236拒绝
H5b核查来源 × 核查信任 → 认同β = 0.07.659拒绝
H6a社区笔记 × 从众捷思 → 可信度β = 0.07.50部分支持
H6b社区笔记 × 从众捷思 → 认同β = 0.15.236拒绝
AI 来源 × 从众捷思 → 可信度β = 0.21.049从众越强,AI 标签越弱
核查来源 × 从众捷思 → 可信度β = 0.20.050近显著,同向

R4 · 移民议题子样本(n = 516):唯一出现显著效应的情境。

效应结果变量统计量p解读
条件主效应(ANOVA)可信度F(3, 512) = 2.89,偏 η² = .017.035Bonferroni 两两均不显著;对照 3.75(1.64)vs 社区笔记 3.21(1.70),p = .057
条件主效应(ANOVA)认同F(3, 512) = 3.71,偏 η² = .022.012对照 3.31(2.17)vs 社区笔记 2.56(1.92),p = .02,Cohen d = 0.37;其余两两不显著
社区笔记 × 从众捷思认同β = 0.42.019从众越强,社区笔记越弱
事实核查 × 从众捷思认同β = 0.49.009从众越强,事实核查越弱
社区笔记 × 核查信任可信度b = 0.44, SE = 0.18, t(508) = 2.43.015核查信任越低,社区笔记越能压低可信度
RQ4b 社区笔记 × 反移民态度可信度b = −0.29, SE = 0.11, t(508) = −2.57.011反移民态度越强,社区笔记效果越强
RQ4b 社区笔记 × 反移民态度认同b = −0.25, SE = 0.13, t(508) = −1.86.064同向趋势,边缘显著

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((AI假图标签难奏效))
    I 引言
      AI假图日益泛滥
      平台三类标签并存
      Meta转向社区笔记
      视觉纠错证据稀缺
      多为单题单图研究
    R 问题
      标签能否降低可信度
      核查是否胜过AI标签
      社区笔记相对效力
      来源态度是否调节
      气候与移民有无差异
    M 方法
      荷兰预注册实验
      代表性样本1018人
      四组被试间设计
      Grok生成10张假图
      标签措辞统一只换来源
      七点量表测两项结果
      ANOVA与OLS交互
    R 结果
      全样本差异不显著
      H1 H2 均被拒绝
      气候议题全部无效
      移民议题社区笔记有效
      小到中等效应量
      反移民者效果更强
      从众心理削弱标签
    a 讨论
      图像真实感难打破
      图文重复增强流畅
      标签过短力度不足
      身份威胁与动机推理
      同侪线索少引抵触
      画面特征或混淆议题
    D 结论
      没有一招鲜
      水印不等于纠错
      社区笔记宜作补充
      核查员仍不可替代
      多管齐下因题施策

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。