🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
计算传播学是一门用计算机方法研究传播现象的年轻学科。二〇一九年这份期刊创刊,二〇二〇年国际传播学会把计算方法的兴趣小组升格为正式分部,这两个时间点常被当作它成形的标志。短短几年,这个领域已经积累了大量论文,也形成了自己的研究习惯。
科学讲究可累积、能自我纠错,这就要求研究结果能被别人重新算出来,或者换一批数据再做一遍还能站得住。前一个要求叫可复现,后一个叫可重复。心理学在十多年前爆出的重复危机,让社会科学开始大规模自查,传播学也陆续有人呼吁重视透明度。
可计算传播学有它自己的麻烦。它常用的媒体内容和平台数据大多归商业公司所有,接口说关就关;分析方法又涉及大量需要研究者自己拿主意的步骤,同样一份数据换个处理顺序就可能得出不同结论。这些特点到底让重现变容易还是变难,此前只有零散的个案讨论,没有人对整个领域做过系统盘点。
② 研究问题(要回答什么?)
这篇论文要回答的是一个领域层面的体检问题,而不是检验某个具体假设。作者想知道,计算传播学的研究在数据、方法和开放实践上呈现出什么样的面貌,这些面貌又会在多大程度上影响别人重现或重做这些研究。
拆开来有四件事。第一,这个领域最常用什么样的数据,是媒体内容、问卷自报,还是手机日志一类的被动痕迹。第二,这些数据是怎么弄到手的,是下载现成数据库、调用平台接口,还是自己写程序抓。第三,论文有没有公开数据和代码,公开的比例随时间怎么变。第四,公开数据的研究是不是也更愿意公开代码。
作者特别说明,他们评的是潜在的可复现性和可重复性,也就是从论文呈现出的研究属性去推断重现的难度,而不是真的把每篇论文重新跑一遍。这样做的代价是只能给出间接证据,好处是覆盖面可以做到几百篇,从整体上看出一个领域的习惯。
③ 研究方法(怎么做的?)
作者把两条路线接在一起,先用半自动的系统性文献综述缩小范围,再靠人工逐篇阅读做内容分析。
第一步从文献数据库里取出二〇一〇年到二〇二一年间、发表在本领域排名靠前的几十种传播学期刊上的英文论文,共两万两千三百七十五篇。接着用一套计算传播相关的关键词筛标题、摘要和作者关键词,剩下六千五百五十六篇。关键词只能做粗筛,于是两位编码员先人工判读约一千篇,标出哪些真用了计算方法,再用这套标注训练一个朴素贝叶斯分类器。分类器在测试中准确率约八成四,最终把两千五百五十一篇判为计算传播研究。
第二步从这个池子里随机抽五百篇,抽样时兼顾期刊和年份的比例,再加上这本期刊当时已发表的三十五篇实证文章,共五百三十五篇。人工复核又剔除了五十九篇纯理论、纯定性或没有明确计算成分的稿子,最后剩下四百七十六篇。
编码手册分两层,一层记论文的整体信息,一层记具体的数据类型、取数方式、分析方法和共享情况。两位编码员先共同编码一成样本、微调手册,再对另一成样本做双编码,总体一致率九成六,克里彭多夫的阿尔法为零点八,科恩的卡帕为零点七七。手册、数据和代码都放在公开的开放科学框架仓库里。
④ 结果(发现了什么?)
研究结果的第一块是数据类型。用得最多的是媒体内容,超过一半的论文都在分析新闻、图片、音频、视频或社交媒体上的文字,比例是百分之五十五点六七。其次是问卷或访谈得到的自报数据,占百分之三十一点三。真正意义上的被动痕迹数据只占百分之六点零九。
取数方式上,能编码的三百三十四篇。最多的是从数据库直接下载,占百分之二十五点六九;其次是调用平台接口,占百分之二十四点六五;问卷占百分之二十二点二二;自己写程序抓网页的只有百分之七点六四。分析里内容分析最常见,占百分之二十八点三一,网络分析占百分之二十点六七,回归占百分之十七点七五,机器学习只占百分之二点七。
共享情况是全文最刺眼的部分。百分之八十九点五的论文没有公开任何数据,完整公开的只有二十七篇,占百分之五点六七,部分公开的六篇。公开者大多把数据放进公共仓库,少数作为补充材料挂在论文旁边。
代码共享更差。百分之九十点五一的论文没有放出任何代码,完整公开的占百分之八点二三,部分公开的占百分之零点六三。不过趋势是向上的:数据共享率到二〇二二年升到百分之二十六点七,代码共享率升到百分之二十。公开数据的研究里有六成四也公开了代码,不公开数据的只有百分之三点五。
⑤ 讨论(这些发现说明什么?)
作者认为,低共享率不是偶然,而是和研究对象绑在一起的。媒体内容通常有版权,自报数据和痕迹数据又涉及个人隐私,很多数据来源本身就是商业平台,作者即使想公开也未必有权公开。有调查显示,法律和伦理顾虑正是研究者不共享社交媒体数据的主要原因。
但作者并不接受把所有责任推给数据。他们引用欧盟科研资助的通行原则,主张能开放就开放、必须封闭才封闭,比如只公开处理过的数据,或者对原始数据设置严格的访问审批。代码的情况更不该如此。代码通常不敏感,公开它能让别人看清数据处理和建模的每一步,哪怕数据不能给,代码配合模拟数据也能提高透明度。他们判断,很多研究者不公开代码,是因为觉得数据都给不了、代码公开也没用,这是一种可以被教育和期刊政策纠正的误解。
作者也提醒,依赖平台接口和商业数据库不仅影响可复现,也影响可重复。平台一旦缩减接口或关停服务,后来者连数据都拿不到,重做研究就无从谈起。他们把这称为平台控制数据对开放科学的威胁,并举了推文数据逐年消失的例子:发出一条推文,一天后大约十六分之一已经找不到,一个月后超过一成半无法检索。
⑥ 结论(最终结论 + 启示)
这篇论文给出的判断是,计算传播学在可复现和可重复上都有结构性短板,短板来自两头:一头是开放实践不足,另一头是数据和方法本身的性质。
作者提出的对策分两层。研究层面,要把数据和代码的共享与文档化变成常规动作,尤其要推动在数据不能公开时也公开代码。制度层面,期刊、会议和资助机构应当把共享写进要求并给予激励,同时学界要集体为稳定的平台数据访问权发声,参与相关的政策倡议。
他们还列出后续可做的事:查期刊政策对共享的实际影响,评估公开数据是否符合可查找、可访问、可互操作、可复用的标准,检查公开代码的文档质量,以及真的组织系统的重复研究,看这些因素到底带来多大差别。至于本文自身,作者承认样本只覆盖头部期刊、时间截止到二〇二一年前后,近两年大语言模型的兴起可能已经改变了图景。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
计算传播学(Computational Communication Science, CCS)以大规模计算手段采集与分析媒体与数字痕迹数据,用以检验传播学理论。该领域成形于 2019 年本刊创刊与 2020 年 ICA 计算方法兴趣小组升格为分部,但可复现性议题自始即被提出:Van Atteveldt 等(2019a)在创刊社论中强调透明与可复现是长期信任的前提,Hilbert 等(2019)把“面对重复危机”列为关键挑战。
既有证据呈两极。一方面,CCS 的流水线可脚本化、可共享,理论上利于复现;另一方面,其数据多为平台所有的媒体内容与数字痕迹,API 受商业公司控制。Pfeffer 等(2022)估计推文在发布 24 小时后约十六分之一已不可得、一个月后逾 15% 不可检索,Küpfer(2024)显示数据衰减具系统性且对敏感议题更快,Davidson 等(2023)因此断言平台控制的社交媒体 API 威胁开放科学。
领域内仅有的系统评估来自 Chan 等(2024):该刊当时全部 30 篇实质性与方法论文中,数据与代码共享率为 46.7%(16/30),但仅 6 篇(20%)可实现部分计算复现,主要障碍是共享不完整与依赖在线平台数据。Haim 与 Jungblut(2023)分析 2010—2020 年 20 种领先传播学期刊,Markowitz 等(2021)分析 26 种期刊 10,517 篇论文,后者仅 5.1% 使用或提及开放科学实践。本文的增量在于聚焦 CCS 子领域,把研究属性与开放实践并置,评估“潜在”而非“实际”的可复现性与可重复性。
I. Theoretical Framework & Hypotheses(理论框架与假设)
本文的概念框架先区分两组常被混用的概念。复现(reproduction)指用原作者的数据与代码重新得到相同结果;重复(replication)指用新数据重做研究。重复又分直接重复与概念重复:前者沿用相同程序、材料、测量与研究人群,后者有意改变设计以检验结果的稳健性与可推广性(Shrout & Rodgers, 2018, p. 492)。Dreber 与 Johannesson(2024)进一步把复现分为三类,本文的类型学即建立在此之上。
| 复现类型 | 定义(据 Dreber & Johannesson, 2024, p. 341) | 在 CCS 中的典型障碍 |
|---|---|---|
| 计算复现 | 依据原作者公开的数据与代码重新得到结果 | 代码与数据共享率低;文档不足 |
| 重建复现 | 依据论文信息与同一原始数据源重做,但无原始代码或数据集 | 平台 API 关闭、数据衰减、商业数据库授权 |
| 稳健性复现 | 对同一数据采用其他合理分析决策后结果是否稳健 | 研究者自由度大,预处理链路不透明 |
作者据此把影响潜在可复现/可重复的变量归为三束:数据类型(媒体内容、自报、痕迹)、取数方式(数据库下载、API、抓取、问卷)、开放实践(数据共享、代码共享及其载体)。其因果逻辑是:数据所有权与可及性决定重建复现是否可行;代码与文档的公开程度决定计算复现是否可行;平台接口的稳定性决定重复研究能否取得同类数据。论文同时说明,表 1 把研究材料(问卷、刺激)、补充信息(实验程序)、数据与代码按“重复必需/复现必需/有帮助”分类,但本文的经验编码只覆盖数据与代码两项,其余仅作概念讨论。
M. Materials & Methods(材料与方法)
设计:半自动系统性文献综述 + 人工内容分析,属观察性元研究,无因果识别策略。
文献池:以 Web of Science 为源,取 Scimago 传播学前 50 与 Google Scholar 传播学前 20 期刊、2010 年 1 月至 2021 年 12 月的英文论文,共 22,375 篇。起始年定在 2010,接续 Lazer 等(2009)的计算社会科学纲领。以从约 150 篇预选 CCS 文献的共现网络中提炼的 28 个关键词对标题、摘要与作者关键词精确匹配,得 6,556 篇。
分类器:两名编码员人工判读约 1,000 篇并标注是否为 CCS(判据为在数据采集、材料生成或数据分析至少一环使用计算方法),此步无正式信度检验。以摘要文本训练朴素贝叶斯模型,准确率 83.82%、敏感度 88.0%、特异度 79.81%、AUC 88.97%,据此将 2,551 篇判为 CCS。
抽样:随机抽 500 篇,保持相对整体文献与各年份的比例;另加入本刊截至 2022 年 4 月已发表的全部 35 篇实证文章(Vol. 1–4(1))。合计 535 篇,人工复核剔除 59 篇纯理论、纯定性或无明确计算成分者,最终 N = 476。
编码:手册分论文层与方法/数据层(数据类型、采集方法、分析方法、是否共享数据与代码、共享载体)。两名受训编码员先编码 10% 样本并迭代修订手册,另取 10% 双编码;全类别一致率 95.57%,Krippendorff’s α = 0.8,Cohen’s κ = 0.77。手册与数据见 https://osf.io/teubg/overview。
R. Results(结果)
样本构成:除本刊外,样本量最大的期刊为 Information, Communication & Society(46 篇)、New Media & Society(38 篇)、International Journal of Communication(37 篇)。样本相对整体传播学文献的占比从 2010 年约 0.4% 增至 2021 年约 4%,扩大约十倍。
| 维度 | 类别 | 占比 | 备注 |
|---|---|---|---|
| 数据类型 | 媒体内容 | 55.67% | 含新闻、图像、音视频及社交媒体文本 |
| 自报数据 | 31.3% | 问卷或访谈 | |
| 狭义痕迹数据 | 6.09% | 手机日志、传感器、搜索记录等被动追踪 | |
| 取数方式(n=334) | 数据库下载 | 25.69% | 如 LexisNexis 新闻库 |
| API 访问 | 24.65% | 平台接口 | |
| 问卷 | 22.22% | — | |
| 网页抓取 | 7.64% | — | |
| 主要分析方法 | 内容分析 | 28.31% | 依预定义编码表或词典 |
| 网络分析 | 20.67% | — | |
| 回归 | 17.75% | — | |
| 机器学习 | 2.7% | — |
数据共享:89.5% 未共享任何数据;完整共享 27 篇(5.67%);部分共享 6 篇(1.26%);声明“可索取”9 篇(1.89%)。在 33 篇实际公开者中,26 篇用公共仓库、5 篇用补充材料、2 篇用论文附录或个人主页;仓库以 OSF 为主(17/26),GitHub 与 Harvard Dataverse 各 3/26。
代码共享:90.51% 未共享;完整共享 8.23%(约 39 篇);部分共享 0.63%(约 3 篇)。时间趋势:2010—2014 年两者近乎为零,2011 年起数据共享缓慢上升、2015 年明显加速,2022 年数据共享率 26.7%、代码共享率 20%。
数据—代码联动(表 2):Fisher 精确检验 p < 0.001,OR = 48.7(95% CI: 22.0–114.4)。
| 未共享代码 | 共享代码 | 合计 | |
|---|---|---|---|
| 未共享数据 | 419(96.5%) | 15(3.5%) | 434 |
| 共享数据 | 15(35.7%) | 27(64.3%) | 42 |
| 合计 | 434 | 42 | 476 |
注:表 2 的“共享数据”42 篇 = 完整共享 27 + 部分共享 6 + 可索取 9;“共享代码”42 篇 = 完整 39 + 部分 3。
a / D. Discussion & Conclusion(讨论与结论)
解释:低共享率首先由数据性质决定。媒体内容多属专有,自报与痕迹数据涉及隐私,且相当比例依赖商业平台,作者未必有再分发权;法律与伦理顾虑是调查中首要的不共享理由。作者主张采用 Horizon Europe 的“尽可能开放、必要时封闭”原则,例如只公开处理后数据或设受控访问。
代码共享的特殊性:代码通常不敏感,是理解分析链路的关键,其低共享率更难用数据限制解释。作者归因于努力成本、缺少要求与激励,以及“数据都给不了、代码共享无意义”的认知偏差;并指出即便数据不可公开,共享代码配合合成数据仍可提升计算复现与重复研究的可行性。
可重复性含义:依赖 API 与商业数据库不仅威胁计算复现,也威胁重复研究——平台缩减功能或关停服务会使后来者无法取得同类数据。作者主张学界集体争取平台数据访问权,并参与 EDMO、DSA 数据访问协作组等倡议。
局限:仅覆盖头部期刊,可能遗漏长尾期刊及跨学科刊物与会议论文;CCS 定义较宽松;时间截止 2021 年(含少量 2022 年卷期),2023 年后大语言模型的普及可能改变图景;分类器以人工标注训练,偏差会传导至语料;未编码期刊政策、研究主题、工具链与共享材料的 FAIR 质量。
结论:CCS 的可复现与可重复短板同时来自开放实践与研究属性。改进路径有二:把数据与代码共享及文档化变为常规,尤其在数据不可公开时仍共享代码;从制度上争取稳定的平台数据访问。本文受 DFG 优先计划 META-REP(441890184)之子项目(464291459)资助;收稿 2025-04-30,录用 2026-08-31,出版 2026-09-21。
🧠 IRMaD 思维导图
mindmap
root((计算传播的可复现性))
I 引言
领域年轻但成长快
可复现与可重复之别
心理学重复危机外溢
平台数据受制于公司
R 问题
常用什么数据
数据怎么取得
数据代码共享多少
共享是否逐年上升
数据与代码是否同现
M 方法
两万两千余篇起步
关键词筛到六千余篇
朴素贝叶斯分类
随机五百篇加本刊三十五篇
人工复核剩四百七十六篇
双编码信度达标
R 结果
媒体内容逾五成
自报数据三成一
痕迹数据仅百分之六
近九成不共享数据
代码全共享仅百分之八
共享率二〇二二年回升
数据共享者更愿共享代码
a 讨论
数据所有权是主因
代码共享被低估
接口关停威胁重复
教育政策可改变
D 结论
共享应成常规
期刊资助方须设要求
争取平台数据通道
后续查政策与文档质量
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。