🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
你有没有发现,打开新闻网站,翻来翻去好像都是那几件事?这不是错觉。过去十几年,人们看新闻的习惯从买报纸、看电视,转到了刷平台和聚合器。读者是方便了,可新闻机构的日子难过了:广告被平台拿走,收入缩水,只能让更少的记者写更多稿子。
学界担心的是另一件事:内容会不会因此变窄。衡量新闻好不好,民主理论里有个老标准叫“多样性”,拆开看有三层。第一层是话题:媒体到底讲了哪些事,是只讲疫情数字,还是也讲经济、教育、心理健康?第二层是行动者:稿子里被引用、被转述的都有谁,是清一色官员和专家,还是也有普通市民、公益组织?第三层是观点:这些被采访的人,是支持政府的防疫措施,还是反对?
问题在于,这三层过去基本靠人工数。人工数很准,但太慢:一篇稿子读几分钟,一年上万篇根本数不完。所以研究者通常只敢抽一小部分,或者只数其中一层。近几年大家开始用计算机,可又冒出另一个毛病——很少有人认真检验机器数得准不准。不同研究各用各的算法,结论根本没法放在一起比。
这篇论文就是来补这个洞的:把四种常见的计算机方法放在同一份材料上,逐环节和人工标注对答案,看哪一步能信、哪一步不能信。
② 研究问题(要回答什么?)
作者要回答一个很具体的问题:要量新闻内容多样性,哪些计算机技术是真的靠谱的?
这个问题得拆成四小步问,因为一条分析流水线其实有四道工序。
第一道,筛稿子。关键词搜索会把“顺嘴提一句疫情”的稿子也捞进来。机器能不能像人一样,判断出“这篇稿子的主题到底是不是疫情”?
第二道,分子话题。疫情报道里还有疫苗、检测、封锁、经济、心理健康的区别。哪种主题模型能把这些细分的子话题分得更像人?
第三道,找人。稿子里被引用的人和组织是谁?他们属于政府、专家、公益组织还是普通市民?机器能不能既找全,又分对?
第四道,判立场。被采访的人是支持防疫措施,还是反对?这是最难的一步,作者想知道机器到底差多远,也想知道人自己是不是也判不准。
四道工序各自最优的方法可能不是同一个,所以作者没有笼统地说“AI 行不行”,而是逐环节给答案。
③ 研究方法(怎么做的?)
作者选了一个很合适练手的场地:荷兰公共广播 NOS 的新闻网站。它是荷兰访问量最大、信任度最高的新闻源之一,作为公共广播依法要保证观点多元,稿子也全部公开。作者用关键词抓到 2020 年 1 月到 2022 年 5 月的 10,662 篇报道,正好覆盖疫情暴发到措施放开。
接下来是“出考卷”。一位主编码员受训后标注了 796 篇(先随机抽 500 篇,再按关键词补抽,保证各子话题都有)。另找一位编码员独立标注其中 120 篇,算两人的一致程度,指标叫 Krippendorff's α。主话题一致性达 0.89,行动者识别 0.73 到 0.86,功能分类 0.77 到 0.94,都算不错;但观点标注只有 0.52 到 0.60,连人都吵不清。分歧由研究者裁定。
然后是四种考生:主题模型(LDA 按词频归堆,BERTopic 先转成向量再聚类)、命名实体识别(Stanza 挑出人名机构名)、监督分类(支持向量机与在荷兰语上微调过的 RobBERT),以及两个 70 亿参数的开源大模型——不给训练样本,直接看提示词干活。
评分很直白:分类任务看准确率和 F1;主题模型没法算统一分数,就把机器分出的主题逐个人工读一遍,看能不能读成像样的子话题,再和人工标注对照。
④ 结果(发现了什么?)
第一关筛稿子,大模型赢得很干脆。测试集是 120 篇人工标注稿(78 篇确实以疫情为主题)。传统支持向量机准确率 0.84,微调过的 RobBERT 是 0.90;两个大模型一个 0.97、一个 0.95,几乎和人一样,还没用训练数据。
第二关分子话题,BERTopic 明显更细。在 6,802 篇疫情稿的近七万个段落上,BERTopic 分出的簇有 96% 能读成连贯主题,LDA 只有 44%。BERTopic 还捞出“国外疫情”“检测政策”“抗议”“疫苗谣言”等 LDA 没有的细类;LDA 则把很多东西糊成一大块,导致部分子话题被高估。
第三关找人和分类,喜忧参半。NER 只认出人工标注行动者的 56%——很多被引用者根本没名字,稿子里写的是“专家”“发言人”。普通市民有 59% 到 62% 被漏掉。判断一个名字是不是真被引用,RobBERT 对人名准确率 78%、机构 81%。给行动者分四类时,RobBERT 综合 F1 是 0.81,大模型约 0.74,传统方法只有 0.66;但所有方法在“市民”上都垮了,最低只有 0.30。
第四关判立场,全线告急。先判断这人有没有谈防疫措施,RobBERT 还能到 0.84;再分“支持”和“反对”,最好的 F1 也只有 0.55,判“反对”时最差只有 0.19。机器常把“客观转述”误当成“表态”。
⑤ 讨论(这些发现说明什么?)
作者对四关结果逐一给了“该怎么用”的建议。
筛稿子这关,放心用大模型。它几乎不需要训练数据,准确率又接近人,特别适合主题复杂的议题——光靠关键词一定会混进大量噪声。
分子话题这关,要看你想要粗还是细。这里有个易被忽略的坑:多样性分数本身依赖“分成几类”和“每类占多少”。LDA 的类更粗,算出的多样性往往更高;BERTopic 的类更细,分数会低一些。换模型会换结论,所以跨媒体、跨年份比较时必须用标准化指标,并报告用了哪种模型。
找人这关,千万别只用 NER。NER 会把所有名字都当成行动者,而被提到名字不等于被采访。正确做法是先捞候选,再用分类器判断“是不是真被引用”。还有一块硬骨头——没有名字的群体,如“政府官员”“学生”“专家”。这些恰是普通人最常出现的形态,漏掉它们,评估就会系统性偏向精英。
判立场这关,作者认为不能全怪技术。新闻里的观点常藏在引语和转述里,还常常半支持半反对;这和社交媒体上的短句表态完全不同。人工标注一致性只有 0.5 左右,说明“这段算不算表态”本身就模糊。作者建议改成两步:先判断有没有表态,再判断朝哪个方向。
⑥ 结论(最终结论 + 启示)
这项研究给出的总答案是“有条件地可行”:话题和行动者可以用机器可靠地量,观点暂时不行——而且这个“不行”不只是机器的锅,人自己也判不准。
它真正的贡献不是某个模型拿了最高分,而是把“量新闻多样性”拆成了一条可替换零件的流水线:筛稿、分子话题、找人、分功能、判立场,每一步都告诉你哪种工具靠谱、坑在哪里、该怎么做验证。这套流水线可以换语言、换议题,哪个环节出了新模型就换哪个零件。
作者也老实交代了局限:只测了一个议题(疫情)、一家媒体(NOS)、一种语言(荷兰语),而荷兰语和英语结构接近,本身在自然语言处理资源上就占便宜,所以还不能直接说“这套方法对中文、阿拉伯语同样好使”。另外,主题模型的评价靠人工阅读判断,没法做严格的统计检验。
对做内容分析的研究者,这是一份很实用的选型说明书;对关心新闻多元的政策制定者,它提了个醒:用不同算法算出来的“多样性”,可能根本不是一回事,监管指标必须写清楚测量方法,否则数字没法比。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
新闻媒体是公民获取政治信息的中枢,多样性因此被视为评估媒体民主功能的基础规范(Napoli, 1999)。平台化改变了新闻的生产、分发与消费:受众转向聚合器,新闻食谱固然变宽(Fletcher et al., 2023),但传统机构在收入与注意力双重挤压下被迫“以更少资源生产更多内容”(Beckers et al., 2019),内容多样性反而可能被侵蚀。
既有研究沿三个子维度评估内容多样性:话题多样性(议题覆盖范围)、行动者多样性(被引用/转述者的身份与地位分布)、观点多样性(社会、政治与文化视角的光谱)(Loecherbach et al., 2020; Voakes et al., 1996)。测量长期以人工内容分析为主,成本约束迫使研究者在“维度广度”与“语料广度”之间二选一:或只抽子样本、或只测单一维度(Baden & Springer, 2017; Buyens & Van Aelst, 2022),或只做单一议题(Baden & Springer, 2014; Masini, 2019)。
计算方法的引入本可突破规模限制(Amsalem et al., 2020; Van Atteveldt & Peng, 2018),但现有计算取向的多样性研究普遍缺乏严格验证,也缺少对关键方法学决策的讨论(Baden et al., 2022; Loecherbach et al., 2020)。操作化不一致会使发现不可比(Joris et al., 2020),而不可比的证据无法为多元主义政策提供依据。此外,该领域存在明显的英语中心偏误(Baden et al., 2022)。
本文的贡献有三:其一,把三个维度整合为一条顺序流水线(主话题过滤 → 子话题识别 → 行动者抽取与功能分类 → 立场分类),而非孤立评估单一任务;其二,在同一份荷兰语金标准语料上横向比较主题模型、命名实体识别、监督分类、开源 LLM 零样本标注四类方法,逐环节给出选型依据;其三,以荷兰公共广播 NOS 的疫情报道为测试床,为非英语语境提供可复用的验证范式。核心研究问题为:哪些计算技术能够对作为新闻内容多样性维度的话题、行动者与观点实施有效测量?
I. Theoretical Framework & Hypotheses(理论框架与假设)
话题。规范性讨论区分自由民主与审议民主两种基准:前者要求媒体报道与政治(议会)议程对应,后者要求与公众议程对应(Magin et al., 2023; McQuail, 1992)。话题本身具有层级性,需区分新闻事件、子议题与主题域(Feng & Allan, 2005)。本文采两层操作化:主话题(文章的主导主题是否为新冠疫情)与子话题(疫情相关文章中被实质讨论的具体面向,实质讨论定义为至少两句篇幅,允许一文多标签)。
行动者。Voakes et al. (1996) 将其定义为“用于生产新闻产品的信源之隶属关系与地位分布的离散程度”。代表制自由主义期待媒体充当政治精英的中介,参与式自由主义与审议视角则要求纳入公民社会与普通公众(Ferree et al., 2002)。本文采用 Beckers 与 Van Aelst (2019) 整合的四类框架:政府与政治、专业人士与专家、公民社会组织、公民;编码手册先细分 18 类职能再上卷为四类,从而同时支持政治行动者多样性与社会行动者多样性的评估。
观点。观点多样性被视为内容多样性的核心(Magin et al., 2023),但概念化分歧最大。以行动者多样性间接替代的做法受到质疑:行动者多元不等于视角多元(Baden & Springer, 2017; Magin et al., 2025)。框架分析资源密集且难以跨议题迁移;效价(valence)又被批评不足以刻画观点,且情感与立场在概念与经验上均可分离(Bestvater & Monroe, 2023)。本文因此采纳立场检测(stance detection)作为折中:将观点操作化为新闻行动者对政府新冠防疫措施的支持或反对,针对议题设定立场目标,从而具备跨议题可迁移性。
| 编号 | 研究问题 | 对应维度 / 评估设计 |
|---|---|---|
| RQ1 | 何种方法能有效识别文章主话题(是否为疫情报道) | 话题 · 二分类,120 篇留出测试集,准确率与宏 F1 |
| RQ2 | 何种主题模型更能还原细粒度子话题结构 | 话题 · LDA vs BERTopic,簇内/簇间语义效度与下游分布对照 |
| RQ3 | 如何可靠抽取并分类被引用/转述的行动者 | 行动者 · NER+引用分类 vs LLM 直接抽取;四类功能分类 |
| RQ4 | 自动化方法能否识别行动者对防疫措施的立场 | 观点 · 三步二分类(是否谈及措施 / 支持 / 反对) |
M. Materials & Methods(材料与方法)
- 语料与抽样:NOS.nl(荷兰公共广播,受众触达与信任度均居首,依法须遵守多元主义标准且内容公开)。检索式
corona* OR covid* OR "sars-cov-2",得 2020 年 1 月至 2022 年 5 月共 10,662 篇,覆盖疫情暴发至措施解除全过程。经主话题分类过滤后进入分析的疫情稿为 6,491 篇(Starling 判定口径下为 6,802 篇),段落级语料 N = 67,431。文章平均长度 451 词(SD = 229)。 - 人工标注与信度:依内容分析规程迭代开发编码手册。主编码员标注 796 篇(先随机抽 500 篇,再按关键词补抽以保证子话题覆盖);第二编码员独立标注 120 篇,以 Krippendorff's α 评估一致性。主话题
α = .89;子话题α = .48–.93(“措施”“政治影响”“全球应对”“科研信息”“社会后果/心理健康”低于 .667 门槛,后两者因主题重叠合并为α = .67;“权利与自由”因N = 2删除);组织识别α = .73、个人识别α = .86;职能分类α = .77–.94;是否谈及措施α = .84;支持立场α = .52、反对立场α = .60(低于门槛,但研究者与主编码员之间为α = .89 / .81)。全部分歧由研究者裁定,裁定结果为金标准。 - 测量操作化:① 主话题为二值变量(全文多数内容是否聚焦疫情);② 子话题为二值多标签(至少两句实质讨论);③ 行动者为“被直接引用或转述的个人与组织”,以整篇文章为语境单元,同一人不同称谓规范化至最长形式(如 Rutte / Mark → Mark Rutte),每条行动者—句子配对构成分类输入;④ 观点按“每项具体措施”分别标注,支持=赞同/认可措施存在,反对=不赞同/认为措施不必要或有害,允许同一行动者对不同措施持混合立场。
- 模型规格:LDA 在段落级建模,参数网格
k = 5…80(步长 5),依 UMass 连贯度与困惑度的拐点选定k = 50,非对称 α 先验,固定随机种子;停用词用 NLTK 荷兰语表,词形还原,剔除出现率 <0.1% 或 >70% 的词。BERTopic 用 RobBERT 荷兰语句向量,UMAP 降维(n_neighbors = 20)、HDBSCAN 聚类(min_cluster_size = 100),CountVectorizer 取 unigram+bigram,得 51 个主题(含 −1 离群类)。Stanza-NL 神经流水线做 NER(无需额外训练)。SVM + TF-IDF,二分类用线性核、多分类用一对余,网格搜索配合 10 折(二分类)/5 折分层(多分类)交叉验证。RobBERT-2023 逐任务微调,学习率{1e-5, 2e-5, 5e-5}、epochs ∈ {3,5}、batch size 8、验证损失连续 3 轮不降即早停。LLM:Starling-LM-7B-alpha(RLAIF 微调)与 Mistral-7B-Instruct-v0.2(SFT 微调),同一 Mistral-7B 底座,temperature = 0、种子固定、零样本提示,提示词由编码手册改写并在独立标注集上迭代优化。 - 评估策略:分类任务在 120 篇留出人工标注文章上计算准确率、精确率、召回率、宏/加权 F1;行动者抽取以“正确抽取姓名比例”加人工复核评估;主题模型因 LDA 与 BERTopic 的生成假设不同、且与人工编码分属自下而上/自上而下两种范式,不做正式统计检验,改采三重效度:簇内语义效度(人工阅读词表与代表文本)、簇间效度(人工归并为主题类别,LDA 得 10 类、BERTopic 得 17 类)、下游任务效度(与 410 篇人工标注疫情稿的子话题分布对照)。
| 流水线环节 | 候选模型 | 训练 / 测试规模 | 评估指标 |
|---|---|---|---|
| 主话题分类 | SVM、RobBERT、Mistral、Starling | 训练 676 篇(410 篇疫情)· 测试 120 篇(78 篇疫情) | Accuracy、Macro F1 |
| 子话题识别 | LDA(k=50)、BERTopic | 6,802 篇 · 67,431 段 | 簇内/簇间/下游三重效度 |
| 行动者抽取 | Stanza-NER+分类器、LLM | 训练 2,139 个实体(1,326 为真行动者)· 测试 485 个实体(271 匹配) | 正确抽取比例、人工复核 |
| 行动者功能分类 | SVM、RobBERT、Mistral、Starling | 训练 1,375 人 · 测试 295 人(共同输入) | 各类 F1、宏/加权 F1 |
| 立场分类 | SVM、RobBERT、Mistral、Starling | 训练 1,229 条行动者—句子(477 谈及措施,168 支持、80 反对)· 测试 295 人(114 谈及,40 支持、29 反对) | 正类 P/R/F1、模型准确率 |
R. Results(结果)
- 主话题分类:零样本 LLM 几乎与人类持平并超越监督模型。Mistral 准确率 .97、宏 F1 .96;Starling .95 / .95;微调 RobBERT .90 / .89;SVM+TF-IDF .84 / .83。说明“主题判定”这类整体语义任务已可由指令遵循模型零样本完成。
- 子话题识别:BERTopic 的簇有 96% 语义连贯,LDA 仅 44%。BERTopic 独有“国外疫情”“检测政策”“健康码 App”“抗议”“谣言”“长新冠”等细类;LDA 独有“医疗系统压力”“对特定人群/心理健康的影响”两类。与 410 篇人工标注稿的分布对照显示 BERTopic 更贴近人判,LDA 因簇过宽而系统性高估大类占比。人工归并后 LDA 得 10 个主题类别、BERTopic 得 17 个。
- 行动者抽取:Stanza-NER 仅覆盖人工标注行动者提及的 56%,因大量行动者以泛称出现(“专家”“发言人”“29% 的受访者”);对公民类行动者漏检 59–62%。引用判定环节,RobBERT 对人名准确率 78%、机构 81%;SVM 为 74% / 75%。LLM 直接抽取的候选更少(Mistral 309、Starling 254,金标准 295),对人名识别率 63–77%、机构 55–67%,对泛称处理不一致,公民类同样漏检 62%。
| 功能类别 | 训练 / 测试人数 | Starling F1 | Mistral F1 | SVM F1 | RobBERT F1 |
|---|---|---|---|---|---|
| 政府与政治 | 488 / 95 | .80 | .81 | .70 | .92 |
| 专业人士与专家 | 700 / 137 | .80 | .78 | .69 | .84 |
| 公民社会组织 | 103 / 36 | .58 | .49 | .41 | .66 |
| 公民 | 84 / 27 | .50 | .59 | .30 | .46 |
| 模型准确率 | — | .76 | .71 | .64 | .82 |
| 加权平均 F1 | — | .74 | .74 | .66 | .81 |
| 宏平均 F1 | — | .67 | .67 | .53 | .72 |
- 功能分类的结构性偏差:四类中“政府与政治”“专业人士与专家”普遍高 F1,“公民社会组织”“公民”全面偏低(宏 F1 最低 .30)。原因有二:训练集类别不平衡压制少数类;公民类行动者上下文过少。值得注意的是 LLM 在“公民”类上反超监督模型(Mistral .59、Starling .50 vs RobBERT .46、SVM .30),提示预训练带来的语境补全能力对稀疏类别有帮助。
- 立场识别:判断行动者是否谈及防疫措施,RobBERT 显著领先(
F1 = .84、准确率.88),Mistral.61、Starling.65、SVM.59。支持立场分类的全模型 F1 仅在 .48–.55 区间:SVM 召回最高(.62)但精确率仅.40;Starling 精确率.79但只召回.42,漏检过半。反对立场进一步恶化,F1 落在 .19–.45:RobBERT 精确率1.00而召回仅.10(F1 = .19),Mistral.80 / .14(.24),SVM.28 / .67(.39),Starling 相对均衡(.43 / .46,F1 = .45)。共性是模型系统性地无法把立场与中立报道区分开。
a / D. Discussion & Conclusion(讨论与结论)
- 逐环节的选型结论:① 语料构建优先用分类而非关键词,LLM 因近乎完美对齐且零训练成本最适;但任何方法都需议题语境知识,代表性样本的人工标注是整条流水线的前置投入。② 子话题识别若重粒度与连贯性选 BERTopic,若需粗粒度主题域选 LDA;模型选择会直接改变多样性分数(LDA 簇宽 → 分数偏高),跨媒体/跨时段比较必须使用标准化多样性指标并报告聚类数,因 BERTopic 的簇数随语料规模浮动。③ 行动者识别不应单独依赖 NER:NER 抽取的是全部命名实体而非被引用者,会高估行动者规模;应叠加引用分类器,Transformer 分类器(RobBERT)表现最佳,LLM 可作为无训练数据时的可行替代,但其对机构的较弱识别须先验证。④ 功能分类 RobBERT 最优但优势有限,LLM 零样本已接近;无论何种方法,公民与公民社会组织均被系统性低估,这会直接扭曲行动者多样性评估。
- 观点维度的本体论困难:观点多样性是研究最多却最难测量与推广的维度(Magin et al., 2025),本研究中人机同时失灵——人工编码
α = .52 / .60,模型 F1 低至.19。作者归因于两点:其一,疫情这类多维议题横跨社会、经济、政治领域,同一行动者在不同措施上立场可以相反;其二,长篇新闻的立场检测与短社交媒体文本本质不同(AlDayel & Magdy, 2021; Burnham, 2025),记者通常通过引语与转述间接呈现观点,模型难以区分“报道了一次表态”与“表达了立场”。建议改为两阶段流水线:先判定是否存在立场表达,再判定方向。 - 开源模型的方法学意义:回应学界对商业 LLM 不可复现、训练数据不透明与数据安全的担忧(Ollion et al., 2024; Spirling, 2023; Törnberg, 2024a),本文选用两个可在单卡本地部署的 7B 开源模型。二者同底座而异微调策略,在反对立场任务上差异明显(Starling 均衡、Mistral 保守),说明“同参数规模”不构成可互换性,实施前必须逐一对照人工标注验证。
- 局限:(1) 仅单一议题(新冠疫情)与单一媒体(NOS),外部效度受限;(2) 仅荷兰语,虽缓解了英语中心偏误,但荷兰语与英语结构相近且受益于欧洲语言在 NLP 资源中的优势,结论不能直接外推至资源稀缺语言;(3) 金标准由单一研究者的裁定构成,虽经双编码信度检验,仍可能存在个体编码风格;(4) LDA 与 BERTopic 的生成假设不同,无法做正式统计比较,主题模型评价依赖人工判断;(5) 立场标注的编码员间信度低于常规门槛,虽以研究者—主编码员一致性补强,仍构成测量不确定性。
- 实践启示与展望:流水线的模块化设计使其可跨语言、跨议题替换组件,并随方法进步局部升级;代码已开源于 GitHub(ekilik/Automated_News_Diversity)。对政策与监管而言,关键含义是多样性指标必须与测量方法绑定披露,否则不同机构、不同年份的数字不可比。未来应优先推进跨议题与跨语言验证,并对新兴技术(如 LLM 自动主题命名)做系统对照。致谢:分析在 SURF Research Cloud 上完成;作者声明无利益冲突。
🧠 IRMaD 思维导图
mindmap
root((新闻多样性怎么量))
I 引言
平台挤压媒体收入
三大维度话题人物观点
手工编码规模受限
计算研究缺验证
R 问题
哪些技术可有效测量
主话题与子话题
行动者识别与分类
立场支持或反对
M 方法
荷兰广播一万零六百篇
真人标注七百九十六篇
双编码信度检验
LDA 对 BERTopic
SVM 对 RobBERT
两个七十亿开源大模型
R 结果
大模型主话题九成七
BERTopic 连贯率九成六
平民行动者漏检六成
反对立场最低零点一九
a 讨论
话题人物可自动测量
观点连人也难一致
小众群体被系统性低估
模型选择改变多样性分数
D 结论
流水线模块可替换
跨语言跨议题待验证
人机结合仍是正解
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。