🧒 初中生也能看懂的版本
① 研究背景(为什么要做?)
在网上冲浪的时候,你遇到的一些账号其实并不是人在操作,而是自动运行的程序,也就是通常说的机器人。它们有的帮忙整理资料、播报天气、提醒日程,有的则不停刷屏发广告,甚至可能在选举期间搅动舆论。过去十多年里,研究者给这些账号起过很多名字,比如社交机器人、水军账号、脚本号,但这些名字大多是学者凭经验拍脑袋定下来的,很少有人真的去数一数、量一量,看看它们实际上到底有哪些种类。
红迪(Reddit)是全世界访问量最大的新闻聚合与讨论社区之一,到二零二五年已有超过五亿注册用户,社区数量以千计。它有一个很特别的地方:这里的用户技术底子好,平台接口相对开放,社区还自发形成了一套承认机器人的文化,机器人往往公开表明身份,用户在互动时回复“好机器人”或“坏机器人”给它打分,这套规矩连名字都有。正是这种公开打分,给研究者留下了一份天然的、由用户共同标注的机器人名录,也让红迪成了观察“机器人群落”最合适的样本。
② 研究问题(要回答什么?)
这项研究想弄清楚红迪上的机器人究竟可以分成哪几类,每一类的行为有什么特点,以及这个机器人群落多年来是怎么变化的。
作者给自己提了三个层次的问题。第一层是分类:机器人能不能像生物学家给动物分科属种那样,从行为数据里自然长出分类来,而不是由学者事先规定好类别。第二层是种群动态:数量是越来越多还是越来越少,新类型什么时候冒出来,有没有类型彻底消失,遇到平台改规则这样的外部冲击时它们怎么应对。第三层是群落结构:不同类型的机器人是不是各有各的地盘,会不会聚成稳定的小圈子。
为了把社会现象讲成生态现象,作者借用了整套生态学与演化生物学的说法,把机器人类型叫作“物种”,把新类型的出现叫作“物种形成”,把某个类型的消失叫作“灭绝”,把平台提高接口费用这样的政策称作“选择压力”。需要特别说明的是,这项研究只看那些公开承认自己是机器人的账号,不包括偷偷伪装成真人的水军。
③ 研究方法(怎么做的?)
作者从两份由网民共同整理的机器人排行榜出发,挑出得票至少十票的账号,一共确认了三千三百八十九个机器人。
要求至少十票,是为了避免把偶尔被误认的真人账号混进来。这个门槛看起来很技术,其实非常关键,因为它直接决定了后面所有结论的边界:那些把身份藏得很深、成功骗过用户的坏机器人,一旦被发现往往很快删号或被封,根本没机会攒够十票。换句话说,这份名单天然偏向长期存活、而且对社区友善的机器人。作者自己也承认,他们很可能明显低估了暗中作恶的那一部分。
拿到名单之后,作者把每个机器人从二零零九年到二零二五年的全部发帖和评论记录都取了出来,连它们回复了谁、被谁触发都一并保留,这样才能看出互动关系。接着给每个账号算了三十三项特征,可以想象成给每个人量身高、体重、血压那样,从四个角度量:什么时间发帖(发帖间隔、是否有规律、是否全天候),在哪些版块活动(去过多少版块、有没有专攻一个版块、是不是被点名才回复),文字风格如何(用了多少词汇、语言是否多样、语气正负),谈的什么内容(十三个大类话题各占多大比例)。
因为很多特征彼此重复,作者先用主成分分析把水分挤掉,只留下二十三项最有信息量的特征。然后用层次聚类把它们分组,让行为相近的自成一群,并逐一比较不同分组数量下的分离程度,最终选定分成十八类。作者还把机器人按年份画成彼此共同出没的网络图,看它们是否形成了稳定的社区。
④ 结果(发现了什么?)
这项研究最后分出了十八种机器人类型,它们既包括按内容划分的类型,也包括按行为方式划分的类型,还有承担平台基础设施角色的类型。
3,389 个
18 类
≥ 10 票
2005–2025
数量与活动的时间曲线最出人意料。机器人账号的创建在一七到二一年间加速,活跃数量在新冠疫情期间达到顶峰,但从二零二二年初就开始下滑,比红迪二零二三年四月宣布接口要收费还早了一年多。二零二三年七月一日新规落地前,发帖量先猛冲一波,紧接着几乎掉到零,之后虽有回升却一路走低。不过如果把官方审核机器人 AutoModerator 算进来,整体评论量的下降几乎看不出来,因为今天它一个账号的活动量就比其余所有机器人加起来还高一个数量级。
另一个发现是种类比例出奇地稳定。大多数类型在二零一六年之前就已经出现,到二零二六年没有任何一个类型真正灭绝,各类型在总盘子里的占比也很少变动。变的只是绝对规模,不是角色构成。
具体到某一类,则各有各的高峰期。对话类机器人在二零二零年末到二一年初突然活跃,那是一批在特定版块上训练出来、专门互相聊天的机器人;娱乐类在二零一八年五月与二零一九年五月各有一次小高峰;关系类在二零二三年四月活跃,时间上正好与生成式人工智能开始普及重合;成人内容类在二零二三年底活跃;政治类在接口新规前后活跃,还一度转移到成人版块,号召大家参与抗议。在共同出没的网络图里,大多数机器人跨很多版块活动,连成一大团,二零二一年还能看到几个单纯由机器人组成的模拟社区,到二零二四年它们大多已经消散。
⑤ 讨论(这些发现说明什么?)
作者认为,红迪机器人群落的变化轨迹,只用平台在二零二三年提高接口收费来解释是不够的。
因为数量下滑在收费政策之前就已经开始,说明还有别的力量在起作用。作者把原因分成两类:一类来自机器人内部,比如技术进步催生了新变种,不同功能被重新组合出新的类型;另一类来自外部环境,比如平台政策、用户习惯和社区规范的改变,像是一种筛选压力,会改变各类型的多寡,却不一定改变整个生态的构成。
更值得琢磨的是活动的集中化趋势。虽然整体盘子缩小了,但活动越来越集中到官方审核机器人 AutoModerator 一个账号身上。AutoModerator 最初是社区自己开发的,二零一五年前后被红迪收编成官方工具,如今成了各版块都能配置的一层治理基础设施。作者认为这说明例行治理正在被制度化。集中化有好处,比如更一致、更省管理成本;但也有代价,一个平台统一管理的系统在功能多样性上会打折扣,也更容易因为一次故障或攻击而整体受影响,同时会挤压社区自己开发新机器人的空间,因为社区自建的机器人往往能贴着本地规范做微调。
作者还把这个趋势和维基百科对照:那边的机器人同样一步步被吸收进平台的治理结构,说明这可能是平台型社区自动化的共同路径。
⑥ 结论(最终结论 + 启示)
这项研究给出的最终判断是,红迪上的自动化并没有消失,而是在从社区自建转向平台官方的基础设施。
换句话说,机器人数量下降不等于自动化退潮,更可能是一次角色转换。一方面,官方基础设施让治理更统一、更容易扩展;另一方面,社区自建机器人减少,也可能让那些过去给红迪带来趣味与实验精神的自动化形态变少。
作者提醒,这项研究的名单只覆盖公开承认身份的机器人,所以观察到的下降不能简单理解成“红迪上的自动化变少了”。恰恰相反,随着大语言模型越来越强,自动账号可能变得更难被用户认出来,反而不容易进入这份靠人工投票产生的名录。因此他们建议后续研究继续追踪人与机器人的长期共同演化,也希望平台在把人工智能纳入官方基础设施的同时,给社区驱动的创新留出位置。
🎓 专业 IRMaD 结构解读
I. Introduction(引言)
自动代理(automated agents)已从工具演变为具有稳定行为模式的社会行动者,相关研究开始用系统性的生态视角审视人机网络与社区 [35,46]。既往对在线机器人的分类工作以类型学(typology)为主,即由研究者预先设定维度(意图、目的、技术设计、披露程度、人类参与度、协同层级等)再分配案例;这类工作长于整理既有知识,却受预设维度与人为选定类别数的约束,难以发现未被识别的行为模式 [4,18,45]。与此同时,大量实证研究聚焦于侦测隐蔽的政治水军与垃圾账号,目标是区分机器人与人类用户,而非刻画已被社区确认的机器人之间的差异 [8,9,10,11,13,14,20,31,33,34,48,51]。
与本研究最接近的是维基百科机器人生态的种群级研究:其结果显示机器人多样性是该平台抵御破坏的韧性来源 [15,16,45]。本文沿用这一视角,但转向一个性质不同的平台。红迪(Reddit)在二零零五年上线,至二零二五年已有逾五亿注册用户与数千个主题版块;其社区对自动化持相对包容态度,形成了公开披露自动化身份的惯例(如“Bottiquette”),用户以回复“good bot / bad bot”的形式对机器人贡献做公开评价 [20,28,29,44]。这种由社区共同维护的标注惯例,为构建一个已被识别机器人的总体提供了独特的数据基础。
本研究的贡献有三:(1)首次对社区公认的红迪机器人种群做 2005–2025 的总体刻画;(2)基于 33 项行为特征、经降维与层次聚类,给出一个经验归纳的 18 类“物种”分类学,并逐类给出判别特征;(3)以种群生态与演化生物学的概念(物种形成、灭绝、生态位、选择压力、趋同/趋异演化)解释该种群的增长、收缩与构成稳定性,回应“死互联网”一类流行叙事。
I. Theoretical Framework & Hypotheses(理论框架与假设)
论文并未设定传统的 H1/H2 假设检验结构,而是以“研究问题 + 生态学概念操作化”的方式组织。下表给出其分析框架与对应操作化。
| 编号 | 研究问题 / 生态学概念 | 操作化与对应指标 |
|---|---|---|
| RQ1 | 机器人“物种”多样性:种群由哪些类型构成 | 33 项特征 → PCA 保留 23 项 → 层次聚类,以平均轮廓系数选 k=18 |
| RQ2 | 种群动态:数量与活动的增长/收缩 | 新建与最后出现账号数、月活跃机器人数、评论与投稿量时间序列(含与不含 AutoModerator 两种口径) |
| RQ3 | 物种多样性:类型数目与相对构成的稳定性 | 18 类逐年活跃账号堆叠面积图与年度构成占比(Fig. 3A 内嵌图) |
| RQ4 | 群落结构与生态位:类型是否形成稳定共处社区 | 机器人–版块二部图按年投影为单模机器人网络 |
| RQ5 | 演化过程:内生变异 vs 外生选择压力 | 类型内变种出现(如 GPT2 模拟社区)、政策事件前后断点(2023-04 公告 / 2023-07-01 落地) |
| C1 | 物种形成(speciation) | 新类型在观测期内首次出现的时间 |
| C2 | 灭绝(extinction) | 类型是否在 2026 年前从种群中消失 |
| C3 | 选择压力(selection pressure) | 平台 API 政策变动是否改变各类型丰度 |
M. Materials & Methods(材料与方法)
- 机器人识别与样本:合并两份众包机器人排行榜 botranks.com(2020–23 运营)与 botrank.net(2018 起,延续至 2026)。两库收录被红迪用户识别为机器人的账号,并记录用户以“good bot / bad bot”回复形成的评价。为降低假阳性,只保留累计得票 ≥ 10 的账号,得 3,389 个确认机器人。除非特别说明,分析一律剔除官方审核机器人
u/AutoModerator(自 2015-07-26 起评论逾 6 亿次)。 - 活动史抓取:从 Academic Torrents 的 Reddit 存档数据取回每个机器人账号的完整评论与投稿历史,并保留其父帖以维持会话结构;共同出没网络覆盖 2009–2025。
- 识别策略的效度威胁:这是一条纯众包标注 + 阈值的识别路径,论文未报告任何精确率、召回率、人工校验一致性(κ)或标注者间信度。作者自陈三项偏差:(i)数据集中 “good bot” 票多于 “bad bot” 票,且被识别为“坏”的隐蔽机器人往往迅速删号、难以跨过十票门槛,因此系统性低估隐蔽恶意机器人;(ii)不产生公开帖文的自动化(爬取、私信、发放徽章等后台功能)完全不可见;(iii)用户在时间上对 “good/bad bot” 惯例的使用变化可能影响名录构成(论文以 Botrank 投票数据检验,未发现系统性漂移)。因此该分类学的适用对象被限定为长期存活、公开披露、且大体善意的机器人;区分“机器人”与“重度人类用户”依据的是社区多名成员重复投票这一社会判据,而非算法判据。
- 特征构造(33 项,4 族):时间(发帖间隔对数均值、突发度 Burstiness
B=(sd-mean)/(sd+mean)、小时熵、响应时延对数均值与方差);社区(版块数对数、版块专门化 HHI、被加精比例、投稿占比、帖文唯一度、显式触发率、与父帖的 Jaccard 相似度);语言(帖长对数均值/方差、词表规模对数、Herdan’s C 词汇多样性、TF-IDF 质心余弦自相似、VADER 情感、链接率、表现力复合指标);语义(13 个宏观话题占比)。连续型特征先做log10(x+1)再重标定到[0,1]。 - 语义主题抽取:以 Sentence-BERT 句向量驱动 BERTopic 得到细粒度主题,再由人工归并为 13 个宏观语义域(成人/NSFW、娱乐虚构、游戏、健康生活、迷因与网络文化、平台治理与审核、政治与公共事务、人际与社会生活、购物消费、体育、技术与编程、工具性、金融经济)。
- 降维与聚类:对相关矩阵做 PCA,按前两个主成分的贡献率之和排序特征,保留累计贡献达 90% 的最小特征集,得 23 项特征(累计 90.47%);对 23 维特征做层次聚类(hierarchical clustering),以平均轮廓系数选簇数,选定
k=18,平均轮廓系数 0.245;以 t-SNE 作二维可视化(旋转不变、嵌入随机,仅解释相对距离)。 - 稳健性检验:分别仅用行为族与仅用语言族特征重做聚类,均未发现超出合并特征的额外可解释结构;
k-means 给出的簇数与总体构成与层次聚类相近。 - 群落/生态位网络:先建年度的机器人–版块二部图,边权
w̃_is为机器人i当年在版块s的发帖数;再投影为单模网络,边权w_ij = Σ_s min(w̃_is, w̃_js),可解读为两机器人当年在共同版块中的最大“相遇”次数;网络用 Gephi 的 OpenOrd 布局绘制。
R. Results(结果)
聚类得到 18 个机器人物种,兼具内容专门化、行为驱动与基础设施三类角色。下表给出每一类的标签与其在 Fig. 2 中最突出的判别特征(数值为图 2 柱状条宽度反推的相对中位数:每项特征在 18 个簇间做 0–1 归一,情感为 −1–1,属从图形几何的延伸解读,非原文正文给出的绝对数值)。
| 机器人类型 | 角色 | 主导语义域 | 判别特征(相对值) |
|---|---|---|---|
| Platform Governance 平台治理 | 治理/基础设施 | 平台治理与审核 0.98 | 小时熵 0.97(全天候)、微跨版块(版块数 0.37、专门化 0.21)、词表 0.57/多样性 0.73 |
| Community Governance 社区治理 | 治理 | 平台治理与审核 0.98 | 单版块高度专门化 1.00、版块数仅 0.06、小时熵 0.98 |
| Conversational 对话 | 行为 | 无单一语义域 | 单版块专门化 0.97、版块数 0.09、小时熵 0.95、词汇多样性 0.73 |
| Shopping Recommendation 购物推荐 | 内容 | 图中语义条不突出 | 跨版块较广(版块数 0.45)、词汇多样性最高 0.77、专门化极低 0.07 |
| Triggered Response 触发响应 | 行为 | 无 | 显式触发率 0.88(全表最高)、小时熵 0.97 |
| Entertainment 娱乐 | 内容 | 娱乐与虚构 0.91 | 单版块专门化 0.87、版块数 0.13 |
| Technology 技术 | 内容 | 技术与编程 0.98 | 单版块专门化 0.96、版块数 0.09 |
| Adult Content 成人内容 | 内容 | 成人/NSFW 1.00 | 专门化低 0.08、版块数 0.37、词汇多样性 0.73 |
| Meme 迷因 | 内容 | 迷因与网络文化 1.00 | 专门化 0.32、版块数 0.28 |
| Health 健康 | 内容 | 健康与生活 0.98 | 专门化 0.63、版块数 0.26 |
| On-Demand Utility 按需实用 | 基础设施 | 工具性 1.00 | 跨版块最广(版块数 0.53)、专门化 0.03 |
| Relationship 人际 | 内容/社会 | 人际与社会生活 1.00 | 情感偏正 0.47、版块数 0.48 |
| Moderation Support 审核支持 | 治理 | 无单一语义域 | 唯一情感显著为负(≈ −0.6)、版块数 0.62、专门化 0.01 |
| Politics 政治 | 内容 | 政治与公共事务 0.80 | 专门化 0.48、版块数 0.25 |
| Finance 金融 | 内容 | 金融与经济 0.92 | 专门化 0.72、版块数 0.12 |
| Community Utility 社区实用 | 基础设施 | 工具性 1.00 | 单版块专门化 0.97、版块数 0.09 |
| Gaming 游戏 | 内容 | 游戏 0.98 | 单版块专门化 0.98、版块数 0.06 |
| Sports 体育 | 内容 | 体育 0.90 | 单版块专门化 0.94、版块数 0.10 |
- 种群增长与收缩:红迪 2005-06 上线,数据集中最早的机器人账号建于 2005-12-09,首条机器人评论出现在 2007-02-05,说明自动化在平台早期即已出现。账号创建在 2017–2021 加速;活跃机器人数在新冠疫情期间达到峰值,并于 2022 年初开始下降,早于 2023 年 4 月的 API 收费公告;投稿量在 2023-07-01 新规落地前冲高、随后近乎归零,之后部分回弹但 2024–2025 持续走低。若把 AutoModerator 计入,评论活动的整体下降消失。
- 物种多样性高度稳定:绝大多数类型在 2016 年前即已出现,到 2026 年无一类型灭绝;尽管总规模大幅收缩,各类型在种群中的相对占比变化很小(Fig. 3A 内嵌)。
- 类型特异的活动节奏:对话类在 2020 年末–2021 年初投稿激增(r/SubSimulatorGPT2、r/SubSimGPT2Interactive 等 GPT2 模拟社区及小众实验版块);娱乐类在 2018-05(主要为
u/Roboragi)与 2019-05(u/quzingler_bot,生成莎士比亚式对白)各有尖峰;人际类在 2023-04 因u/rlcd-bot(身份核验)与u/VisualMod(AI 虚拟社区角色)而活跃,后者走红与生成式 AI 普及同期;成人内容类在 2023 年末活跃(NSFW 创作者社区自动化推广蔓延);社区治理类 2019 年评论增多,其后被更广义的平台治理支持类取代(叠加 AutoModerator 的总体接管);政治类在 2023-07 前后评论增加,期间迁往 r/TrueFMK 等 NSFW 版块,并推动社区参与 API 抗议(号召暂停投稿与投票)。 - 群落与生态位:多数机器人跨多版块发帖,连成一个大簇。2021 年种群规模与活动峰值时另有若干界定清晰的小社区,其中四个为 GPT2 机器人社区(r/SubSimulatorGPT2、r/SubSimGPT2Interactive、r/CoopandPabloPlayHouse、r/CoopandPabloArtHouse,后者为生成模型技术展示);至 2024 年种群大幅缩水,这些社区基本解体,仅涉及人类参与的 r/SubSimGPT2Interactive 反而扩张。
a / D. Discussion & Conclusion(讨论与结论)
- 核心论断一:收缩早于政策。机器人种群的下降在 2022 年初即已显现,早于 2023-07-01 的 API 收费落地,说明政策并非唯一(甚至可能不是主要)驱动;但政策仍是清晰的外生选择压力:落地前投稿激增、落地后骤降至近乎为零。
- 核心论断二:构成稳定而活动集中化。尽管绝对规模收缩、几乎所有类型的量与活动都在下降,多数生态位仍然存续,相对构成在主要类型出现后变化很小。与此同时,活动越来越集中于官方机器人 AutoModerator——它原为社区开发的审核工具,约 2015 年被红迪收编为官方支持能力,可被各版主按本地需求配置。作者认为这体现了常规治理的制度化。
- 集中化的代价:统一系统可提升一致性与行政效率,但相对由大量独立机器人构成的分布式系统,会降低功能多样性,使生态更易受单点故障或攻击影响、对需求与行为的自然波动更不鲁棒,并压缩社区驱动的创新空间(社区自建机器人更能贴合单个社区的规范与演化需求)。
- 演化机制:内生过程源自种群内部,包括既有设计改良或技术革新产生的变种(GPT2 机器人社区即技术进步在既有生态位内生成新变种的例证),以及既有能力重组出跨角色变体;外生过程源自环境变化,如平台政策作为选择性压力改变各物种丰度而不必然改变构成。种群还与更广阔的红迪环境共演化(用户行为、社区规范与平台内容重塑了对自动化的需求)。
- 理论对话:与维基百科的发现一致——自动化逐步被整合进平台治理基础设施 [17]。作者据此反驳“死互联网”式叙事:在红迪,独立开发的、公开可辨识的机器人数量在减少,而自动化本身通过平台支持的基础设施变得更加集中——这未必是自动化的减少,而是其角色的转型,并在一致性与社区创新之间形成权衡。
- 局限:(i)只覆盖公开、公开披露身份且被用户识别的机器人,不涵盖隐蔽机器人、协同机器人网络与未被识别的自动化账号,因此种群下降不可解读为“红迪自动化减少”;大语言模型可能让自动账号更难被识别,从而降低其进入名录的概率。(ii)只刻画可见的发帖行为,抓取、私信、发放徽章等后台自动化不可见。(iii)用户对 good/bad bot 惯例的使用随时间变化可能影响名录构成(以 Botrank 投票数据检验未见系统性趋势)。(iv)分类学本身可被滥用为剖析自动账号或规避识别的工具,作者强调其定位是种群级分析框架而非个体定位工具。(v)向其他平台的外推存疑:红迪具有公开用户档案与互动史、社区投票、大量志愿版主与积极的平台干预等特性,使自动化既更可见也更受社区与平台监督。
- 实践启示与后续方向:平台在把 AI 纳入官方基础设施时,需为社区驱动的创新保留空间;后续研究应补充类型学替代方案、机器人间直接回复互动、人–机互动,以及机器人与人类的长期共演化(与自动化的互动是否变少、性质是否改变)。资助:ERC grant HUMANET No.101170272;作者致谢 Brandon McFarlin 提供 Botranks 数据。
🧠 IRMaD 思维导图
mindmap
root((红迪机器人生态))
I 引言
自动代理成社会行动者
以往多是类型学
侦测研究忽略已被识别者
生态学视角切入
R 问题
机器人分成哪几类
种群数量如何随时间变
类型构成是否稳定
群落与生态位如何
M 方法
两份众包榜单
至少十票门槛
三千三百八十九个账号
三十三项特征四族
主成分保留二三项
层次聚类十八类
轮廓系数零点二四五
R 结果
十八种机器人类型
治理审核与实用各成一族
二二年起总量下滑
二零二三年七月骤降
物种比例始终稳定
无一类型灭绝
官方机器人一家独大
a 讨论
收缩早于政策出台
内生变异 外生选择
治理走向制度化
与维基百科同构
集中化压缩创新空间
D 结论
自动化在转型非消失
名录只覆盖公开机器人
须给社区创新留空间
图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。