🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
有些词，社群内部的人用是亲昵、是自嘲、是“我们自己的话”；外面的人用，就是侮辱。语言学上这叫词的重新占用：被伤害过的群体，把伤人的词拿回来自己用。
这对内容审核是个死结。同一个词、同一句话，意思完全相反。判错了有两种代价：把攻击当成玩笑放过去，或者把社群自己的表达当成仇恨言论删掉——后者尤其讽刺，因为审核本来是要保护这些人的发声。
更麻烦的是，平台的审核方式正在换代：过去用专门的审核接口打分，现在越来越多直接用大模型，把政策写成一段自然语言，让模型自己理解。这等于把“判断语境”的活全交给了模型。
② 研究问题（要回答什么？）
研究问了三个问题，正好对应审核系统的三层：
- 判得准吗？这些系统能不能识别出“这是社群内部用法”，和社群成员的判断一致吗？
- 为什么错？模型给出的理由是什么样的？不同群体之间的错误有没有系统性差异？
- 能改吗？如果在提示词里补上明确定义，能不能把判断掰回来？
作者还加了一层“政策层”：看审核系统内部到底把这类内容归到哪个风险类别。
③ 研究方法（怎么做的？）
他们用的语料叫 IYKYK（“懂的都懂”），共 300 条社交媒体帖子，三个侮辱词各 100 条，全部由社群成员亲自标注——是“重新使用”还是“贬损攻击”，以社群判断为准，而不是研究者拍脑袋。
被测系统分两类：四个专门做审核的模型和四个通用大模型，再加一个老牌审核接口当基线。
评测分五层：政策层（系统把内容归到哪个风险类别）、判断层（分类准不准）、推理层（给的理由像不像）、差异层（不同词、不同群体的错误是否系统化）、引导层（改提示词能不能改善）。
每个样本跑三次，检验模型自己的判断稳不稳定。
④ 结果（发现了什么？）
结果相当不客气。
有一个审核模型对“重新使用”的 F1 分数是 0——它把这类内容全判成了有害。
模型与社群判断的一致性系数区间，很多情况低于随机水平。
社群标注语料规模，三个词各一百条。
具体来说：没有任何一个系统可靠地和社群判断一致。错误还有系统性——三个词里，对黑人社群重新使用的那个词错得最严重，几乎所有的模型在这个词上的一致性都是负数。
更反直觉的是：“是不是专门为审核而建”几乎不能解释表现差异。专用模型不一定比通用模型好，有的专用模型甚至比它的通用底座还差。
那改提示词有用吗？只有把政策写进提示词的系统才能被引导——那些把政策硬编码在模型里的系统，怎么改提示词都不动。而且即使能被引导，效果也很可疑：表面的“改善”主要来自模型整体变得更宽松，而不是它真的学会了分辨语境；副作用是真正的攻击内容也更容易被放过。
⑤ 讨论（这些发现说明什么？）
作者的核心论点是：决定审核成败的不是系统的用途，而是政策如何被表示。政策写在提示词里，系统就可被检查、可被修正；政策烧进模型权重里，出了问题只能重新训练，而且没人知道它内部到底按什么标准在判。
但“可引导”不等于“能解决”。作者指出，重新使用的含义依赖具体语境、说话人身份和社群历史，这些是在推理时补几条定义给不了的。补定义更多改变的是模型“怎么解释”，而不是“怎么判断”。
还有一个结构性难题：语言在变。年轻人的俚语、平台内部的黑话，几个月就换一批。无论是训练时固定的政策，还是推理时临时给的定义，都是静态的，跟不上这种变化。
⑥ 结论（最终结论 + 启示）
结论是：内容审核的失败能不能被纠正，取决于政策是否透明；但真正的纠正，需要语境判断，而这是静态定义给不了的。
对平台的启示：选审核系统时，别只看“是不是专用模型”，要看政策能不能被检查、被质疑、被更新；把政策写进提示词是必要条件，但不充分。
对研究的启示：评测不能只看总体准确率，要分层看——政策归类、判断、理由、群体差异、可引导性，每一层都可能藏着系统性伤害。对社群来说，这份研究也提供了一个可用的证据：你们的判断，系统还接不住。
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
随着 Perspective API 退役，平台内容审核正从“专用打分接口”转向“生成式大模型 + 自然语言政策”。这一转变把政策解释权从训练阶段移到推理阶段：模型必须在看到内容时，自行理解提示词中的政策条款。被重新占用的侮辱词（reclaimed slurs）是检验这一设计的极限案例——同一词项的许可性取决于说话者身份、社群归属与语境历史。
本文对 4 个审核专用系统与 4 个通用模型（外加 Perspective 基线）做五层审计：政策（policy）、判断（decision）、推理（reasoning）、差异（disparity）、引导（steering）。核心发现是：系统是否专为审核而建，几乎不能预测其在重新使用语言上的表现；真正有解释力的是政策在系统中的表示方式。这为“政策透明性”提供了直接的实证支持，也划出了提示词治理的能力边界。
I. Theoretical Framework & Hypotheses（理论框架与假设）
| 审计层 | 测量对象 | 核心指标 | 理论关切 |
|---|---|---|---|
| 政策层 Policy | 系统内部的风险类别归属 | LlamaGuard 3 的 hazard code 分布与 flag 率 | 政策是否可读、可归因 |
| 判断层 Decision | 重新使用 vs 贬损的二分类 | F1（reclaimed 为正类）、accuracy、Cohen's κ | 与社群判断的一致性 |
| 推理层 Reasoning | 模型给出的理由文本 | BERTScore 一致性与主题词分布 | 理由是否反映真实决策依据 |
| 差异层 Disparity | 跨词项、跨社群的错误模式 | 分词 F1 与 κ | 分配性伤害 / 代表性伤害 |
| 引导层 Steering | 提示词中加入定义后的判断变化 | 净改变方向与幅度 | 政策可否在推理时被修正 |
理论对话点是“政策表示”（policy representation）：政策以自然语言进入 prompt，则系统可审计、可干预；政策固化于权重，则不可。这与算法问责文献中“可解释性须落到可干预的接口”的主张一致。
M. Materials & Methods（材料与方法）
- 语料：IYKYK corpus（Chance et al., 2026），300 条社群成员标注的社交媒体帖子，F-word / B-word / N-word 各 100 条；来源为 Twitter 抓取（146）、DynaHate（141）、Jigsaw（11）、Toxigen（2）。标签为“重新使用”与“贬损”二分，以社群判断为金标准。
- 系统：审核专用——Omni-Moderation、WildGuard、ShieldGemma、LlamaGuard 3；通用——GPT-4o、WildChat、Gemma 2、Llama 3；基线——Perspective API。ShieldGemma 以阈值化分数（P(yes) > 0.5）映射为贬损。
- 设计：每个样本重复三次以检验稳定性；设置未引导与引导两种条件；引导条件在 prompt 中加入明确定义。
- 指标：以 reclaimed 为正类的 F1、overall accuracy、Cohen's κ；推理一致性用 BERTScore F1；主题词用词频与共现分析。
- 分析层次：政策层（hazard code 分布、flag 率）、判断层、推理层、差异层（按词项与社群拆分）、引导层（净改变量）。
R. Results（结果）
- 总体表现：F1 在三个词上呈一致梯度——B-word 最高、N-word 最低，通用与专用系统皆然。
- 一致性：Cohen's κ 在跨词汇总层面介于 −0.10 与 0.30 之间；N-word 上几乎所有系统为负，唯一为正的 Llama 3 也仅 0.04。
- 专用系统的失败：WildGuard 的 F1 = 0.0、accuracy = 0.37（全样本最低），因为它对所有三个词的重新使用样本 100% 判为有害请求；LlamaGuard 3 在政策层压倒性地返回 S10（Hate），对 F-word 与 N-word 的 flag 率最高，即使用法是重新使用。
- 用途 vs 表示：专用与通用系统的差距不稳定（GPT-4o 略优于 Omni-Moderation；Llama 3 与 LlamaGuard 3 仅差 0.01），说明“是否专用”不是有效解释变量。
- 推理层：模型内部一致性极高（BERTScore F1 > 0.95），跨模型均值 0.915（未引导）/ 0.911（引导）；Llama 3、WildChat、Gemma 2 三次运行理由几乎完全相同，提示理由高度模板化，未必反映真实决策依据。
- 引导层：只有政策以 prompt 形式表达的系统可被引导；硬编码政策的系统对提示词修改无响应。可引导系统的表面改善主要来自整体判定阈值的下移（敏感性下降），而非语境判别能力提升，并伴随假阴性风险——真正的贬损内容更易被放过。
| 系统 | 类型 | 关键结果 |
|---|---|---|
| WildGuard | 审核专用 | F1 = 0.0，accuracy = 0.37，100% 重新使用样本被判有害 |
| LlamaGuard 3 | 审核专用 | 政策层几乎全归 S10（Hate），flag 率最高 |
| GPT-4o | 通用 | F1 略高于 Omni-Moderation |
| Perspective API | 旧基线 | 已退役，作为对照 |
a / D. Discussion & Conclusion（讨论与结论）
- 理论贡献：提出并验证“政策表示”作为解释审核系统表现的核心变量，替代“专用 vs 通用”的常见二分；把可解释性从“能否说明理由”推进到“能否在推理时被干预”。
- 治理含义：政策写入 prompt 是可审计与可纠错的必要条件；把政策烧进权重会造成“不可修复的失败”。但 prompt 定义只能改变正当化方式，不能提供语境判断，因此不足以解决重新使用问题。
- 公平含义：错误呈系统性——对黑人社群重新使用的语言错得最重，构成代表性伤害；审核系统的“保护”在此转化为对特定社群表达的压制。
- 局限：语料仅 300 条、三个词项、以英文为主；社群标注样本虽权威但规模有限；引导实验的定义设计可能未穷尽可行写法；系统版本随时间变化，结果存在时效性。
- 未来方向：引入说话者身份与社群语境的动态元数据；探索可更新的政策库（而非静态定义）；建立分层审核评估基准，把群体差异纳入常规报告。
🧠 IRMaD 思维导图
mindmap
root((审核如何误读侮辱词))
I 引言
旧接口退役
政策改由提示词表达
同词两义难判
R 问题
判得准不准
错在哪些群体
改提示词有用吗
M 方法
三百条社群标注
八个系统加基线
五层审计设计
每样本跑三次
R 结果
无一可靠一致
一致性近乎负值
专用模型更糟
政策写法才是关键
a 讨论
可引导不等于能判断
补定义只改说法
语言一直在变
D 结论
政策透明是前提
语境判断不可替代
分层评测须常规化
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。