🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
你有没有用过那种会自己改代码的 AI 助手？它读你的项目、改文件、提建议，甚至直接提交代码。可它并不是天生就懂规矩的——项目里通常会有一些“说明书”文件，比如给 AI 看的项目背景、编码规范、技能说明，告诉它该做什么、不该做什么。这些文件就是所谓的配置：包括全局的上下文文件，也包括一个个具体任务的技能文件。问题来了：我们一直说 AI 要讲伦理，可这些真正指挥 AI 干活的文件里，到底有没有写伦理要求？如果没有，那伦理就只是挂在墙上的口号；如果有，写的又是哪些内容、保护的是谁？
② 研究问题（要回答什么？）
论文要回答两个大问题。RQ1：在开源项目的智能体配置文件里，与伦理相关的表述有多普遍？它们主要涉及哪些伦理原则（比如公平、隐私、透明、问责）？不同类型的文件、不同类型的项目，覆盖程度有没有差别？RQ2：这些伦理表述具体长什么样？它们要求 AI 做什么、不许做什么？最关键的是——它们嘴上说保护“用户和社会”，实际写的规则又是在保护谁？是终端用户，还是写代码的开发者自己？
③ 研究方法（怎么做的？）
作者先从一个已有的开源数据集出发，在 2026 年 8 月重新跑了一遍采集流程，拿到 8945 个仓库里的 41050 份配置文件，剔除非英文文件后剩 40079 份。判断“这句话算不算伦理相关”需要一把尺子，作者选了澳大利亚政府 2019 年发布的八条 AI 伦理原则（人类福祉、以人为本、公平、隐私与安全、可靠与安全、透明可解释、可申诉、问责）作为参照。因为文件太多读不完，他们先用大模型做分类，但不是直接信——而是人工标注了 1055 份文件做校验，两位作者独立标注的一致性达到 κ=0.81，调整提示词后模型与人工的一致性升到 κ=0.92。最后再分层抽样 702 份文件逐字细读，归纳出具体的伦理条款类型。
④ 结果（发现了什么？）
结果有点出乎意料：39.4% 的文件、61.5% 的仓库至少出现一处伦理相关表述。内容高度集中在四类：问责（要求人类审批）、透明（要求解释和如实汇报）、隐私保护、可靠性；相比之下，公平、可申诉、环境福祉写得很少。一个有意思的差别是：具体任务的技能文件比全局上下文文件更常写伦理，说明开发者是在“做具体事”的时候才想起规矩。细读 702 份样本后，作者归纳出 30 类具体伦理条款，比如“改代码前必须获得人类确认”“不要替用户做决定”“评审意见不能由 AI 代写”。但最关键的发现是关注点错位：公共伦理框架保护的是社会与终端用户，而这些配置主要保护开发者、维护者和社区成员——也就是说，伦理在这里更像“团队工作规范”，而不是“对社会的承诺”。
⑤ 讨论（这些发现说明什么？）
作者认为，这个结果说明配置层正在成为 AI 伦理的事实治理入口：不用改模型、不用立新法，只要在项目文件里写几条规则，就能约束智能体的行为。这是好事，因为它灵活、贴近具体场景；但也是隐患，因为它是碎片化的、各自为政的，而且没有任何外部审计。更麻烦的是，这些规则大多写在散文式的说明里，模型到底会不会照做，目前完全没有验证。作者还提醒，如果伦理只停留在“保护自己团队”的层面，那么当 AI 的行为影响到外部用户时，配置层是兜不住的。
⑥ 结论（最终结论 + 启示）
结论是：开源社区已经在自发地用配置来治理 AI 智能体，而且覆盖面不小，但内容偏窄、偏向内部、缺乏执行保障。作者建议：工具层面可以提供伦理条款的检查与模板，研究层面需要测试智能体是否真的遵守这些指令，政策层面则要考虑把配置层纳入 AI 治理的可审计范围——毕竟，这里写下的每一句话，都可能在成千上万个项目里被自动执行。
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
AI 编码智能体的行为越来越多地由配置工件（context files、skills、规则文件）而非模型权重来约束。这类工件介于提示词工程与软件配置之间，兼具自然语言可读性与执行约束力，却几乎不在既有 AI 伦理治理文献的视野内。既有研究关注模型卡、伦理指南与合规审计，缺少对“开发者实际写了什么”的大规模经验证据。本文的贡献是首个跨仓库、跨工具的配置层伦理内容普查：以澳大利亚 AI 伦理原则为编码框架，结合经人工校验的 LLM 分类与分层抽样细读，回答伦理表述的普遍性、原则分布与关注对象三个问题。
I. Theoretical Framework & Hypotheses（理论框架与假设）
分析框架采用澳大利亚政府 2019 年发布的八项自愿性 AI 伦理原则：人类、社会与环境福祉；以人为本的价值观；公平；隐私保护与安全；可靠性与安全性；透明与可解释；可申诉性；问责。选择该框架而非欧盟 AI Act 的理由有二：其一，它适用于任何 AI 系统，不依赖风险分级，因而能覆盖非高风险场景下的编码智能体；其二，它每条原则只有一句简短定义，便于直接嵌入分类提示词与人工标注手册。研究据此提出 RQ1a（文件层面的普遍性与原则分布）、RQ1b（仓库层面的覆盖）、RQ2（具体伦理考量及其指向的利益相关方）。
M. Materials & Methods（材料与方法）
- 语料构建：在 Galster 等发布的 agentic coding tool 配置数据集基础上，于 2026 年 8 月重跑采集管线，得到 8,945 个仓库、41,050 份配置文件；剔除 971 份非英文文件后保留 40,079 份。纳入标准沿用原研究：非 fork、有许可证、至少两名贡献者、近期有提交。
- 分类器：两阶段提示词（Stage 1 判定文件是否伦理相关，Stage 2 判定具体原则），采用 OR 策略合并两个模型的判定以提升召回。
- 人工校验：作者人工标注 1,055 份文件（93 份 gold set 用于提示词迭代，962 份 held-out 评测）；两位作者独立标注 gold set，κ=0.81；Stage 1 提示词使与 gold 的一致性由 κ=0.81 提升至 0.92（分层加权后由 0.47 升至 0.89）。
- 质性分析：按原则与文件类型分层抽样 702 份样本（679 个文件），开放式编码归纳伦理条款类型与所指对象。
- 分析单元：文件层面（是否含伦理表述、涉及哪些原则）与仓库层面（跨文件覆盖）双轨统计。
R. Results（结果）
- 普遍性：39.4% 的文件、61.5% 的仓库至少含一处伦理相关表述；伦理内容在任务特定文件（如 skills）中出现频率高于项目级 context files。
- 原则分布：集中于问责、透明、隐私保护与可靠性；公平、可申诉性与环境福祉相对稀缺。
- 条款类型：质性分析归纳出 30 类伦理考量，均以可执行规则形式出现——问责多表现为“需人类批准”，透明表现为“解释并如实汇报工作”，公平表现为“可访问性与本地化”。
- 关注对象错位：公共伦理框架以社会与终端用户为保护对象，而配置文件主要约束开发者、维护者与社区成员之间的关系（如禁止 AI 代写评审回复、尊重贡献者决定）。
- 载体形态：伦理内容主要出现在散文式（prose-based）文件中，结构化程度低；智能体是否实际遵守这些指令尚未被检验。
| 维度 | 结果 |
|---|---|
| 语料规模 | 40,079 文件 / 8,945 仓库（剔除后） |
| 覆盖率 | 39.4% 文件 · 61.5% 仓库 |
| 人工一致性 | gold set κ=0.81；模型 κ=0.92 |
| 质性样本 | 702 份 / 679 文件 / 30 类条款 |
| 高频原则 | 问责、透明、隐私、可靠性 |
a / D. Discussion & Conclusion（讨论与结论）
- 理论意义：提出“配置即伦理”（ethics by configuration）这一治理形态——伦理不是通过训练或法规进入系统，而是通过开发者书写的自然语言工件进入执行链。
- 治理风险：配置层碎片化、无外部审计、关注点内向；若智能体行为外溢至终端用户，现有配置难以提供保护。
- 实践建议：为常见伦理条款提供模板与静态检查；在 CI 中增加“伦理条款存在性与冲突”检查；对高风险技能文件要求人工复核。
- 局限：仅覆盖开源 GitHub 项目与英文文件；分类依赖 LLM，虽经人工校验仍可能漏检；未测量智能体对指令的实际遵从率。
- 结论：配置层已成为事实上的 AI 伦理治理入口，但其内容狭窄、指向内部且缺乏执行保障，需工具、研究与政策共同补位。
🧠 IRMaD 思维导图
mindmap
root((配置即伦理))
I 引言
编码智能体普及
配置决定行为
伦理治理盲区
R 问题
伦理表述多不多
涉及哪些原则
实际保护谁
M 方法
四万份配置文件
澳洲八项原则
大模型分类加人工校验
七百份细读
R 结果
四成文件有伦理
六成仓库至少一处
问责透明隐私为主
技能文件写得更多
a 讨论
配置成治理入口
关注点向内偏移
写了不等于执行
D 结论
需模板与检查工具
纳入可审计范围
测试真实遵从率
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。