🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
你有没有想过，同一个“人工智能”，用法差别能有多大？比如在医院里，一个医生让大模型帮忙改改病历里的错别字，另一个医生却让大模型看症状猜病人得了什么病。这两件事都会被笼统地叫作“AI 进医院”，可它们要承担的风险完全不是一回事。
现在判断一个大模型能不能用、该怎么管，大家习惯用三种办法分类：看它用在哪个行业（教育、医疗、政府），看它干的是哪种活（总结、分类、写作），或者看它被定成几级风险。这些办法在立法和管理上很有用，因为简单、好比、能写进条文。可它们有个共同的毛病：只看外面的标签，不看里面到底把多少“要动脑子的判断”交给了机器。
作者认为，真正决定一件事靠不靠谱的，不是它在哪个行业，而是具体那一次使用里，人把什么交给了模型、自己还剩下多少知情和把关的能力。所以这篇论文想补上一把更细的尺子。
② 研究问题（要回答什么？）
这篇论文要回答的核心问题是：能不能不看行业、不看任务名字，而是按“人把多少判断交给了机器、自己还留住多少知情权”来给大模型的各种用法分类？
拆开来是四问：
- 第一，为什么按行业、按任务、按风险来分类还不够？它们到底漏掉了什么？
- 第二，怎么把“交出去的判断”和“留住的认知控制”说清楚，变成能操作的尺度？
- 第三，具体到真实的用法，怎么读出这两件事？作者提出把提示词当作“委托合同”来读，这行得通吗？
- 第四，如果照这把尺子量，哪些用法还算“用工具”，哪些已经变成“把责任也一起交出去了”？
作者反复说明，他不是要给应用排一个“好坏排行榜”，也不是要评判某个模型行不行，而是想找出那些让人还能负起责任、或者已经没法负责的结构条件。
③ 研究方法（怎么做的？）
作者的办法分几步，像先画一张地图，再拿两个地方试走。
第一步，画两条轴。第一条轴叫“委托的判断”：最左边是改错别字、调格式这种答案对错早就定好的活；越往右，越是需要模型自己拿主意，比如评价一篇作文写得好不好。第二条轴叫“认知控制”：最左边是材料都给齐了，比如你上传了一份文件，模型只能在这份文件里找答案；越往右，是模型要靠自己脑子里的知识发挥，你根本不知道它从哪儿学来的。
第二步，拼成四格图。两条轴一交叉，就得到四个格子：材料封闭又只做死板操作的，最省心；材料封闭但要模型判断的，次之；材料开放但活很死板的，再往后；材料开放又要模型做判断的，最危险。作者还把这四个格子拉成一条从轻到重的直线，理由很实在：材料看得见，就算要判断，也还能回头核对；材料看不见，连核对的门都找不到。
第三步，读提示词。作者说，提示词就像一张“委托合同”，写清了让模型干什么、给它多大自由、让它凭什么知识干活。可这张合同常常藏在网页界面后面，用户根本看不到。
第四步，看两个案例。一个是德国的自动评分助手，一个是美国政府部门用大模型砍合同。一个把合同藏起来，一个把合同漏了出来，正好对照。
④ 结果（发现了什么？）
先说教育这边。德国有个叫 Fobizz 的平台，在全国不少州的学校里用得很广，它有一个“评分助手”：老师把作业要求、参考答案、几个关键词式的评分点和学生作文填进去，系统就吐出一份评语、一份错误分析，还有一个分数。
表面看材料都是老师给的，可作者读到背后的提示词才发现，模型被要求自己去判断什么算错、各方面怎么权衡、最后怎么折算成分数，而“评分点”只有几个关键词，分数线的门槛、各项权重一概没写。也就是说，标准其实是模型自己补出来的。它得靠训练里学来的那套“什么叫好作文”的默认观念，这些观念既不在提示里，也不在结果里，老师没法查。
高：错在哪、怎么权衡、给几分，全交给模型
低：材料看着封闭，评分标准其实是开放的
把提示词藏起来，让老师以为只是“辅助打分”
公共部门这边更扎眼。2025 年，美国政府效率部门用大模型去审退伍军人事务部成千上万份合同，要它判断哪些可以砍掉。泄露的提示词只给了两个标签：“能砍”和“不能砍”，还举了几个例子，比如直接照顾病人的不能砍、外包能换成自己人的能砍。可什么叫“核心医疗服务”，什么叫“必要的顾问”，一个字都没定义。
模型每份合同只看开头一万个字符，而真实合同往往长得多。有一次，模型把所有字段都标成“没找到”，却还是得出“能砍”的结论，理由是“既然没有证据说明它涉及关键医疗，那就符合砍掉的标准”。作者说，这是把“不知道”硬说成“知道”。
⑤ 讨论（这些发现说明什么？）
为什么这两件事值得警惕？作者提出从三个方面看。
第一是责任。他借用亚里士多德的老看法：一个人要能为自己做的事负责，得同时满足两条——他知道自己在干什么，而且他能控制这件事。把判断交出去、又看不清依据，这两条就一起塌了。更麻烦的是，形式上都还有“人把关”，可研究发现，人往往倾向于顺从机器的建议，哪怕这件事自己本来就会做。所以挂一块“人工复核”的牌子，不等于真的有人在判断。
第二是偏见。模型会从训练材料里学来一整套默认标准，比如什么样的表达算“好”，什么样的服务算“核心”。当它被要求评价质量、必要性、合法性时，它其实是在重新定义这些词，而不是套用现成标准。这些默认观念往往偏向主流人群，被自动化一放大，就成了系统性的不公平，而且很难被发现——因为它不写在任何一条规则里。
第三是能不能讲理。如果一项决定被质疑，人能不能说清“为什么这么判”？在自动评分里，学生和老师都说不清；在砍合同里，官员也只能重复“这不算直接护理”这种空话。说不清理由，就没法申诉、没法纠正。
作者还特别指出，界面的“友好”本身就是问题的一部分：它把复杂的判断包装成简单的填表，让人误以为自己还在做主。
⑥ 结论（最终结论 + 启示）
所以作者给出一条底线式的结论：合乎伦理地使用大模型，前提是这种使用必须始终是“用工具”。什么叫用工具？不是看技术先不先进，而是看人和机器的关系——模型得老老实实待在人下面，人得看得懂它的依据（认知通路），能自己独立判断（独立判断），出了事还能讲出理由（辩护权威）。
他把这条叫作“必要条件，但不是充分条件”：做到了，不代表一定没问题，因为还要看这件事本身影响多大、制度环境如何；但做不到，就肯定不行。
还有一层意思很重要：这不是让每个使用者自己硬扛。如果界面故意把提示词藏起来，如果单位采购的就是个“一键出分”的黑箱，那么名义上负责的人其实被结构性地挡住了。所以作者说，要让负责任的使用成为可能，得由设计者、服务商和机构一起把条件做出来——比如公开提示词、留出复核入口、把判断权留在人手里。
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
大语言模型的伦理评估长期围绕三类外部描述展开：按部门（教育、医疗、公共行政）、按任务（摘要、分类、预测、问答）、按社会风险等级（以欧盟《人工智能法》为代表）。这三类框架在治理上各有不可替代的功能——部门框架承载行业特有的法律义务与制度价值，任务框架为基准测试提供可比单元，风险框架支撑比例化监管。但作者指出，它们的共同缺陷在于抽象层级过粗：分类依据是“在哪里用”“做什么功能”“可能造成多大危害”，而具体一次使用中究竟把多少解释性与规范性判断交给了系统、又是在什么样的认知条件下交出去的，始终隐而不显。
由此产生的经验后果是：同一部门、同一任务标签下的用法，在可靠性、责任分配与认知权威让渡程度上可能天差地别。作者以医疗为例——同一模型既可用于校对病历措辞，也可用于解释症状并建议诊断，二者同属“医疗 AI”，伦理含义却截然不同。既有文献（Floridi 等的 AI4People 框架、UNESCO 的部门政策建议、欧盟 AI Act 的风险分级）提供了规范语汇，却缺少一个能落到“提示词与工作流”层面的分析单位。
本文的贡献因此有三：其一，提出一个基于使用方式（use-based）的两维分类法，以委托判断的程度与用户保留的认知控制为轴；其二，给出可操作的方法论——把提示词读作“委托工件”（delegation artifacts），在提示词层面重建判断与权威的分配；其三，通过教育自动评分与公共行政合同终止两个案例，展示该分类法如何揭示被部门、任务与界面描述所遮蔽的责任脆弱性，并据此提出“工具性使用”这一规范性门槛。作者明确本文不评估具体模型或训练技术，也不提供 LLM 治理的完整理论，案例是例示性的而非代表性的。
I. Theoretical Framework & Hypotheses（理论框架与假设）
概念起点是“认知卸载”（cognitive offloading）的细分。把记忆与计算外包给笔记本、计算器本身并无伦理问题；关键在于区分卸载执行与卸载判断：执行的正确性标准独立于系统而固定，系统纵有解释余地也不影响结果；判断则要求系统在标准未被完全形式化时解释、评价、排序与权衡，其裁量对结果有实质影响。判断委托是连续的、可部分的：搜索引擎排序在隐含解释“相关性”，AI 概览式回答再把委托推高一层。
第二个概念是判断进入的阶段：提示词不同，判断可在“任务抽取”时就被委托——比较“评估论证是否自洽”与“用学校分数给事实质量打分”，后者连标准都没给。第三个概念是知识语境：封闭知识任务材料被显式给出，可追溯核对；开放知识任务依赖潜在训练数据或不透明检索，来源难重建、错误难争辩。认知控制即用户能否定义、检视、理解、质疑并纠正输出所依据的信息基础。
| 维度 | 取值 | 提示词层面的特征 | 主要伦理风险 |
|---|---|---|---|
| 委托判断 | 执行 低 | 操作与正确性标准完全外定 | 以机械错误为主，可逐项复核 |
| 委托判断 | 判断 高 | 须解释评价排序权衡，标准未形式化 | 裁量不可追溯，责任漂移 |
| 认知控制 | 封闭 强 | 材料随提示嵌入并锚定输出 | 错误可核对，材料或偏狭 |
| 认知控制 | 开放 弱 | 依赖训练数据或不透明检索 | 依据不可重建，难识破 |
两维交叉得到 2×2 网格。作者把网格线性化为“认知卸载程度”递增的谱系，非平凡之处在于把“封闭—判断”排在“开放—执行”之前，理由是可审计性：知识边界明确时，解释性判断仍可追溯复核；开放知识任务即便描述具体，依据也无界且仅部分可见，模型即使列出检索到的网页，也说不清它们如何被选中。此排序为分析性取向，并非伦理排名。
规范框架上，责任取亚里士多德式“知识 + 控制”，并采纳 Young 的关系性、前瞻性责任观：责任不是事后归咎，而是行动者是否仍与决策过程保持足够连接、能否为结果辩护。由此，“合乎伦理的 LLM 使用必须保持为工具性使用”成为核心命题；工具性不是技术属性，而是关系属性。
M. Materials & Methods（材料与方法）
- 研究设计：概念分析 + 规范论证 + 两个对照案例的提示词层面分析。不涉及数据集、不训练模型、不做效果测量（Data availability 明言未生成或分析任何数据集）。
- 方法论工具——提示词作为委托工件：借用 Ribes 等关于技术人工物承载组织任务与权威的论述，以及 Schulz-Schaeffer 关于生成式 AI 是“习得的”而非“设计的”技术、因而缺乏传统工具“工具性”的判断，把提示词视为任务、标准与权威在人与系统之间分配的文本配置。提示词规定了让模型做什么、给多大裁量、依据什么背景知识，因此是定位两维坐标的直接入口。
- 案例一（教育）：德国教育平台 Fobizz 的自动评分助手。该公司与多个州教育主管部门有许可合同，大量教师可免费使用。分析材料为该系统的内部提示词模板（使用至 2024 年 12 月中旬，经私人通信获得；因法律与伦理原因未逐字全文复制，作者在附录 A 给出保留任务结构、角色设定与评价指令的重构提纲），以及前端工作流。
- 案例二（公共行政）：2025 年美国“政府效率部”（DOGE）在退伍军人事务部用 LLM 标记可终止合同（“munchable”）。分析材料为 ProPublica 调查获得的实际提示词与代码（Roberts and Coleman 2025），属于罕见的直接证据。
- 分析程序：先在两条轴上分别定位（判断委托程度、认知控制程度），再检查界面与制度框架是否遮蔽该定位，最后按三个伦理维度评估——责任（知识/控制）、系统性失真与偏见、可争辩性。
- 方法边界与效度说明：作者不主张提示词完全决定系统行为，而视其为分析上优先的入口；提示词不可得时，其不透明本身即构成伦理相关的限制（Burrell 的黑箱论）。该路径适用于提示词中介的使用，不直接适用于多步自主行动的 agentic 系统；案例为例示性而非代表性。
R. Results（结果）
- 案例一·判断轴：提示词把模型设定为“支持教师评价学生成果的 AI 助手”，主任务是“错误分析与初步订正”，并要求产出“细致而有区分度的评价”，输出含反馈与分项评分。作者认为这已超出执行：什么算相关错误、如何权衡与聚合成分数，都需解释性与规范性裁量。
- 案例一·认知轴：表面封闭——作业要求、参考答案或期望水平与学生文本均被嵌入；实则标准开放：未说明期望水平如何解释、哪些要素必要、分数线在哪、偏差如何加权；评分点仅为关键词，未操作化到可追溯阈值。模型只能调用潜在训练数据与泛化教学规范，二者既不在提示里也不在输出里。作者据此定位于“判断密集 认知开放”象限，与界面的“有界、按标准辅助”印象相反。
- 案例二·判断轴：提示要求按严格二分“MUNCHABLE / NOT MUNCHABLE”，判据如“直接病人照护不能砍”“可轻易由内部 W2 雇员替代能砍”“与老兵照护隔多层能砍”，但“核心医疗/福利”“必要顾问”均无定义，模型须自行补足标准。作者称其“委托趋近于弃责”，且叠加零样本推理与二元决策两种易错做法。
- 案例二·认知轴：每份合同仅输入前 10,000 个字符，判断建立在可能不具代表性的片段上；还要求评估“定价是否合理”等需医疗与机构管理知识的判断。极端处在于认知开放未被当作暂缓判断的理由，反被“必须下结论”的指令覆盖：一例中模型把所有字段标为“not found”，仍判“munchable”，理由是“若无证据表明其涉及关键医疗程序……即符合可砍标准”。
- 跨案例发现：两案在责任、系统性失真、可争辩性上呈同构侵蚀——教育场景的默认教学规范可能系统性不利于偏离主流表达的学生（Fricker 的认知不正义），合同场景的“直接病人照护”等模糊概念使误判成为系统性而非随机；两案受损方都难把输出转译为经得起推敲的理由。
| 案例 | 委托判断 | 认知控制 | 位置 | 脆弱性 |
|---|---|---|---|---|
| 自动评分 | 高 | 弱 | 判断密集 认知开放 | 标准不可见 |
| 合同审查 | 极高 | 极弱 | 谱系最极端 | 弃责 误判 不可争辩 |
a / D. Discussion & Conclusion（讨论与结论）
- 理论贡献：把分析单元从系统/部门/任务/风险类别下移到具体使用配置，以提示词为可观察载体；这补充而非取代既有框架——部门框架承载制度价值与合规边界，风险框架支撑比例监管，本分类法则解释同一风险类别内部风险为何随工作流设计剧烈变化。作者强调风险不是静态属性，而是随依赖程度、监督机会与委托范围变化的动态量。
- 规范论证结构：前提一，责任始终落在人与部署机构，模型不是道德主体，问题不是“谁来负责”而是“责任能否被履行”；前提二，责任的可履行性取决于知识与控制（亚里士多德式），并应作前瞻性、关系性理解（Young）；前提三，判断被大幅委托且认知控制薄弱时，用户丧失履行责任所需的知识与控制，即 Lange 所称的“预防性认知顺从”；结论，合乎伦理的使用必须保持为工具性使用，保留认知通路、独立判断与辩护权威——必要条件而非充分条件。
- 实践启示：责任不能只压在个人用户身上，须由社会技术条件予以使能。作者以“工具性的去动员化”（demobilisation of instrumentality）描述界面与工作流以“密封表面”制造“设备即行动者”的假象，结构性抑制用户的反思判断。相应的设计与采购要求包括提示词披露、保留复核与申诉入口、在流程中显式保留人的判断节点。
- 局限：其一，依赖提示词的可及性，而提示词常被专有系统或界面遮蔽，此时评估只能间接且不完整，作者视之为伦理相关的透明性缺陷；其二，分类法不能保证用户单方面实现负责任使用；其三，分类法非穷尽，此两维之外可能还需其他轴；其四，不适用于跨多步自主行动的 agentic 系统；其五，案例为例示性，未做抽样或编码信度检验。
- 未来方向：把分类法转化为 LLM 服务与交互设计规范；将象限位置与已有可靠性、失效模式实证结果对接；在更多领域扩展检验该分类法。
- 资助与致谢：本文为作者 2025 年 10 月至 2026 年 3 月在牛津互联网研究院访学成果；开放获取由 Projekt DEAL 资助。
🧠 IRMaD 思维导图
mindmap
root((按用法给大模型定性))
I 引言
同一模型用法差别大
行业标签太粗
任务标签不看提示
风险分级过于抽象
T 两维分类法
第一维 委托判断
从执行到判断连续谱
第二维 认知控制
封闭材料 开放知识
四格图再拉成一条线
M 方法
提示词即委托工件
读提示词看活怎么分
界面常把提示词藏起
案例对照定位坐标
C 两个案例
教育 自动评分助手
固定模板套住教师
标准只有关键词
公共部门 合同砍单
只看开头一万字符
二元标签逼出结论
E 伦理三维
责任 知识与控制
偏见 系统性失真
可争辩性 能否说理
工具性被消解
D 结论
底线是工具性使用
保留认知通路
保留独立判断
保留辩护权威
必要而非充分条件
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。