Data & Policy · 剑桥大学出版社 · Vol. 8 e38 · 开放获取评论文章 · UCL 与帝国理工

走向自适应分类:面向智能体 AI 的维度化治理

Zeynep Engin, David Hand · Data & Policy (Cambridge University Press) · 2026 · DOI: 10.1017/dap.2026.10083
原题:Towards adaptive categories: Dimensional governance for agentic AI
公共管理与公共政策 AI·医学·科技伦理 Open Access 新颖度 0.74

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

你有没有发现,现在管人工智能的办法,很像按车型发驾照:先给系统贴个标签——「高风险」「低风险」,或者「人在环内」「人在环外」——然后照标签决定查多严。这套办法在早期挺管用,那时的 AI 大多只做一件窄事,行为可预测,标签也贴得稳。

可现在不一样了。同一个大模型,上午帮人改作文,下午可能在医院帮忙看片子;它还会被反复微调、换版本,能力说变就变;多智能体系统里,好几个 AI 互相商量着做决定,责任散落一地。标签还没贴稳,系统已经跑到下一个格子里去了。

结果是两头都不讨好:该管的没管住,系统悄悄越过红线却没人发现;不该管的被管死,新应用被塞进不合身的框里。这篇文章的作者想问:能不能换一种思路,别再只问「它属于哪一类」,而是问「它在几条关键线上,此刻站在哪儿、正往哪边移动」?

② 研究问题(要回答什么?)

作者要回答三个问题。

说白了,这是一篇理论文章,不跑数据、不做实验,任务是搭一个概念脚手架,让别人以后能往上面装测量工具。它不打算证明「维度化一定更有效」,而是想说明为什么值得这样设计、以及这个设计具体长什么样。

③ 研究方法(怎么做的?)

这篇论文没有数据,也没有模型,它的「方法」是搭架子加找先例,可以拆成三步。

第一步,拆解对手。作者先把现有的分类办法摆出来——风险分级、自主性等级、人在环内或环外——然后一条条说明它们在什么情况下失效,而不是笼统地说「过时了」。

第二步,去别的行业借经验。他们找了三个已经这么干过的领域:医学里量身高体重算 BMI,再用 25 和 30 两个阈值划出「超重」「肥胖」;自闭症诊断建立在社交沟通、刻板行为这些连续量表上,阈值一改,被诊断的人数就跟着变;金融业给借款人打信用分,分数线随经济冷热松紧。关键不是打分本身,而是「分数连续、划线可调」这个结构。

第三步,把这套结构搬到 AI 上。作者挑了三条他们认为最要紧的维度,合称「3A」,再设计四道「信任阈值」当作监管的换挡点,最后讨论怎么把这三个词变成真能打分的指标——比如用「人工推翻率」去看决策权是不是已经悄悄转移了。

④ 结果(发现了什么?)

作者提出来的东西可以概括成一句话:把「贴标签」换成「三维定位加换挡阈值」。

决策权威
最后是谁拍板?人、机器,还是人和机器谈出来的混合体?从「只给建议」一直到「在特定领域有独立决定权」。
过程自主
执行的时候能离人多远?从全程有人盯着,到自己实时跑、人已经插不上手。
问责配置
出了事谁负责?透明度、可申辩、可救济这些机制怎么在人、开发者、机构之间分摊。

这三维要分开看:一个模型可能过程很自主,但决定权很小(只负责把可疑交易标出来给人看),这时风险可控;一旦它拿到直接拒付的权力,同样的自主性就变危险了。作者用急诊调度系统举例:早期 AI 只排优先级、由人来批,责任清楚;上了规模以后 AI 直接派车、人根本来不及否决,责任就散在调度员、开发商和市政管理者之间——系统早就跨过了线,可旧的分类表上它还是原来那一格。

于是有了第二件东西:四道信任阈值,分别是「核验转委托」「过程转结果」「信息转权威」「个体转集体」。它们不是好坏的分界线,而是监管该换挡的地方——过了第一道,人没法逐条检查,只能抽样统计;过了第三道,AI 从「提建议」变成「做决定」,就必须配上更强的否决权和正式的责任约定。

⑤ 讨论(这些发现说明什么?)

作者反复强调一件事:他们要的不是「取消分类」,而是「给分类换地基」。分类对监管太重要了——没有类别就没法写义务、没法配资源、没法执法。问题只在于,现在的类别直接画在沙地上,一涨潮就没了;应该先承认底下有一片连续的地形,再在地形上插标杆。

这也解释了为什么他们花那么多篇幅讲信用评分和 BMI。这两个例子都在说同一件事:分数可以连续,线却必须画;线画在哪儿可以讨论、可以调,但调的依据得是证据,不是心情。作者还借统计学的「偏差与方差权衡」提醒:框架太死会漏掉真实变化,框架太活又会把噪音当信号,天天改线的监管同样让人无所适从。目标是「该动的时候动」,不是「一直在动」。

至于和欧盟《人工智能法》的关系,作者的态度是互补而非取代:风险分级可以继续当监管的锚,维度追踪则负责在锚定范围内做精细调节。他们也承认最难的一步还没做完——把「权威」「自主」「问责」变成可靠的数字,本身就需要大量后续研究和各方协商。

⑥ 结论(最终结论 + 启示)

一句话总结:AI 在动,治理的尺子也得能动;但能动不等于乱动,得先在连续的维度上量准,再决定线画在哪里。

这篇文章的价值不在于给出了答案,而在于换了一个提问方式。过去问「这个系统属于哪一类」,现在问「它此刻在三条线上站在哪儿、正往哪走、离下一道坎还有多远」。这个问法一旦成立,监管者、开发者、伦理研究者就能用同一套语言说话,而不是各拿各的标签互相听不懂。

需要说清楚的是,这篇是纯理论文章,没有数据、没有案例检验,三个维度怎么打分也只给了方向。作者自己把量化列为「未来工作」。所以它更像一张设计图,而不是一栋盖好的房子——但设计图本身,往往是后面所有工程的前提。

如果后来真的有人把这三条维度测起来,这张图就能变成一块可用的监管仪表盘;如果测不起来,它至少是一次有价值的提问。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

AI 治理的制度设计长期以分类为基本操作。风险分级(欧盟《人工智能法》的高风险与低风险二分)、自主性等级(Parasuraman 等的自动化层级)、人在环内或环外(Docherty 2012)这三条脉络,共同构成了过去十年监管、工程与伦理讨论的公共语法:先归类,再按类配置义务。这套语法在窄域、行为可预测的系统中是有效的——它让比例原则可执行,也让工程师拿到明确的设计目标。

智能体化打破了这一前提。基础模型的自监督预训练带来涌现能力,多智能体架构把决策分散到协商与竞争的节点之间,系统还会被持续微调与重部署。结果是:同一模型在不同部署场景下的治理含义可以截然不同,而分类框架只能对「系统」这一静态对象作出一次性判定。

既有文献并非没有意识到这点。NIST AI 风险管理框架(2023)主张持续监测,生命周期治理(Raji 等 2020;Cobbe 等 2021)把问责铺到开发与部署各阶段,人本 AI(Capel 与 Brereton 2023)与可信 AI(Li 等 2023)强调透明、可申辩与信任校准。但这些进路的落点是风险监测或过程问责,并未直接刻画人机关系中权威、自主与责任如何在时间与情境中再分配。

本文的贡献因此有三:(1)提出以决策权威、过程自主、问责配置(3A)为轴的维度化治理框架;(2)识别四道「关键信任阈值」,把阈值作为监管换挡的枢纽而非价值判断;(3)给出与既有分类体系(尤其欧盟风险分级)的混合路径,即分类作锚、维度作校准。文章明确自陈为 Commentary 性质的理论工作,是 HAIG 框架(Engin 2026)的延伸,并为后续「不可委托的核心」(Engin 与 Hand 2025)铺路。

I. Theoretical Framework & Hypotheses(理论框架与假设)

本文的论证不是假设检验,而是一条归谬—类比—重构的链条。

第一环,指出分类失灵的两个根本原因。其一是 Narayanan 与 Kapoor(2024)的论断:AI 安全不是模型属性——风险由部署情境生成。同一个大模型用于文案润色与用于临床诊断,治理要求天差地别,模型本身却没有变化。其二是 AI 系统不是静态人工物:药品与航空器在批准后基本定型,AI 系统却被持续微调、换版本,获批时的配置与运行时的配置可能不是同一个东西。分类框架判定的是对象,而风险来自情境与版本。

第二环,列出六条失灵机制:风险随场景变化;技术演化使同一功能域的自主程度跃升(医学影像从有界机器学习到可自主检索、综合、生成分析的基础模型);训练数据漂移使系统在未触发任何分类边界的情况下改变行为;多智能体架构使权威成为关系性属性,线性自主等级无法刻画协调失败与涌现结果;名义监督与实际影响脱钩(自动化偏差、高频交易与自动驾驶的决策周期已短于人可介入的尺度);AI 的社会技术属性使组织惯例与激励结构重塑系统行为。案例取自金融、医疗(诊断系统实质左右临床决策)与自动驾驶。

第三环,跨域类比建立可行性。精神科诊断与发展心理学都经历过从类型到维度的迁移:类别容纳不下复杂性与情境依赖时,维度先行出现。BMI(身高体重的连续量,25 与 30 两个阈值划出「超重」「肥胖」)、自闭症谱系诊断(1987 与 1994 年阈值调整直接影响人群诊断率)、消费信贷(Kelly 等 1998、1999 证明「好客户」与「坏客户」的定义本身可由阈值优化)共同说明:维度是基础设施,类别是阈值决策。

第四环,回应「过度灵活」的反对。作者引入偏差与方差权衡:类别过死(高偏差)漏掉真实变化,类别过活(高方差)把噪音当信号。治理目标因此是优化适应性而非最大化适应性,只对实质性能力位移作出调整。这一自我设限是全文论证得以成立的关键,否则维度化只是把不稳定性制度化。

M. Materials & Methods(材料与方法)

R. Results(结果)

框架层结果有三部分:3A 维度定义与操作化、四道信任阈值、阈值触发的响应。

维度定义操作化组件对应阈值典型失灵场景
决策权威最终决定权在人、机器还是混合体,从纯建议到在界定领域有独立决定权决策权配置、推翻能力、最终批准权信息转权威信贷算法由辅助变为事实上的决定者
过程自主执行阶段可脱离人工干预、监督与控制的程度独立决策占比、免授权行动范围、自我修改能力核验转委托;过程转结果高频交易与自动驾驶的决策周期短于人工尺度
问责配置责任在人与机器之间如何分配,含透明、可申辩与救济解释义务、行为可见性、可追溯性、救济有效性个体转集体急诊调度规模化后责任散落于调度员、开发者与市政

四道阈值定义为信任复杂度曲线上斜率突变处,而非价值判断的分界:

阈值触发条件监管响应
核验转委托人无法逐条核验全部输出,须转向统计或抽样信任转向统计审计与例外处理
过程转结果透明度不再充分,只能验证结果由透明机制转向结果验证
信息转权威系统从提供建议转为行使自主决定权强化推翻能力与正式问责协议
个体转集体从个体决策转为涌现的集体行为由单系统监测转向网络行为验证

图 2 把阈值置于 HAIG 连续统上:信任复杂度随系统由人主导移向 AI 主导呈分段指数上升,四道阈值把曲线切成五段,对应规则系统、机器学习、基础模型、多智能体四阶段。

图 1 示例:急诊调度 AI 早期只推荐优先级、由人批准,权威与自主居中、问责清晰;规模化后自主决策、否决已不现实,权威与自主升高、问责弥散,静态分类捕捉不到。作者由此提炼维度的交互性:高过程自主若只搭配有限决策权威尚可治理,配上自动拒付权则需更强保障;权威迁移常是隐性的——临床系统因医生极少推翻建议而获事实上的高权威,为低权威设计的问责机制随即失效。

实施层面主张三机制:测量、设阈(以证据定监管要求)、调阈(证据累积后调阈值,维度框架稳定)。与分类体系是混合式:欧盟 AI Act 的风险分级提供基线义务,维度追踪在其内做比例化校准。

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((维度化治理))
    I 背景
      静态风险分级
      人在环内环外
      智能体兴起
      同一模型多场景
    P 问题
      分类为何失灵
      谁来测三条线
      线何时可以挪
    F 框架
      决策权威
      过程自主
      问责配置
      三维理论可分
      分类建于维度
    M 论证
      无实证纯理论
      借精神诊断先例
      借信用评分先例
      测量理论支撑
      六条失灵路径
    R 阈值
      核验转委托
      过程转结果
      信息转权威
      个体转集体
      阈值即监管换挡
    D 结论
      分类不取消
      混合欧盟风险分级
      量化留待后续
      确定性来自透明

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。