arXiv · ARPA Hellenic Logical Systems · 23 个模型 / 368 个基准条件 · 开源框架

别再提示智能体了,给它装技能包:可审计的模块化能力标准

Vladimiros Peilivanidis · arXiv · 2026 · arXiv: 2611.07652
原题:Don't Prompt Your Agents. Equip Them: Skillware as a Modular Standard for Sovereign, Auditable, and Deterministic Capability Execution for Logical Systems
提示词·Skill·语料库的治理应用 Open Access 新颖度 0.74

🧒 初中生也能看懂的版本

① 研究背景(为什么要做?)

现在让 AI 干活,常见做法是写一大段提示词,告诉它“先查这个、再调那个接口、注意这些限制”。问题是:模型会忘记、会猜错参数、会把整段说明书塞进上下文,越用越贵、越用越不稳。

更麻烦的是审计。你让 AI 去查一家公司有没有被制裁,它可能自己写一段代码去调接口——这段代码对不对?参数有没有传错?出了事能不能查?提示词里说不清楚,也没法验证。

这篇论文的主张很直接:别再用提示词教模型做事,直接给它装“技能包”。就像玩游戏,你不用跟角色解释怎么放技能,按一下快捷键就行——技能是写死的、确定性的、可测试的。

② 研究问题(要回答什么?)

作者要回答三个问题:

③ 研究方法(怎么做的?)

Skillware 的核心是一个“能力包”的标准结构,每个包包含五样东西:

模型不直接调外部接口,它只能“点名”调用某个技能、给出参数;参数先经过严格校验,通过了才执行。执行在同一个进程内完成,没有网络往返。

评测用了 23 个模型(包括前沿闭源模型和 3B–8B 的小型开源模型)和 368 个基准条件,覆盖多步骤工作流,比较“纯提示”和“装技能包”两种做法。

④ 结果(发现了什么?)

结果非常鲜明,核心是三个数字。

−84.8%
上下文 token 用量最多下降 84.8%,因为不再需要把接口说明书塞进提示词。
−97.3%
推理成本最多下降 97.3%,小模型本地跑就够了。
0
参数错误归零——参数在执行前就被 Schema 挡住了。

最有意思的发现叫“小模型参数悖论”:3B–8B 的小模型装上技能包后,在多步骤任务的功能准确率、延迟和成本上,反而超过没装技能包的前沿大模型(70B 到 1.8T 参数)。

作者还画了一条“调试危险曲线”:纯提示模式下,模型第一次尝试成功率有 85%–100%,但失败几次后,报错信息和胡乱修改会污染上下文,到第 7 次尝试时成功率直接掉到 0。装技能包后,这条曲线整个消失——因为不再需要模型现场写代码。

校准确认误差(衡量“模型说的把握”和“实际正确率”差多少)降到 2.9%。

⑤ 讨论(这些发现说明什么?)

作者认为,这个结果动摇了一个流行假设:“能力 = 参数规模”。他们的解释是,提示词模式下,模型把大量注意力花在理解接口文档、记住约束、修复自己写的代码上;而技能包把这些都变成确定性的软件,模型只需要做它擅长的部分——理解意图、选择能力、组织结果。

对治理和审计来说,这个设计的意义更大:每次调用都有类型化参数、有单元测试、有执行日志,出了问题可以复现、可以追责。这在合规密集的场景(制裁名单筛查、企业登记核验、反洗钱)尤其重要。

作者也坦承代价:技能包要人来写、要维护、要版本管理;覆盖不到的能力,模型还是得退回提示词模式。论文末尾还延伸到物联网、机器人甚至脑机接口,这部分属于展望,缺少实证支撑。

⑥ 结论(最终结论 + 启示)

结论是:智能体的可靠性不来自更大的模型或更长的提示词,而来自经过验证的确定性软件能力。

对工程实践的启示:把“能力”当成软件资产来管理——有契约、有测试、有版本、有日志;把模型当成调度器,而不是代码生成器。

对治理的启示:可审计性不是事后加日志,而是设计时就要求每个动作都有类型化契约与可复现的执行路径。对研究者:值得检验的是这套结构在开放域任务上的边界,而不是它在封闭任务上的优势。

🎓 专业 IRMaD 结构解读

I. Introduction(引言)

LLM 智能体的主流范式是“提示词驱动”:把工具说明、约束与流程写入上下文,由模型在运行时生成调用代码并解析返回。作者把这一范式的结构性缺陷概括为四点:(1)上下文膨胀与二次注意力成本;(2)调试退化——失败尝试的报错与修补污染上下文,成功率随轮次崩塌;(3)出口不安全与“混淆代理”风险——自然语言无法强制安全边界;(4)Schema 割裂——各家工具格式互不兼容。

Skillware 的回应是把能力从“语言协商”迁移到“软件契约”:能力以版本化的能力包形式存在,包含类型化 JSON 契约、确定性 Python 实现、任务指令、打包数据集与单元测试;执行在同进程内完成,模型只负责选择与参数填充。这一设计直接对应可审计性与确定性执行两个治理诉求。

I. Theoretical Framework & Hypotheses(理论框架与假设)

抽象层提示词范式Skillware 范式治理含义
能力定义自然语言说明类型化 JSON Schema 契约可静态验证、可版本化
执行模型运行时生成代码确定性 Python 实现,进程内调用可复现、无网络出口
校验事后人工检查调用前参数校验 + 单元测试参数错误在执行前被阻断
组合对话式串联声明式 DAG(点号状态绑定、零 token 条件跳过)流程可审计、可回放

作者援引系统研究的经典分层思想(虚拟内存、用户态/内核态、声明式查询与执行引擎分离)作为类比:把随机性的语言层与确定性的执行层分离,是可靠性的前提。

M. Materials & Methods(材料与方法)

R. Results(结果)

指标提示词范式Skillware
Token 消耗基准−84.8%
推理成本基准−97.3%
参数错误存在0
运行时脚本崩溃464 次0
ECE—2.9%

a / D. Discussion & Conclusion(讨论与结论)

🧠 IRMaD 思维导图

I 引言 R 研究问题/假设 M 方法 R 结果 a 讨论 D 结论
mindmap
  root((技能包替代提示词))
    I 引言
      提示词上下文膨胀
      失败后越修越乱
      安全边界难强制
    R 问题
      能力如何与执行分离
      小模型能否胜大模型
      动作能否被审计
    M 方法
      类型化输入契约
      确定性代码实现
      单元测试与版本
      二十三模型三百六十八条件
    R 结果
      token 降八成四
      成本降九成七
      参数错误归零
      小模型反超前沿
    a 讨论
      可靠性来自结构
      审计日志可复现
      能力包需维护
    D 结论
      模型当调度器
      能力当软件资产管理
      开放域仍是边界

图:本研究的 IRMaD 思维导图。蓝色 I 引言;橙色 R 研究问题;绿色 M 方法; 橙色 R 结果;紫色 a 讨论;红色 D 结论。