本次抓取共 11 篇(其中 7 篇跨专题) · run_id: run_2026-11-10_001
为啥做:欧盟人工智能法条文复杂,中小企业请不起律师,很难搞清自己该履行哪些义务。 要干啥:做一个专门讲这部法律的问答助手,能不能比通用聊天机器人更贴合治理要求、又不出错。 咋整的:作者用设计科学方法做了 TESSA,把法条知识库、提示设计和护栏装进定制助手,再用一百道题和律师评审对照通用模型。 发现了啥:TESSA 的治理贴合度略高,但通用模型在法律准确性和幻觉风险上反而更好,两者一致性都很高。 作者认为:专用助手改变的是回答的关注点,而不是全面超越通用模型,差距主要来自知识库与提示设计。 结论:治理型助手适合做合规入门引导,但不能替代法律意见,上线需保留人工复核和来源标注。
为啥做:平台用大模型来识别水军机器人,可攻击者也能反过来利用大模型的弱点来伪装。 要干啥:大模型检测器到底怕什么样的攻击,能不能设计一套更抗打的组合方案。 咋整的:作者提出两种攻击:改内容、改提示,测了多个模型,再搭一个多模型投票的防守系统叫 LSABRE。 发现了啥:两种攻击最多让检测准确率掉四十八个百分点,而组合防守在强攻击下仍保持八成六的准确率。 作者认为:单一模型检测器太脆,必须在语义和上下文两个层面同时设防,并定期对抗演练。 结论:机器人检测正在变成一场持续的攻防战,平台需要把对抗鲁棒性当作上线指标。
为啥做:该不该立法限制仇恨言论一直吵得很凶,大家常以为分歧在于“要保护哪个群体”。 要干啥:同一句话针对不同群体时,公众支持立法的程度会不会不一样,党派立场又起多大作用。 咋整的:作者在美国和丹麦各做了一次联合实验,把言论的严重程度和攻击对象随机组合,让近两千八百人逐条打分。 发现了啥:严重程度的影响最大,从冒犯升级到煽动暴力,支持率最多涨三十二个百分点;攻击对象只带来最多六点三个百分点差别。 作者认为:公众主要看话说得有多狠,而不是被骂的是谁;党派分歧也没有想象中那么大。 结论:立法讨论应聚焦暴力与威胁的边界,而不是纠缠于“保护哪个群体”的象征性争论。
为啥做:数据交易市场越来越大,可买卖双方互不信任,谁也不敢保证拿到的数据是真的、干净的。 要干啥:如果成立一个第三方“数据信用担保组织”给数据做认证背书,它到底能不能让市场变好、在什么条件下才划算。 咋整的:作者把中世纪商人法的信誉机制改造成智能体仿真,给数据加上三个特点,再对比两家直接交易和有担保组织两种情况。 发现了啥:有担保组织时买方收益几乎达到理论最高值,数据掺假率从约三成降到千分之一,只有认证费很高且几乎没人造假时才不划算。 作者认为:光有记录共享不够,必须先核实卖家身份;事前验证是唯一能阻止伤害扩散的环节。 结论:数据信用担保在多数市场环境下值得做,但要管好收费、防止垄断,并帮助新机构获得起步规模。
为啥做:谣言在网上传播很快,想提前推演它怎么扩散,就需要能模拟几百万人的仿真系统。 要干啥:能不能在几百万人的规模上,既让关键人物像真人一样思考,又让整个传播过程逼近真实数据。 咋整的:作者只让少数关键节点调用大模型,其余人用轻量规则模型,并搭了一个有意见领袖和小圈子结构的分层网络。 发现了啥:在三组真实推特谣言数据上,模拟误差平均降低约百分之二十六,模拟曲线与真实走势的相关系数达到零点七四。 作者认为:关键节点要动态挑选、网络结构要分层,这两点缺一不可;只用规则模型会明显失真。 结论:这套框架把大模型的真实感和规则模型的高效率结合了起来,可以支撑百万级谣言推演和干预预案测试。
为啥做:大模型开始替人做分配决定,比如有限的岗位和资源该给谁,可没人知道它心里按什么标准分。 要干啥:当模型手里只有一份资源、要分给一群人时,它到底追求整体产出还是照顾弱者,会不会偏得很厉害。 咋整的:作者搭了一个近百轮的分资源模拟场,让二十个大模型轮流当分配者,再用随机、效率优先、公平优先几种规则做对照。 发现了啥:二十个模型普遍偏向效率,把差距越拉越大;聊天排行榜第一的模型在分配榜上掉到倒数第二。 作者认为:会聊天不等于会分钱,模型的分配倾向还会被字数限制和劝说话术轻易带偏。 结论:不能只看聊天榜就派模型去做社会福利决策,需要专门的分配评测和针对性校正。
为啥做:医院开始用大模型给 AI 写的病历打分,代替专家评审,可没人系统检查过它准不准。 要干啥:在德语临床文本上,用大模型当裁判,和真正的专家评审相比,偏差有多大、错在哪。 咋整的:作者拿四套德语临床数据、六个开源模型、三种评分方式和四种提示写法,逐一和专家打分对照。 发现了啥:换成模型裁判后,近六成的单项评分档位变了,四成多的两两比较结果被反转,还漏掉一成多的临床错误。 作者认为:模型裁判并不是更严格或更宽松那么简单,它会系统性地偏爱简洁、低估详尽,临床优先级被颠倒。 结论:在临床场景里,大模型裁判还不能替代专家,只能做辅助;上线门槛要按决策影响来定。
为啥做:现在给大模型做安全对齐,多靠人写的原则或笼统的“对人类好”,可这些标准要么太费人,要么太模糊。 要干啥:能不能直接拿真实的法律条文当规矩,让模型自己先判断问题属于哪类,再对着法条检查和改写回答。 咋整的:作者用法国刑法里的五类罪名建了一个法条库,让模型两轮思考:先分类,再对照相关条文批判和改写,用一千条攻击提示测试。 发现了啥:有害回答比原来减少五十二到五十九个百分点,比常规的宪法式对齐还多约十个百分点,计算时间省了一半以上。 作者认为:法律条文比抽象原则更具体、更可执行,模型知道该守哪条线,也知道为什么。 结论:用成文法做对齐是一条可落地的治理路径,但法条库要维护、跨法域要适配,判断仍依赖模型自身。
为啥做:盖楼前要按成千上万条建筑规范逐条核对图纸,人工做又慢又贵,还经常漏。 要干啥:能不能让 AI 把写在纸上的法规自动翻译成可以运行的检查程序,而且结果可审计、能换模型。 咋整的:作者设计了六个越来越复杂的提示与智能体组合,在十条真实规范和四个不同档次的大模型上逐一对比。 发现了啥:最复杂的编排方案在每个模型上都最好,平均准确率比单次提问高八成;本地小模型也能达到前沿模型九成七的水平,成本只要四分之一。 作者认为:关键不在于模型多强,而在于把计划、生成、评估拆成固定分工,弱模型才不会乱来。 结论:监管合规可以交给可审计的智能体流水线,但必须保留生成出来的检查代码供人复核。
为啥做:现在很多程序员用 AI 写代码,而 AI 听不听话,靠的是项目里那些提示词和技能配置文件。 要干啥:这些配置里到底有没有写伦理要求,写的是哪些,又是写给谁看的。 咋整的:作者扫了近九千个开源仓库、四万份配置文件,用经过人工校验的大模型分类,再细读七百多份样本。 发现了啥:约四成文件写着伦理要求,六成仓库至少有一处;内容集中在问责、透明、隐私和可靠,而且技能文件比全局配置写得多。 作者认为:公共伦理框架保护的是社会和用户,而开发者写配置时更关心自己和团队,两者关注点明显错位。 结论:配置层正在成为事实上的伦理治理入口,但写了不等于会执行,需要工具和规范来保证落实。
为啥做:智能体技能是可以买卖的文本产品,但买家用完转手倒卖、或把别人的技能改头换面再发布,很难查。 要干啥:能不能在技能里埋下看不见的“产权指纹”,既不破坏可读性,又能查出是谁泄露的。 咋整的:作者把技能拆成结构化的段落锚点,在锚点上分散写入条件指令,再用纠错码给每个买家编一个专属词汇指纹。 发现了啥:在三个领域、六个模型、三种框架上,识别原作者准确率百分之九十九点二,识别泄露买家百分之九十九点三。 作者认为:技能越长越适合结构化埋点;即便对方改写、压缩、删条款,所有权证据仍能被检出。 结论:这为技能市场提供了一种可审计的版权保护手段,也提醒监管者技能供应链需要溯源机制。
面向跨领域硕博研究生和学者,用 B 站 / YouTube 长视频文案的口吻,一口气讲清今天目录里的内容。
科研牛马们,我来汇报组会工作——paper reading了。今天一共11篇,老规矩,不念公式,只讲人话。
第一篇,《TESSA:面向欧盟人工智能法中小企业合规的治理型定制助手》。欧盟人工智能法条文复杂,中小企业请不起律师,很难搞清自己该履行哪些义务。做一个专门讲这部法律的问答助手,能不能比通用聊天机器人更贴合治理要求、又不出错。咋整的呢?作者用设计科学方法做了 TESSA,把法条知识库、提示设计和护栏装进定制助手,再用一百道题和律师评审对照通用模型。结果你猜怎么着,TESSA 的治理贴合度略高,但通用模型在法律准确性和幻觉风险上反而更好,两者一致性都很高。按作者自己的说法,专用助手改变的是回答的关注点,而不是全面超越通用模型,差距主要来自知识库与提示设计。一句话总结:治理型助手适合做合规入门引导,但不能替代法律意见,上线需保留人工复核和来源标注。
第二篇,《攻破与防守:大模型驱动的社交媒体机器人检测系统》。平台用大模型来识别水军机器人,可攻击者也能反过来利用大模型的弱点来伪装。大模型检测器到底怕什么样的攻击,能不能设计一套更抗打的组合方案。具体怎么折腾的:作者提出两种攻击:改内容、改提示,测了多个模型,再搭一个多模型投票的防守系统叫 LSABRE。折腾完发现,两种攻击最多让检测准确率掉四十八个百分点,而组合防守在强攻击下仍保持八成六的准确率。作者还顺手讨论了一下,单一模型检测器太脆,必须在语义和上下文两个层面同时设防,并定期对抗演练。说人话就是:机器人检测正在变成一场持续的攻防战,平台需要把对抗鲁棒性当作上线指标。
第三篇,《仇恨言论法支持度:被攻击的是谁,重要吗》。该不该立法限制仇恨言论一直吵得很凶,大家常以为分歧在于“要保护哪个群体”。同一句话针对不同群体时,公众支持立法的程度会不会不一样,党派立场又起多大作用。方法上,作者在美国和丹麦各做了一次联合实验,把言论的严重程度和攻击对象随机组合,让近两千八百人逐条打分。最后发现,严重程度的影响最大,从冒犯升级到煽动暴力,支持率最多涨三十二个百分点;攻击对象只带来最多六点三个百分点差别。作者的解读是,公众主要看话说得有多狠,而不是被骂的是谁;党派分歧也没有想象中那么大。划重点:立法讨论应聚焦暴力与威胁的边界,而不是纠缠于“保护哪个群体”的象征性争论。
第四篇,《把信任制度化:数据信用担保组织的信任锚模型及其仿真比较》。数据交易市场越来越大,可买卖双方互不信任,谁也不敢保证拿到的数据是真的、干净的。如果成立一个第三方“数据信用担保组织”给数据做认证背书,它到底能不能让市场变好、在什么条件下才划算。咋整的呢?作者把中世纪商人法的信誉机制改造成智能体仿真,给数据加上三个特点,再对比两家直接交易和有担保组织两种情况。结果你猜怎么着,有担保组织时买方收益几乎达到理论最高值,数据掺假率从约三成降到千分之一,只有认证费很高且几乎没人造假时才不划算。按作者自己的说法,光有记录共享不够,必须先核实卖家身份;事前验证是唯一能阻止伤害扩散的环节。一句话总结:数据信用担保在多数市场环境下值得做,但要管好收费、防止垄断,并帮助新机构获得起步规模。
第五篇,《谣言球:百万级智能体动态谣言传播仿真框架》。谣言在网上传播很快,想提前推演它怎么扩散,就需要能模拟几百万人的仿真系统。能不能在几百万人的规模上,既让关键人物像真人一样思考,又让整个传播过程逼近真实数据。具体怎么折腾的:作者只让少数关键节点调用大模型,其余人用轻量规则模型,并搭了一个有意见领袖和小圈子结构的分层网络。折腾完发现,在三组真实推特谣言数据上,模拟误差平均降低约百分之二十六,模拟曲线与真实走势的相关系数达到零点七四。作者还顺手讨论了一下,关键节点要动态挑选、网络结构要分层,这两点缺一不可;只用规则模型会明显失真。说人话就是:这套框架把大模型的真实感和规则模型的高效率结合了起来,可以支撑百万级谣言推演和干预预案测试。
第六篇,《社会福利函数排行榜:当大模型智能体来分配社会福利》。大模型开始替人做分配决定,比如有限的岗位和资源该给谁,可没人知道它心里按什么标准分。当模型手里只有一份资源、要分给一群人时,它到底追求整体产出还是照顾弱者,会不会偏得很厉害。方法上,作者搭了一个近百轮的分资源模拟场,让二十个大模型轮流当分配者,再用随机、效率优先、公平优先几种规则做对照。最后发现,二十个模型普遍偏向效率,把差距越拉越大;聊天排行榜第一的模型在分配榜上掉到倒数第二。作者的解读是,会聊天不等于会分钱,模型的分配倾向还会被字数限制和劝说话术轻易带偏。划重点:不能只看聊天榜就派模型去做社会福利决策,需要专门的分配评测和针对性校正。
第七篇,《跨范式审计:用大模型给临床文本打分到底靠不靠谱》。医院开始用大模型给 AI 写的病历打分,代替专家评审,可没人系统检查过它准不准。在德语临床文本上,用大模型当裁判,和真正的专家评审相比,偏差有多大、错在哪。咋整的呢?作者拿四套德语临床数据、六个开源模型、三种评分方式和四种提示写法,逐一和专家打分对照。结果你猜怎么着,换成模型裁判后,近六成的单项评分档位变了,四成多的两两比较结果被反转,还漏掉一成多的临床错误。按作者自己的说法,模型裁判并不是更严格或更宽松那么简单,它会系统性地偏爱简洁、低估详尽,临床优先级被颠倒。一句话总结:在临床场景里,大模型裁判还不能替代专家,只能做辅助;上线门槛要按决策影响来定。
第八篇,《法定对齐:用成文法规范约束大语言模型》。现在给大模型做安全对齐,多靠人写的原则或笼统的“对人类好”,可这些标准要么太费人,要么太模糊。能不能直接拿真实的法律条文当规矩,让模型自己先判断问题属于哪类,再对着法条检查和改写回答。具体怎么折腾的:作者用法国刑法里的五类罪名建了一个法条库,让模型两轮思考:先分类,再对照相关条文批判和改写,用一千条攻击提示测试。折腾完发现,有害回答比原来减少五十二到五十九个百分点,比常规的宪法式对齐还多约十个百分点,计算时间省了一半以上。作者还顺手讨论了一下,法律条文比抽象原则更具体、更可执行,模型知道该守哪条线,也知道为什么。说人话就是:用成文法做对齐是一条可落地的治理路径,但法条库要维护、跨法域要适配,判断仍依赖模型自身。
第九篇,《ARCHER:把法规变成可执行代码的智能体合规审查框架》。盖楼前要按成千上万条建筑规范逐条核对图纸,人工做又慢又贵,还经常漏。能不能让 AI 把写在纸上的法规自动翻译成可以运行的检查程序,而且结果可审计、能换模型。方法上,作者设计了六个越来越复杂的提示与智能体组合,在十条真实规范和四个不同档次的大模型上逐一对比。最后发现,最复杂的编排方案在每个模型上都最好,平均准确率比单次提问高八成;本地小模型也能达到前沿模型九成七的水平,成本只要四分之一。作者的解读是,关键不在于模型多强,而在于把计划、生成、评估拆成固定分工,弱模型才不会乱来。划重点:监管合规可以交给可审计的智能体流水线,但必须保留生成出来的检查代码供人复核。
第十篇,《配置即伦理:编码智能体指令文件中的 AI 伦理原则》。现在很多程序员用 AI 写代码,而 AI 听不听话,靠的是项目里那些提示词和技能配置文件。这些配置里到底有没有写伦理要求,写的是哪些,又是写给谁看的。咋整的呢?作者扫了近九千个开源仓库、四万份配置文件,用经过人工校验的大模型分类,再细读七百多份样本。结果你猜怎么着,约四成文件写着伦理要求,六成仓库至少有一处;内容集中在问责、透明、隐私和可靠,而且技能文件比全局配置写得多。按作者自己的说法,公共伦理框架保护的是社会和用户,而开发者写配置时更关心自己和团队,两者关注点明显错位。一句话总结:配置层正在成为事实上的伦理治理入口,但写了不等于会执行,需要工具和规范来保证落实。
最后一篇,《SkillCODER:面向智能体技能版权审计与买家溯源的编码方案》。智能体技能是可以买卖的文本产品,但买家用完转手倒卖、或把别人的技能改头换面再发布,很难查。能不能在技能里埋下看不见的“产权指纹”,既不破坏可读性,又能查出是谁泄露的。具体怎么折腾的:作者把技能拆成结构化的段落锚点,在锚点上分散写入条件指令,再用纠错码给每个买家编一个专属词汇指纹。折腾完发现,在三个领域、六个模型、三种框架上,识别原作者准确率百分之九十九点二,识别泄露买家百分之九十九点三。作者还顺手讨论了一下,技能越长越适合结构化埋点;即便对方改写、压缩、删条款,所有权证据仍能被检出。说人话就是:这为技能市场提供了一种可审计的版权保护手段,也提醒监管者技能供应链需要溯源机制。
以上就是今天的组会汇报。哪篇戳中你了就点进去看全文,没戳中的,就当陪导师开了个会。