lit-radar — 2026-11-06

科研牛马们，我来汇报组会工作——paper reading了。今天一共9篇，老规矩，不念公式，只讲人话。

第一篇，《超越准确率：公共服务中的人工智能保证》。政府机关开始让人工智能替自己读材料、分门别类、写摘要。机器给出的这些结论，究竟凭什么可以拿来支撑公共决策。咋整的呢？研究者让同一个模型换八种设置，把一千二百条议会质询归入二十一个议题。结果你猜怎么着，八种设置准确率都在七成左右，却有近四分之一的问句被贴上不同标签。按作者自己的说法，机器彼此一致并不等于更准，需要人工复核的比例能从极小跳到四成。一句话总结：公共部门得说明检查怎么做、谁负责任、结论经不经得起质疑。

第二篇，《前沿人工智能能强化网络防御吗：来自玻璃翼项目的证据》。软件漏洞是网络风险的主要来源，过去靠人慢慢找，如今前沿人工智能也能帮着找。当少数大公司优先拿到能找漏洞的前沿模型，防守方、外部研究者和攻击者会各自怎样变化。具体怎么折腾的：作者把两年多里全球公开披露的软件漏洞记录几乎全部收集起来，比较拿到模型的公司和没拿到的中国公司。折腾完发现，拿到模型的公司披露的漏洞多了一倍多，高危漏洞多了一倍半，修补丁的速度没有变慢。作者还顺手讨论了一下，外部研究者在自己接不到活的代码上少报了一半，却没有退出市场，而是转去别家公司的代码。说人话就是：前沿模型帮防守方抢先找到并修掉漏洞，但只给少数国家的大公司用，会让各国软件安全差距拉大。

第三篇，《评测式人工智能治理的承诺与局限：来自专家访谈的证据》。各国开始用测试结果给前沿人工智能定风险等级，这套做法正成为治理主流。但测试到底能不能真的降低社会层面的风险，中间的路一直没人讲清楚。方法上，作者访问了三十七位评测与治理领域的专家，每人聊一小时左右，再做主题分析。最后发现，专家归纳出三条降险路径，分别有十八、十八和十六人提到，但也点出四类让路径落空的难题。作者的解读是，多数专家认为测试仍有价值，但担心它变成给开发者放行的通行证。划重点：作者主张靠强制第三方审计和硬性法规补漏，而不是放弃测试。

第四篇，《算法干预降低内容审核中的极化》。众包审核靠大家投票压假消息，可每个打分的人都带着自己的立场。把简单多数改成奖励跨立场共识的算法，能不能削弱这种对立。咋整的呢？作者比较算法改版前后两段时间里的八千多条笔记和四千多名贡献者。结果你猜怎么着，改版后，算法估出的立场分布明显没那么两极，但互相打差评的互动变多了。按作者自己的说法，差评虽多，却不再沿着党派划线扎堆，说明冲突的样子被改写了。一句话总结：算法奖励不只能挑出更受认可的笔记，还会改写人群的行为结构。

第五篇，《只讲事实：AI对话如何降低阴谋论信念》。阴谋论在网络上流传很广，但过去的研究大多认为，一次劝说很难动摇坚定的信念。人工智能对话为什么能大幅降低阴谋论信念，靠的是事实、语气还是对话本身呢。具体怎么折腾的：研究招募了两千多名美国成年人，把原始做法的要素一件件拆掉再比较。折腾完发现，只有禁止人工智能讲事实和推理，效果才明显变差，单条消息也能保住近八成效果。作者还顺手讨论了一下，分析人工智能的措辞和参与者的自述，都指向针对性的证据和讲道理，而非共情。说人话就是：阴谋论者并非听不进证据，稀缺的是有人把对得上号的反证送到他们面前。

第六篇，《没有一条批注是孤岛：探测大语言模型对众包事实核查环境的理解》。一条批注写得好不好，跟它能不能被人看见、被人接受，其实是两码事。研究要问的是，大模型能不能同时读懂批注本身、读者回应和平台规则这三层环境。方法上，研究者把三年微博附注记录连成一张网，再用七道题考十来种模型。最后发现，模型给批注打分跟真人差得远，还常漏掉那些一边支持一边骂人的评论。作者的解读是，作者主张给高质量却没人看的批注做曝光审查，并把毒性检测按立场拆开。划重点：可靠的核查助手，得同时看懂那条批注、它周围的对话和它所在的平台。

第七篇，《大模型社会智能体的情境丰富与选择性稳健性框架》。研究者常让大模型扮演社会角色，用提示词里的背景信息来决定它怎么行动。同一件事换个说法模型会不会变，加更多背景又能不能让它更稳。咋整的呢？作者把背景拆成五档，场景换四种写法，两个模型各跑四十种组合、每种十次。结果你猜怎么着，与决策直接相关的背景让两个模型都朝预期方向对制度差异做出明显反应。按作者自己的说法，但其中一个模型仍被换写法带偏，地方情境下的改写散文让它从不足百分之一跳到近九成。一句话总结：作者主张把该稳的稳、该变的变当作检验大模型社会仿真的标准。

第八篇，《测出模型专有的对齐漂移：大模型舆论动力学实验》。研究者越来越多地请大模型扮演普通人，组成合成社会来推演舆论怎样形成和转向。这些智能体的立场，到底是人设提示词说了算，还是模型自己在对话中悄悄改掉。具体怎么折腾的：十个带固定人设的智能体围绕电动车补贴辩论二十轮，每轮用同一份问卷量立场，六种模型各跑五遍。折腾完发现，六个模型分成两派，有的始终守住原本阵营，有的一开口讨论就把立场丢光，差别一望便知。作者还顺手讨论了一下，同一套实验流程换一个模型就换一种结局，说明模型本身就是会改变结论的变量。说人话就是：作者建议把模型选择写进报告并轮换复跑，像交代样本构成那样交代用的是哪个模型。

最后一篇，《面向大模型社会仿真的人口对齐人设生成》。大模型能扮演人做社会仿真，但假人常靠随手抽样造出来，整体上跟真人差得很远。怎样从社媒长文里造出一批人设，让整个人群的性格分布真正对得上真人。方法上，先从一亿三千多万条社媒文本里提炼人物小传，再照真人问卷分布做两道筛选。最后发现，在多项问卷与行为测试上，分布误差比现成人设库低三到五成。作者的解读是，关键不在人多，而在挑得准；同样素材经过分布对齐后明显更接近真人。划重点：这套流程能按地区或人群定制智能体，给舆论和政策仿真提供更靠谱的底稿。

以上就是今天的组会汇报。哪篇戳中你了就点进去看全文，没戳中的，就当陪导师开了个会。