🧒 初中生也能看懂的版本
① 研究背景（为什么要做？）
想找房子的时候，你可能已经习惯先问一句聊天机器人。过去二十年，找房信息从报纸搬到网页，再搬到手机应用，如今又搬进了对话框。
模型会像中介一样，替你挑出几个邮编，再告诉你为什么这些地方合适。
美国有一套《公平住房法》，一九六八年通过，后来又补齐了七类受保护身份，包括种族、肤色、宗教、原籍、性别、残障和家庭状况。
法律禁止的"导流"，指的是中介把不同种族的买家悄悄带向不同街区。
已有研究发现，聊天机器人也会这样：二〇二四年一项对某款模型的审计显示，它把黑人和白人买家分别带向各自种族占多数的街区。
但那些研究大多只问一句、只看种族。真实找房时，买家还会说出预算、学区、通勤这些条件。条件一多，模型会怎么处理，正是这篇论文要查的事。
② 研究问题（要回答什么？）
作者把整件事拆成三个层层递进的问题。
第一，模型会不会导流？如果只告诉它买家的种族，它推荐的邮编会不会系统性地偏向某个种族占多数的地区？如果再加上买房偏好，这种偏向是变强、变弱，还是干脆换了方向？作者想知道，同一句"想要好学区"，对不同种族的买家会不会被理解成不同的意思。
第二，城市本身起什么作用？同样是黑人买家，在芝加哥和在休斯敦，得到的推荐会不会不一样？作者怀疑，城市不是一块中性的背景板，而是会主动改变结果的因素。
第三，提示能不能救？如果让模型先自己说出"我猜这位买家最在意什么"，再据此推荐，能不能削弱偏见，还是反而给它更多发挥空间？
这三个问题合起来，其实是在问一件事：模型的偏见是天生固定的，还是被对话一步一步"问"出来的。
③ 研究方法（怎么做的？）
这项研究借用了公平住房领域查歧视的老办法，叫配对测试。做法是准备两个几乎一模一样的买家，只有种族不同，看中介给他们的推荐是否一样。作者把这套办法搬进了对话框。
他们选了七款大语言模型，既有闭源的，也有开放权重的；选了四座城市：芝加哥、休斯敦、纽约、洛杉矶，分别代表中西部、南部、东海岸和西海岸。
提问分三层。第一层只说种族；第二层再加上一种买房偏好，比如"要三个卧室、通勤不超过三十分钟"；第三层让模型先推断买家最在意什么，再据此推荐。
偏好有四种，身份有四种：黑人、西语裔、白人，以及不说明种族。每种组合重复二十次，每次要五个邮编。
算下来，每款模型回答两千八百八十次，七款合计两万零一百六十次。
拿到推荐后，作者统计每个邮编被推荐的频率，再用斯皮尔曼相关系数，看这个频率和当地某族裔人口比例是否同步。他们还给每个邮编算了一个"机会指数"，把收入、贫困率、失业率等七项普查指标标准化后加总，用来判断被推荐的地方到底有多少上升机会。
④ 结果（发现了什么？）
结果比作者预想的更普遍，几乎每一座城市、每一种身份都能看到偏向。
只看种族、不给任何偏好时，四座城市里每座都至少有一款模型开始"偏心"，把买家引向同族占多数的邮编。
加上偏好之后，出现导流的模型数量通常不减反增。这说明模型不是听到"黑人"就机械反应，而是在琢磨：一个黑人家庭说要好学区、要安静，这句话对他意味着什么。
三类买家的表现很不一样。白人最稳定，几乎一路被推荐到白人多数区。黑人也稳定，除休斯敦外，加了偏好仍被引向黑人多数区。西语裔最飘忽，方向会变，显著性也会消失。
城市差异同样明显。洛杉矶黑人条件下的关联最强，某款模型达到 0.90，同城另外两款是 0.60 和 0.57；芝加哥同一条件只有 0.52。
休斯敦最反常：黑人买家在第三层条件下，七款模型的同族关联全部消失。但换一个参照系，这些推荐其实显著流向了白人多数邮编。
芝加哥还有个扎眼的细节：同样说"要四个卧室、好学校、安静"，黑人买家被带向南区，白人和西语裔买家被带向北区，而南区的机会指数普遍偏低。
⑤ 讨论（这些发现说明什么？）
作者提出了一个关键说法：模型的导流不是固定属性，而是被"问"出来的。
如果偏见是固定的，那么只要不告诉它种族，问题就该消失。可实验显示，恰恰是加上偏好、给了它解释空间之后，导流的模型反而更多。这个解释空间，作者叫它解释余地：从听到一句需求，到把它翻译成五个邮编，中间那一段自由裁量。
模型在这段空隙里，会调动它从海量文本学到的"地方印象"：哪个街区安全、哪个街区学校好、哪种人适合住哪里。城市就像一层层叠加的旧地图，隔离历史的痕迹沉在底下，模型把它们重新读了一遍。
这也解释了城市之间为什么差别这么大。洛杉矶的机会指数跨度从 负十七点四到正九点九七，芝加哥从 负十一点六到八点五五；洛杉矶更分散、贫富差距更大，模型可挑的余地也更大。休斯敦正在快速经历绅士化，旧的"种族与地点"对应关系被打乱，于是出现了别处没有的反向结果。
作者特别强调，这是模型自己做出的排序，不是用户要求的。
⑥ 结论（最终结论 + 启示）
这项研究最后想说的是，城市不是中性的测试场地。
同一款模型，在芝加哥得出的结论，不能直接搬到休斯敦；在一座城市测出的"轻微偏向"，换一座城市可能变成"接近九成"。所以评估这类模型时，不能把不同城市之间的差异当成普通的稳健性检查，它本身就是研究结论的一部分。
对政策制定者，这意味着《公平住房法》几十年建立起来的保护，可能被一层看不见的推荐逻辑绕开。房产中介有执照、有法律义务，而充当中间人的模型没有。
作者主张，采用这类工具时，必须让熟悉本地市场和法律的从业者保留判断权。
研究也有局限：邮编比街区粗，里面的人口可能很杂；实验用的是明说的种族，而现实中种族往往通过名字、语言等线索间接透露；测试时还关闭了联网。
下一步值得追问的是：当模型记住你的偏好、并据此长期推荐时，你还能看见它没推荐的那些地方吗？
🎓 专业 IRMaD 结构解读
I. Introduction（引言）
住房搜索的入口正在第三次迁移：从纸质传单到门户网站，再到对话式界面。Zillow 一类平台被整合进 ChatGPT 之后，大语言模型不再只是检索工具，而是承担中介（intermediary）角色——决定哪些街区进入用户的视野，哪些被过滤掉。
这一角色直接落在《公平住房法》（FHA，1968）的管辖范围内。FHA 于 1968—1988 年间确立七类受保护身份：种族、肤色、宗教、原籍、性别、残障与家庭状况，禁止包括导流（steering）在内的差别对待。判例法发展出差别对待（McDonnell Douglas, 1973）与差别影响（Griggs, 1971）两条理论；HUD 于 2013 年发布差别影响最终规则，2015 年 Texas Department of Housing and Community Affairs v. Inclusive Communities Project 予以确认，此后历经废止与恢复，2026 年再度提出撤销动议，但尚无最终规则。司法部已在住房与技术交汇处执法，如 United States v. Meta Platforms 的和解。
既有 LLM 偏见研究多集中于单模型、单轮、显式人口线索。Liu et al. (2024) 对 GPT-4 的审计发现，模型将黑人与白人买家导向各自种族多数街区，在隔离程度更高的城市尤甚，且 Section 8 持有者被导向低机会地区。本文的贡献有四：横向比较七款开源与闭源模型；把公平住房配对测试改造为多轮、带偏好的对话式审计；把城市由背景变量提升为解释变量；检验提示层面的缓解策略。
I. Theoretical Framework & Hypotheses（理论框架与假设）
框架汇合三条文献。地方认同（place identity）指个体通过与物理环境的关系界定自我（Proshansky, 1978）；在城市尺度上，Graham (2010) 把城市比作羊皮纸（palimpsest）：旧历史层层覆盖，新信息不断写入。模型内化房源、地理趋势与隔离效应后，本身也成为"数字羊皮纸"，形成对"好地方"的复合表征。
数字地理研究提示，排序与检索从不中性：Graham & Zook (2013) 展示地点信息如何因语言与受众被差别呈现；Manvi et al. (2024) 证明模型的地理表征带有系统性偏差；Kerche et al. (2026) 给出类型学——数据可得性放大、词关联偏差、话语扁平化、刻板印象凸显、以量化代理替代主观品质。
审计传统提供识别逻辑：从 Bertrand & Mullainathan (2004) 的简历实验到 Choi et al. (2019) 的配对测试，核心是"除处理变量外一切相同"。
核心概念是解释余地（interpretive license）：模型在"收到偏好"与"输出推荐"之间的自由裁量空间。导流因此不是静态属性，而是用户身份、偏好表述与模型内化的城市空间逻辑三者交互的涌现结果。本文为探索性审计，不设方向性假设，以三个研究问题代之。
| 编号 | 研究问题 | 理论落点 |
|---|---|---|
| RQ1 | LLM 在仅给种族线索时是否导流？加入偏好或更多上下文后如何变化？ | 解释余地 + 配对测试传统 |
| RQ2 | 城市自身的空间与社会经济特征如何与导流模式交互？ | 地方认同 / 城市作为羊皮纸 |
| RQ3 | 推理型提示（让模型先推断用户优先级）能否缓解偏见？ | 提示层缓解与模型护栏 |
M. Materials & Methods（材料与方法）
- 识别策略。行为审计（behavioral audit）结合公平住房配对测试（fair-housing paired testing）：同一城市、偏好与提示模板，仅改变种族标签，把推荐差异归因于该标签。属观察性审计，依赖模板一致与重复抽样。
- 模型。七款：Claude Sonnet 3.7、Gemini 2.0 Flash、DeepSeek V3、Llama 3.1、Mistral Large、GPT-4o、Grok 2；测试时关闭联网。
- 城市。芝加哥、休斯敦、纽约、洛杉矶，分属中西部、南部、东海岸、西海岸。
- 身份与提示条件。四种身份（Neutral / Black / Hispanic / White）× 三种提示：P0 仅身份；P1 叠加四种偏好之一（PF1 客观属性、PF2 预算与通勤、PF3 家庭与主观品质、PF4 年轻买家与步行性）；P2 在其上要求模型推断 2–4 项优先级并排序。每次返回 5 个邮编。
- 样本量。每款模型 2,880 个数据点（4 身份 × 4 城 × 9 个提示×偏好格 × 20），七款合计 20,160。
- 测量。推荐概率
PoR(z|c) = n(z|c) / Σ_z' n(z'|c)；以 Spearman 秩相关估计ρ = 1 − 6Σd_i² / (n(n²−1))，检验 PoR 与邮编内该族裔人口比例的关联；正值为同族亲和，负值为回避。 - 机会指数。
OI_z = Σ_k s_k·z_{k,z}，k 为收入、公共救助、单亲母亲、租金、自有率、失业率、贫困率七项普查指标，z 标准化后按方向赋号（贫困率等取负）加总，与 Liu et al. (2024) 一致。
R. Results（结果）
- 基线即出现导流。P0 下每个"城市×身份"组合至少有一款模型显著同族亲和；黑、白在四城均被导向各自多数邮编，西语裔在芝加哥、洛杉矶、纽约亦然。
- 偏好放大而非稀释。P1/P2 下出现导流的模型数量在三种身份中通常上升，方向亦可能重构，说明偏好被按种族解读。
- 群体异质性。白人最稳定，黑人除休斯敦外持续亲和，西语裔在方向与显著性上最不稳定；部分城市 Gemini 对白人提示的邮编集合变化不足，相关无法估计。
- 城市与偏好类型。洛杉矶黑人导流最强（Mistral ρ=0.90，p=0.002）；休斯敦 P1 出现黑人同族反向（Llama −0.24，Grok −0.41），P2 同族相关全部消失；芝加哥 PF3 下 GPT-4o 与 Claude 把黑人提示导向机会较低的南区，其他身份去北区。
| 条件 | 模型类别 | 是否出现 steering / 方向差异 | 说明 |
|---|---|---|---|
| P0 基线（四城） | 七款（开源＋闭源） | 是，同族亲和 | 每城至少一款显著 |
| P0 洛杉矶 黑人 | Mistral／GPT-4o／Claude | 是，向黑人多数邮编 | ρ=0.90、0.60、0.57（p≤0.03） |
| P0 纽约 白人 | Llama 3.1 | 是，向白人多数邮编 | ρ=0.74（p=0.000003） |
| P1 三身份 | 多数模型 | 是，数量上升或方向重构 | 偏好被按种族解读 |
| P1 休斯敦 西语裔 | Llama／DeepSeek／Grok | 反向，远离西语裔区 | ρ=−0.64、−0.47、−0.39 |
| P1 芝加哥 白人 | Mistral Large | 反向 | ρ=−0.62（p=0.02） |
| P2 休斯敦 黑人 | 七款全部 | 否，同族相关消失 | 参白人比例时流向白人区 |
注：ρ 为 Spearman 秩相关，正值为同族亲和，负值为反向。
a / D. Discussion & Conclusion（讨论与结论）
- 理论含义。导流是系统交互的涌现行为，而非模型的静态属性：P0 已有信号，但真正放大它的是偏好与解释余地。模型并非在"看到黑人"后机械复制人口分布，而是在解释"一个黑人家庭说要好学校"意味着什么，并据此收缩可见集合。这属于主动的、未经用户要求的排序。
- 群体差异。西语裔的方向与显著性最易被偏好打断，提示模型对西语裔的空间表征较不稳固、更易被偏好信号扰动；黑人与白人的同族推荐更"黏"，说明部分模型难以把身份与住房需求可靠分离。
- 城市作为构成性变量。洛杉矶机会指数跨度 −17.4 至 9.97、芝加哥 −11.6 至 8.55；前者更分散、贫富梯度更大，为模型留下更多排序空间；芝加哥隔离更集中、邮编边界更硬。休斯敦的持续绅士化可能打乱"身份—偏好—机会"的既有对应，因而出现反向与消失。跨城市差异不应被当作稳健性检验，而是构念本身的一部分。
- 治理与实践。房地产经纪受 FHA 约束并持有执照，LLM 中介却无同等的许可与救济渠道；地方与领域专家应保留对推荐的判断权。模型作为新的基础设施层，并非中立的裁判者，其联想可能复现遗留住房数据的旧有格局。
- 局限。测试针对采集时的模型版本，需持续复评；邮编口径粗于普查区或街区；实验使用显式种族，现实中种族多经姓名、语言或持久记忆中的复合画像传递（Tonneau et al., 2026）；测试关闭联网；理由关键词已采集，但跨条件主题建模留待后续研究。
🧠 IRMaD 思维导图
mindmap
root((算法中介与居住隔离))
I 引言
找房入口转向对话
公平住房法七类保护
模型或放大隔离模式
城市是层积的旧地图
R 问题
模型是否按种族导流
偏好会改变导流方向吗
城市特征如何调节
提示能否缓解偏见
M 方法
七款模型四座城市
三种提示层层加码
四种购房偏好
两千八百八十配对
斯皮尔曼秩相关
七项普查机会指数
R 结果
基线即见同族亲和
偏好条件下模型更多
西语裔最为飘忽
洛杉矶黑人关联最高
休斯敦黑人转向消失
芝加哥南区对比北区
a 讨论
解释余地而非静态属性
同一偏好被种族化解读
城市不是中性单位
绅士化打乱旧对应
邮编口径偏粗
D 结论
模型是中介而非中立
公平住房承诺受威胁
需本地与领域判断
从业者应保留裁量
图：本研究的 IRMaD 思维导图。蓝色 I 引言；橙色 R 研究问题；绿色 M 方法； 橙色 R 结果；紫色 a 讨论；红色 D 结论。