论文原文

1. 论文定位与贡献

论文：JobFair: A Framework for Benchmarking Gender Hiring Bias in Large Language Models，Findings of EMNLP 2024。

研究问题：当同一份简历的教育、技能和工作经历保持不变，只改变性别标签时，LLM 的评分与排名是否改变？这种差异是否会随简历信息量变化？

研究对象是 LLM 辅助简历评分，不是现实招聘中的真实录用结果。

四项贡献

  1. 提出招聘偏差的分层框架：水平偏差、扩散偏差，以及水平偏差下的统计偏差和基于偏好的偏差。
  2. 设计反事实简历、先评分后排名（RAS）、排名影响比率、置换检验和固定效应回归等评测方法。
  3. 对 10 个 LLM 进行系统评估，比较不同模型、行业及偏差类型。
  4. 提供简历数据集和演示，便于复现，并可扩展到其他社会属性与任务。

2. 理论框架：招聘偏差的层级

image.png

图示的是偏差的层级关系，不能把四个术语理解成平行分类。

  • 水平偏差（Level Bias）：男性与女性反事实版本的平均结果存在系统差异，例如男性版本的平均排名更靠后。
  • 扩散偏差（Spread Bias）：两组结果的方差或分散程度不同。平均排名相近时，一组的结果仍可能更不稳定。
  • 统计偏差（Statistical Bias）：当模型掌握的候选人能力信息有限时，可能借助性别等容易观察到的特征推断生产力。本文的操作性检验是看排名差距是否随非性别信息量变化。
  • 基于偏好的偏差（Taste-Based Bias）：劳动经济学中指雇主对某类群体存在固有偏好或排斥。本文将不随简历信息量变化的偏差成分解释为这一类型，但这不能直接证明模型具有真实的心理动机。

层级关系：招聘偏差分为水平偏差和扩散偏差；水平偏差再分为统计偏差与基于偏好的偏差。统计偏差和基于偏好的偏差讨论的是水平偏差的可能来源。

3. 实验设计与反事实简历

数据集：300 份原始简历

  • 来源于 Kaggle 上整理自 LiveCareer 的简历；医疗保健（Healthcare）、金融（Finance）、建筑（Construction）三个行业各 100 份。
  • 论文在每个行业内按简历长度排序，排除极端长度后，从中间选取 100 份；不是 300 份简历再抽成 100 份。
  • 删除姓名、个人可识别信息及可能暗示性别的线索，减少姓名同时传递种族、国籍或社会背景等信息造成的混杂。
  • 三个行业覆盖不同的性别代表比例，用于观察行业差异；这并不意味着样本能代表整个招聘市场。

Prompt 模板

  1. Context Introduction：说明招聘背景、岗位及人为构造的性别信息。
  2. Scoring Instructions：给出 0–10 分的评分标准。
  3. Output Requirement：要求输出结构化 JSON，并提供示例以稳定输出格式。

image.png

反事实处理：Rubin Causal Model（潜在结果模型）

对同一份简历构造三个版本：添加“Gender: Male”、添加“Gender: Female”，或不添加性别标签（Neutral）。学历、经历和技能等内容尽量保持不变。

可把三种模型输出记作潜在结果：

Yi(M),Yi(F),Yi(N)Y_i(M),\quad Y_i(F),\quad Y_i(N)

比较这些输出，可以估计性别标签在当前提示词和模型条件下造成的影响。由于三个版本由研究者主动构造，这是一种可控的模型审计实验，不应直接等同于现实劳动力市场中个人的因果效应。

RAS：Ranking After Scoring（先评分后排名）

  • 模型先分别给三个版本打 0–10 分，再在同一份简历的三个版本内部由高分到低分排名。排名 1 最好，排名 3 最差。
  • 并列时使用 fractional ranking，取所占名次的平均值。例如两个版本并列第一，则各记 1.5，剩余版本记 3。
  • 先评分再排名，可以减少直接要求模型在候选人之间作选择时出现拒答的问题，并让不同模型的相对排序更易比较。

排名差的符号

Di=Ri(M)−Ri(F)D_i=R_i(M)-R_i(F)

排名数字越小越好，因此 D_i 为正表示男性版本排名更靠后、女性相对占优；D_i 为负则表示男性相对占优。注意：不是“女性排名减男性排名”。

差别影响检验（Disparate Impact / Impact Ratio）

论文把同一份简历中排名更靠前的性别版本视为模拟的“被选中”版本，统计男性与女性版本各自胜出的比例，再用较高的比例作为分母。男性影响比率为：

IRM=∑i1[RM,i≤RF,i]max⁡{∑i1[RM,i≤RF,i],∑i1[RM,i≥RF,i]}IR_M=\frac{\sum_i \mathbf{1}[R_{M,i}\leq R_{F,i}]}{\max\left\{\sum_i \mathbf{1}[R_{M,i}\leq R_{F,i}],\sum_i \mathbf{1}[R_{M,i}\geq R_{F,i}]\right\}}

其中示性函数在条件成立时取 1。并列排名会同时满足公式两侧的不等式。Four-fifths Rule 将影响比率低于 0.8 视作偏差预警；达到或超过 0.8 并不能证明模型无偏，也不等于现实招聘合规。

image.png

4. 水平偏差与扩散偏差：置换检验（Section 3.7）

  • 水平偏差关注平均排名是否不同。原假设是男性与女性版本的平均排名相同。

H0:E[R(M)]=E[R(F)]H_0:\mathbb{E}[R(M)]=\mathbb{E}[R(F)]

  • 扩散偏差关注排名的波动程度是否不同。原假设是两组排名方差相同。

H0:Var⁡(R(M))=Var⁡(R(F))H_0:\operatorname{Var}(R(M))=\operatorname{Var}(R(F))

  • 作者使用 Permutation Test（置换检验），进行 100,000 次置换（相当于让标签去做互换，100 个简历），计算原假设下观察到当前差异的概率。它不要求排名服从正态分布，并适合处理同一份简历多个反事实版本之间的相关性。
  • 全文进行了 100 次统计检验，使用 Bonferroni 校正控制多重检验导致的第一类错误：

αsingle=0.05100=0.0005=0.05%\alpha_{single}=\frac{0.05}{100}=0.0005=0.05\%

显著性标准： p 值小于 0.0005 才达到论文采用的校正后门槛。没有拒绝原假设，只表示证据不足，不能证明两组完全相同。

与 Four-fifths Rule 的区别： 0.8 是经验性筛查阈值；置换检验则根据统计量和零假设分布判断差异是否显著。论文发现前者更容易漏掉统计检验能够识别的偏差。

5. 统计偏差与基于偏好的偏差（Section 3.8，重点）

核心直觉： 如果模型在缺少能力信息时依赖性别刻板印象，那么增加教育、技能和工作经历等信息后，性别排名差距可能变化；若差距对信息量变化不敏感，作者将稳定部分解释为基于偏好的偏差成分。

操作步骤

  1. 使用 text-embedding-3-small 与 LlamaIndex Semantic Chunker 将简历按语义分块，breakpoint percentile threshold 设为 30。
  2. 随机抽取约 10%、40%、60% 的语义块构造短简历，并保留 100% 原始简历。
  3. 对每种长度重新构造 Male、Female、Neutral 三个版本，重新评分与排名；用保留的单词数作为信息量代理指标。
  4. 对同一份简历跨信息量版本的数据进行个体固定效应回归：

Dit=αi+βlog⁡(Iit)+uitD_{it}=\alpha_i+\beta\log(I_{it})+u_{it}

  • D_it 是第 i 份简历在信息量版本 t 下的排名差，定义为男性排名减女性排名。正数表示男性版本排名更靠后。
  • I_it 是该版本保留的单词数。取对数用于缓解长度分布右偏，也允许信息量的边际影响递减。
  • β 是排名差随信息量变化的斜率。检验原假设 β = 0；作者采用 cluster-robust 标准误。
  • α_i 是每份简历不随信息量变化的固定成分。论文将其作为 Taste-Based Bias 的操作性度量，并在结果表中报告平均水平。
  • u_it 是误差项。

如何解释 β

  • β 为正：信息量越大，男性相对排名差越大；简历信息减少时，差距缩小。
  • β 为负：信息量越大，男性相对排名差越小；简历信息减少时，差距扩大。
  • β 显著不为 0：排名差随信息量变化，符合论文对统计偏差的操作性定义。
  • β 不显著：没有检测到显著的信息量效应，不等于严格证明统计偏差不存在。α 也不能单独证明模型具有真实的心理偏好。

Table 4 中达到校正后显著性门槛的模型

  • Llama3-8b-Instruct：β = 0.0383，p = 0.0002；平均 α = −0.165。统计性成分随信息增加而使男性更不利，但固定成分方向相反，即对女性更不利。
  • Claude-3-Sonnet：β = −0.066，p = 0.0001；平均 α = 0.553。信息较少时对男性的不利差距更大，固定成分也对男性不利。
  • 其余 8 个模型的 β 未达到 0.0005 的显著性门槛，因此作者将其检测到的水平偏差主要解释为不随信息量变化的成分。

读这一节的顺序：先看是否存在 Level Bias，再看 β 是否显著，最后解释 α 的方向。不能把“不显著”写成“证明不存在”，也不能把固定效应直接等同于已证实的心理偏好。

6. 实验规模与主要结果

实验规模

300 份简历 × 3 种性别版本 × 4 种信息保留比例（10%、40%、60%、100%）× 10 个模型 = 36,000 次请求。每个模型 3,600 次请求。作者将 temperature 设为 0 以提高可复现性。

主要结果（Section 4）

  • 总体方向：10 个模型在实验样本上的平均排名均更偏向女性版本；平均方向与统计显著性是不同概念。
  • Four-fifths Rule：4/10 个模型在至少两个行业的男性影响比率低于 0.8：GPT-3.5、GPT-4o、Gemini-1.5-Flash、Claude-3-Haiku。
  • 水平偏差：7/10 个模型在至少一个行业表现出对男性不利的显著排名差距；GPT-3.5 和 GPT-4o 在三个行业中均显著。医疗保健行业在多个模型上呈现更突出的男性不利差距。
  • 扩散偏差：论文没有发现统计显著的扩散偏差。
  • 统计偏差与基于偏好的偏差：只有 Llama3-8b-Instruct 与 Claude-3-Sonnet 的 β 在校正后显著；其余 8 个模型未检测到显著的信息量效应。

一句话总结： JobFair 不只问“有没有平均差异”，还通过方差检验和信息量干预，进一步检查偏差表现在哪一层、是否随候选人信息改变。

7. 局限与延伸问题

  • 信息量不等于信息质量：删减语义块可能同时删掉关键能力证据，因此 β 的解释依赖于实验设计假设。
  • 偏差机制不能被完全识别：α 是回归中不随信息量变化的成分，不能单凭它证明模型有真实的心理偏好。
  • 外推边界：数据来自三个行业的 300 份英文简历，实验采用特定提示词、显式性别标签和 2024 年选取的 10 个模型，不能直接外推到所有岗位、语言、模型或真实招聘结果。
  • 可延伸方向：不同简历质量下偏差是否稳定；显式性别标签与性别暗示姓名的差异；跨岗位和交叉群体偏差；报告效应量与置信区间，并使用等价性检验检验“差异足够小”。

原文与数据集：ACL Anthology 原文 · JobFair 简历数据集。建议重点复习 Sections 3.5–3.9、4.2–4.4，以及 Appendix I 的 Table 4。