英文原标题:What Does a Bias Head Measure? Non-Identifiability in Head-Level Bias Attribution

本文为英文原文的机器翻译摘要,原文见:arXiv cs.CL ↗

将大语言模型中的社会偏见定位到单个注意力头并通过消融将其移除的方法,其验证依据仅是对公平性指标的影响,而从未提供证据表明用于选择这些头的统计量确实测量了偏见。我们在Qwen-2.5-7B-Instruct和Llama-3.1-8B-Instruct上对此进行了审计。头图与一个标签盲的响应长度图的相关性分别为ρ = -0.950和-0.768,似乎识别出了一种表面混杂因素。一项打破长度与标签耦合的干预否定了这一解读:在提示固定时,响应长度仅解释该统计量方差的1%。真正能解释它的是提示身份,占方差的64%,且其排序与长度并非单调关系。在任何固定提示内,公平性标签、响应长度和受保护群体标记的存在以φ = 0.95共线,部分源于标注规则的定义,因此任何观察性分析都无法将该图归因于其中任何一个,该家族中也没有任何方法能进行……

站内导航