Fairness Mediator: Neutralize Stereotype Associations to Mitigate Bias in Large Language Models

主要内容

1. 研究背景：大语言模型（LLMs）在多种应用中表现出色，但存在公平性问题，常从训练数据中吸收虚假相关性，导致对特定社会群体的刻板印象关联，引发公平性担忧。已有偏差缓解技术存在计算资源需求大或效果有限的问题。
2. 方法：提出FairMed框架，受LLMs中MLP层线性联想记忆机制启发，假设偏差概念和社会群体类似地编码为实体（键）和信息（值）对。框架包含两个核心组件：刻板印象关联探测器（stereotype association prober），用于捕捉MLP层激活中编码的刻板印象关联；对抗去偏中和器（adversarial debiasing neutralizer），在推理时调整MLP激活，使不同社会群体的关联概率相等。
3. 实验评估：使用四个来自LLaMA系列的聊天模型，在九个受保护属性上进行实验。结果表明，FairMed在减轻偏差方面显著优于六种基线方法，在LLaMA - 2 - Chat