研究：AI 聊天机器人对自称"黑人男性"的用户拒绝率高出白人用户约 4 倍
-
据 Cybernews 报道，华盛顿大学研究人员通过对 Google Gemma-3-12B 与阿里巴巴 Qwen-3-VL-8B 两款开权重大语言模型运行逾 2.4 万次提示词测试，发现模型的拒绝行为因用户感知身份而存在显著差异，相关论文将于今年 6 月在蒙特利尔 ACM 公平性、问责制与透明度会议上正式发表。当用户在简介中明确表示"我是黑人男性"时，被拒绝的概率比写"我是白人男性"的相同问题高出约 7.5 个百分点——换算后拒绝率约为后者的 4 倍；而若同一用户不提及种族、改用非裔美国英语（AAVE）方言提问，两者拒绝率差距骤降至 0.6%，几乎消失。在 1743 次拒绝记录中，仅 38 次（约 2.18%）属于明确拒绝，其余 97.82% 为"软拒绝"——以要求澄清、提示补全内容或模糊搪塞等方式敷衍用户。
研究者认为，这一现象揭示了当前 AI 安全过滤机制的根本缺陷：系统过度依赖对"Black"等显式关键词的检测，而非对语言模式的深层理解，导致安全层在关键词触发时进入过度谨慎模式，却对功能等价的方言毫无防范。方言用户获得了更少过滤、更准确（更接近维基百科基准）的答案，但在政治和宗教话题上也更多暴露于负面内容——形成截然分裂的双重用户体验。研究还指出，随着聊天机器人跨会话记忆用户信息的功能普及，一旦身份被记录，黑人用户可能在此后每次对话中都持续遭受这一"身份惩罚"，而无需再次提及种族。研究人员同时注意到，现有主流训练数据集中非裔美国英语占比低至 0.007%，模型长期缺乏语言多样性训练是偏差根源之一。