Research · Policy and Safety · Models
边界感知自蒸馏研究揭示LLM安全微调中过拒绝与数据组成的关键权衡
Hugging Face 博客发布研究，通过边界感知自蒸馏方法分析 LLM 安全微调中的过拒绝问题。在 Qwen3-8B 上，升级覆盖模型将政治拒绝率从 9.47% 提升至 84.75%，但 XSTest 过拒绝率也从 2.00% 升至 74.00%；添加良性边界数据后，合规侧过拒绝率从 32.94% 降至 4.16%。
阅读 Hugging Face 原文为什么重要
该研究揭示了安全微调中数据组成与过拒绝之间的关键权衡，为开发更精准、不过度保守的 AI 安全策略提供了实证依据，对模型安全性和用户体验平衡具有重要参考价值。
关键事实
事实 1
在Qwen3-8B上，升级覆盖模型将域内政治拒绝率从9.47%提升至84.75%。
来源与依据
On Qwen3-8B, the escalated-coverage model raises in-distribution political refusal from 9.47% to 84.75%
事实 2
同一检查点，XSTest上的过拒绝率从2.00%上升至74.00%。
来源与依据
At the same checkpoint, over-refusal on XSTest rises from 2.00% to 74.00%.
事实 3
添加良性边界数据后，合规侧过拒绝率从32.94%降至4.16%。
来源与依据
adding the benign boundary data reduces over-refusal on the comply-worthy side of the held-out pairs from 32.94% to 4.16%