arXiv · Machine Learning· Patrick Reichherzer, Jonathan Evertz, Thorsten Holz·· 8 小时前AI 评分56
ALE 高效估计微调大模型的稀有失败率
Amplify, Locate, Estimate (ALE) on Rare-Failure Rates of Fine-Tuned LLMs
AI 导读
论文提出 Amplify, Locate, Estimate（ALE）方法，通过安全微调引起的 token log-probability 变化放大失败率，再外推估计原始稀有失败概率。在41个评估目标中，37个 ALE 估计值与独立直接测量参考值的比值处于三倍范围内。对于 Qwen3-8B 微调模型，最多约1000次标注 rollout 加一次低成本无标注扫描，可估计低至约10^-5的失败概率。
来源：arXiv · Machine Learning · arxiv.org