热点事件持续更新

ALE 稀有失败率估计方法提出

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Patrick Reichherzer、Jonathan Evertz 和 Thorsten Holz 提出 ALE 方法，用安全微调造成的 token 对数概率变化放大稀有失败，再据此外推原始失败概率；在论文评估的 41 个目标中，37 个估计值与独立直接测量结果相差不超过三倍。针对 Qwen3-8B 微调模型，论文称最多约 1000 次带标注 rollout 加一次低成本无标注扫描，可估计低至约 10^-5 的失败概率。该结果属于论文评估范围内的估计表现。

AI 根据报道生成 · 53 分钟前更新

最新进展10月28日 12:00

ALE 高效估计微调大模型的稀有失败率

报道时间线

沿着报道，了解事件的不同侧面。

10月28日

12:00
arXiv · Machine Learning
ALE 高效估计微调大模型的稀有失败率
论文提出 Amplify, Locate, Estimate（ALE）方法，通过安全微调引起的 token log-probability 变化放大失败率，再外推估计原始稀有失败概率。在41个评估目标中，37个 ALE 估计值与独立直接测量参考值的比值处于三倍范围内。对于 Qwen3-8B 微调模型，最多约1000次标注 rollout 加一次低成本无标注扫描，可估计低至约10^-5的失败概率。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。