MLCommons· lori@mlcommons.org·· 13 小时前AI 评分52
MLCommons：AI 安全部署需要对完整系统单独测试
Don’t assume composability in AI safety. Deployments need their own testing.
AI 导读
MLCommons指出，基础模型的安全评测结果不能直接代表部署系统的安全表现，完整系统需要单独测试。公开的医疗和法律微调模型相较基础模型的安全分数可能升高或降低，改动类型和幅度都不能预测变化；评测提示、措辞和评审器也会带来测量噪声。
来源：MLCommons · mlcommons.org