MLCommons推出Candela测试完整AI系统安全

MLCommons推出Candela安全测试服务，企业可在自己的租户内使用AILuminate评测完整部署系统，包括基础模型、系统提示词、安全防护、检索、工具和过滤器；该服务现已开放使用。 MLCommons指出，基础模型的安全评测结果不能代表完整部署系统的表现。公开的医疗和法律微调模型相较基础模型的安全分数可能升高或降低，改动类型和幅度无法预测这种变化；评测提示、措辞和评审器也会造成测量噪声。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。