MLCommons发布AI风险评估与管理指南

MLCommons发布面向商业部署的AI风险评估与管理指南，建议企业按实际部署配置测试系统、登记风险并配置控制措施，持续检查运行效果。指南称，企业不应只依赖基础模型或供应商自测成绩，因为实际系统可能还包含提示词、内部数据、工具和智能体功能。 指南介绍的AILuminate基准用于评估AI系统规避有害回答的可靠性；Agent Reliability Profile则为单个智能体记录有边界、可证伪的可靠性声明，注明其自主等级、运行范围和控制条件，供审计方和保险方核查。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。