AI控制鸿沟:谁有权认定“它是安全的”?
AI能力与现有证据之间存在控制鸿沟,安全认定不应由企业自行决定,而应由独立监督机构依据证据作出并执行。文章指出,白宫协议虽包含外部评估和董事会独立委员会监督,却没有赋予公共机构强制访问、合规条件和违规处罚权。对于高风险活动,监管机构应能要求整改、限制活动或叫停。
AI能力与现有证据之间存在控制鸿沟,安全认定不应由企业自行决定,而应由独立监督机构依据证据作出并执行。文章指出,白宫协议虽包含外部评估和董事会独立委员会监督,却没有赋予公共机构强制访问、合规条件和违规处罚权。对于高风险活动,监管机构应能要求整改、限制活动或叫停。
Trump通过行政命令推动将人工智能改称“Super Intelligence”,并尽可能禁用“AI”,但这场改名行动面临术语含义混淆及政府、行业采用阻力。CAISI已更名为CAISSI,司法部新闻稿也开始使用该词,Musk、Bezos、Jensen Huang和Sam Altman等人表态跟进。