SEEK评估科学智能体技能泄露风险

Cheng Gui等提出SEEK黑盒红队智能体，用用户可见响应积累证据并演化攻击技能；对8个平台、40项受保护技能的评估显示，所有平台至少泄露了一项技能，4个平台在一次直接请求下达到100%的攻击成功率。 在SpatialAgent和Biomni的12项技能上，SEEK均达到100%攻击成功率，并较老虎机引导探测将首次成功所需轮数分别减少31.8%和38.2%。即使保密策略拦截基准中的三种协议，SEEK仍从6项受保护技能中提取出1项。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。