RetryRoute提出重试感知的图像编辑模型路由方法

Hanshuai Cui 等研究者提出 RetryRoute，一种面向智能体图像编辑服务的重试感知模型路由方法。该方法根据请求此前的失败历史，估计不同模型后续执行成功的概率，并联合决定是否重试、升级模型或放弃，以兼顾服务成本与负载。 研究在六个开放模型、三个基准和两种评判器上进行评估。在主要预算设置下，RetryRoute 在流程内评判器下的成功率，平均比11种既有基线中最强者高2.8个百分点（覆盖八个分组）。GPU 服务测试中，在所有测试负载下，满足服务级别目标（SLO）的编辑请求比例也比最佳既有基线高5.0至6.3个百分点。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。