跳到正文
热点事件持续更新

Kolab发布长周期人机协作基准

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Shirley Anugrah Hayati等论文作者提出Kolab长周期人机协作基准与数据集,收录50名专业人士、覆盖40个职业的115小时以上屏幕录制,以及参与者对协作和产出质量的判断,用于评测智能体能否预测专业人士会采用、修改还是拒绝其建议,并判断协作满意度和产出质量。 论文称,前沿模型会高估与专家协作的效果,难以区分高质量和低质量协作;增加工作流上下文也没有持续改善预测。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv · Machine Learning
    Kolab:评测长周期工作流中的人类与智能体协作

    Kolab提出用于评测长周期人类与智能体协作的新数据集,包含来自40个职业、50名专业人士的115+小时屏幕录制,以及协作和输出质量判断。该基准评测智能体预测专业人士如何采用、修改或拒绝其贡献,并验证其对协作满意度和输出质量的判断。研究发现,前沿模型会高估与专家的协作效果,且难以区分高质量与低质量协作,增加工作流上下文也未持续改善预测。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。