arXiv · Machine Learning· Shirley Anugrah Hayati, Patricia Anugrah Setiani, Ruizi Wang, Zhouyi Li, Khanh Chi Le, Young-Jun Lee, Dongyeop Kang·· 10 小时前AI 评分59
Kolab:评测长周期工作流中的人类与智能体协作
Kolab: Benchmarking Human-Agent Collaboration in Long-Horizon Workflows
AI 导读
Kolab提出用于评测长周期人类与智能体协作的新数据集,包含来自40个职业、50名专业人士的115+小时屏幕录制,以及协作和输出质量判断。该基准评测智能体预测专业人士如何采用、修改或拒绝其贡献,并验证其对协作满意度和输出质量的判断。研究发现,前沿模型会高估与专家的协作效果,且难以区分高质量与低质量协作,增加工作流上下文也未持续改善预测。
来源:arXiv · Machine Learning · arxiv.org