arXiv · Machine Learning· Chao Shang, Wanyu Du, Yi Zhang, Sandesh Swamy·· 17 小时前AI 评分62
AgentPolicyForge：从可执行环境构建策略基准并训练自适应防护器
AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards
AI 导读
AgentPolicyForge提出利用可执行环境构建策略基准并迭代训练策略防护器。论文构建了PolicyGym，覆盖十类策略，包含698个训练数据生成场景和254个由人工审查的独立测试场景。最终基于防护器的配置将攻击成功率相对降低40–44%，且相比仅使用策略提示减少了良性请求误拒。
来源：arXiv · Machine Learning · arxiv.org