arXiv · Machine Learning· Shai Shalev-Shwartz, Amnon Shashua·· 10 小时前AI 评分50
Aligned-PAC learning：通过泛化实现对齐
Alignment via Generalization
AI 导读
Aligned-PAC learning 将 AI 对齐问题转化为泛化问题，检验系统在训练要求上的成功能否推广到未见要求。该框架证明独立评估可为所表示要求上的对齐提供严格证据，并给出所需评估量；还提出在明确假设下组合已学习模型以满足训练要求的优化方法。如何忠实选择要求、以及学习何时能泛化到未见要求，仍是开放问题。
来源：arXiv · Machine Learning · arxiv.org