arXiv · Machine Learning· Klaus-Rudolf Kladny, Bernhard Sch\"olkopf, Michael Muehlebach·· 9 小时前AI 评分36
PENEX:受 AdaBoost 启发的神经网络正则化
PENEX: AdaBoost-Inspired Neural Network Regularization
AI 导读
研究提出受 AdaBoost 启发的多类惩罚指数损失 PENEX,使指数损失可用一阶方法优化,并可作为训练神经网络的目标函数。在计算机视觉和语言任务的低数据场景中,PENEX提升神经网络泛化能力,表现与成熟正则化方法相当,部分设置下更优,计算成本相近。
来源:arXiv · Machine Learning · arxiv.org