跳到正文
arXiv · Machine Learning· Maksim A Kazanskii·· 8 小时前AI 评分34

FlowGenesis:表征驱动的神经网络架构自组织

FlowGenesis: Representation-Driven Self-Organization of Neural Architectures

AI 导读

FlowGenesis以表征变化引导神经元增生与剪枝,使网络在训练中自适应调整架构,无需预设目标架构或单独搜索。图像和文本分类实验显示,不同初始规模的网络在各数据集上趋向相近的最终神经元数量范围,且预测性能相当。持续学习中,它减少后续任务分配的神经元和参数,准确率与任务增量设置下固定宽度的 Progressive Neural Networks 相当。

来源:arXiv · Machine Learning · arxiv.org