OpenESM提出ESM并评估其扩展性
热点事件持续更新
OpenESM提出ESM并评估其扩展性
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Yuan Pu等作者提出能量引导模型（ESM），将能量引导与 token 生成整合到单一架构，用于基础语言建模；论文评估称，ESM随模型规模和训练数据增加表现出良好扩展性，并在多数下游任务上优于GPT。 研究在三个大规模语料上预训练ESM，并在涵盖多个领域的26项下游任务中进行评估。作者同时开放模型权重和训练基础设施，供其他研究者复现和扩展相关结果。
AI 根据报道生成 · 55 分钟前更新
最新进展10月28日 12:00
OpenESM：能量引导模型具备可扩展的基础学习能力报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine LearningOpenESM：能量引导模型具备可扩展的基础学习能力
OpenESM提出能量引导模型（ESM），将能量引导与 token 生成整合进单一架构，用于基础语言建模。研究在三个大规模语料上预训练，并评估26项下游任务；ESM随模型规模和训练数据增加呈现良好扩展性，且在多数任务上优于GPT。模型权重和训练基础设施已完整开放。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。