arXiv · Machine Learning· Ruurd J. A. Kuiper, Robert A. Bagheri·· 8 小时前AI 评分60
BYOD：通过高效自回归到扩散语言模型转换构建自有DLM
BYOD: Build Your Own DLM - Efficient Autoregressive-to-Diffusion Language Model Conversion
AI 导读
研究提出BYOD，一种仅使用LoRA的参数高效方法，可将Gemma 2 9B、Llama 3.1 8B、Qwen2.5 7B和Ministral 8B转换为扩散语言模型（DLM），无需针对特定架构调优，也无需更新基础模型参数。
来源：arXiv · Machine Learning · arxiv.org