标题Nemotron-Labs-Diffusion: A Tri-Mode Language Model Unifying Autoregressive, Diffusion, and Self-Speculation Decoding来源arXiv, 2607.05722v1️文章简介研究问题如何在一个模型中统一自回归与扩散范式以兼顾生成质量与推理效率主要贡献论文提出Nemotron-Labs-Diffusion三模态语言模型通过联合训练实现自回归、扩散及自投机解码的统一在精度和吞吐量上均超越现有开源模型。重点思路采用联合训练目标将自回归损失与分块扩散去噪损失加权结合利用全局损失平均策略稳定优化过程。设计两阶段训练流程先通过纯自回归训练建立从左到右的语言先验再开启联合训练使两种目标互补增强。构建双流注意力机制在干净流中保持严格因果掩码以计算自回归损失在噪声流中采用分块双向注意力实现并行去噪。支持三种推理模式切换标准自回归解码适配高并发分块扩散解码实现并行生成自投机解码利用扩散起草并由自回归验证。引入轻量级LoRA适配器微调扩散起草路径并使用LK混合损失对齐起草器与验证器的分布提升自投机接受率。开发递归动态压缩方法进行光速分析量化扩散解码在理想采样器下的理论并行上限指导实际采样策略优化。分析总结自回归与扩散目标具有互补性而非竞争性联合训练不仅保留了自回归精度还增强了模型的长远规划能力。自投机解码模式在低并发场景下显著优于传统多token预测方法平均接受长度达到6.82远超Eagle3的2.75。光速分析显示扩散解码的理论上限比当前线性自投机高出76.5%表明现有置信度采样仍有巨大提升空间。Nemotron-Labs-Diffusion-8B在SPEED-Bench上的吞吐量是Qwen3-8B的4倍且在数学、代码等基准测试中精度持平或更优。该框架成功扩展至视觉语言模型在三模态推理下保持了高效的并行解码能力和竞争力的多模态理解精度。个人观点论文打破了自回归与扩散模型的对立关系提出的自投机解码机制巧妙地利用模型自身的扩散能力作为高质量起草器避免了额外辅助模型的开销。