Mercury：基于扩散的超高速代码生成模型

近年来，自回归语言模型的串行解码已成为吞吐量瓶颈。最新研究表明，扩散模型同样可以在离散序列上进行大规模训练，并实现并行生成，从而充分利用现代 GPU 的算力。研究团队基于此提出了两款编码模型——Mercury Coder Mini 与 Mercury Coder Small。Mini 在 NVIDIA H100 上的生成速率达 1,109 tokens/s，Small 为 737 tokens/s，均比现有高效模型快数倍。\n\n在 Copilot Arena 等人类评估平台的测试中，Mini 的生成质量与 GPT‑4o、Claude 3.5 Haiku、Gemini 2.0 Flash Lite 等主流模型相当，平均响应延迟仅 25 ms。其优势主要来源于扩散式并行解码：模型从随机噪声出发，协同优化全部 token，逐步收敛到最终文本，而非逐 token 递归预测。此机制既提升了计算效率，也让 GPU 的并行能力得到最大化利用。\n\n总体而言，Mercury 系列展示了扩散模型在代码生成任务上的可行性和竞争力，为突破自回归解码的速度上限提供了新思路。