专题:parallel-decoding

按该标签聚合的大模型资讯列表(自动分类与标签提取)。1 篇文章。

媒体Lobsters AI2026/02/25 18:025730

Mercury 系列模型采用扩散算法实现并行文本生成,在 H100 GPU 上实现 1,109 tokens/s 的超高速解码。Mini 版在质量评测中与 GPT‑4o、Claude 3.5 Haiku 等主流模型持平,平均延迟仅 25 ms。该工作证明扩散模型可在离散序列上大规模训练,为代码生成等高吞吐任务提供了新的高效路径。