初探 Mercury：首个商业级扩散大语言模型的初步观察与体验

初探 Mercury：首个商业级扩散大语言模型的初步观察与体验

在当今 AI 模型的舞台上，Transformer 和扩散模型无疑是两颗耀眼的明星。而近日，由 Inception Labs 推出的首个商业级扩散大语言模型（dLLM）——Mercury，吸引了广泛的关注。这篇博客将从技术亮点、性能表现和未来展望三个方面，为你全面解析 Mercury 模型的潜力与革新。

1. Mercury 的优势和技术亮点

随着大语言模型的迅速发展，自回归模型一直是文本生成的主流架构。然而，这种生成范式的性能和效率受到生成顺序性限制，推理速度与成本难以大幅优化。扩散模型，以其“从粗到细”的去噪生成方式，在图像、视频生成领域取得了成功，并在文本生成上展示了独特的潜力。Mercury 的发布标志着这一理论在商用级别的首次落地。

Mercury 采用了一种革命性的语言生成范式：

• 扩散式生成：通过“从噪声到结构化输出”的过程，逐步生成高质量的文本。这种方法一次性预测所有方向的 token，摒弃了自回归模型“从左到右”的生成限制。

• 硬件效率：凭借 GPU 的并行生成机制，Mercury 可在 NVIDIA H100 上以每秒超过 1000 个 token 的速度运行，比传统模型快 5-10 倍，推理成本减少达 10 倍。

• 错误纠正能力：扩散模型能够通过迭代细化输出，不断提高生成结果的准确性。

  ​​

2. 性能与应用场景

Mercury 在性能与应用上展现了卓越的优势：

• 代码生成：Mercury Coder 比肩 GPT-4o Mini 和 Claude Haiku 等模型，在速度和质量上表现出色，可应用于代码补全、生成以及复杂逻辑推理。
• 多功能性：支持 RAG（检索增强生成）、工具使用及智能体工作流，为企业和个人用户提供广泛的解决方案。

例如，在标准的代码生成任务中，Mercury Coder 仅需 14 次迭代就完成了自回归模型需要 75 次迭代的任务。这种高效率不仅降低了硬件需求，还使其具备更广泛的实用性。
​​

3. 扩散模型的潜力与挑战

尽管 Mercury 已取得显著成果，但扩散模型在文本生成领域仍面临一些挑战：

• 模型训练复杂度：扩散模型的训练需要创新的遮挡与恢复方法，训练效率与结果优化尚待突破。
• 长文本生成：扩散模型如何稳定处理长文本生成是未来优化的关键。

然而，Mercury 的成功为业界注入了信心：扩散模型不仅能够在连续空间（如图像）中表现卓越，在离散空间（如文本）中同样可以大放异彩。

4. 个人使用体验

Mercury 的发布不仅为行业带来了更快、更高效的生成模型，也启发了人们对下一代大语言模型架构的想象。模型的推理速度相对于基于transformer 的主流大模型来说，处于碾压地位，目前初步使用官方的demo，相比于主流大模型，在生成质量上还需要进一步检验，目前一些简单的代码编写还是能够得到不错的结果。

​​

​​

5.初步结论

Mercury 是大语言模型领域的一次重要突破，它展示了扩散模型在文本生成中的潜力，也为行业提供了更多可能性。

体验地址：
Mercury Coder

​​

参考文章：
机器之心

‍