传统自回归模型逐词生成,而 Mercury 是 Inception Labs 推出的扩散式大语言模型(diffusion LLM),通过扩散机制并行产出多个 token。这种生成方式是 Mercury 速度与效率提升的根本来源,使其在质量与速度优化前沿模型相当的同时,实现首 token 延迟低于 300 毫秒、吞吐量达到 5-7 倍、单任务成本最高降低 70%。
工具概况
快速了解工具核心信息
常见问题
关于本工具的常见疑问解答
支持。Mercury 的扩散框架提供细粒度控制,允许输出遵循特定 schema 和语义约束。这对需要结构化输出的应用更友好,可减少后处理成本,适合要求模型严格遵循格式或语义规则的结构化生成场景。
Mercury 的扩散框架为语言与音频、图像、视频等其他数据模态的统一结合提供了范式,具备跨模态扩展潜力。因此它适合探索语言与音频、图像、视频融合的应用团队,可作为多模态统一结合的基础。
用户口碑
真实用户评价
