AIGC宇宙 AIGC宇宙

MoE

小巧却强大的推理引擎！Ring-mini-2.0 震撼发布，性能超越10B模型

小巧却强大的推理引擎！Ring-mini-2.0 震撼发布，性能超越10B模型
今天，我们正式推出了 Ring-mini-2.0，这是一款基于 Ling-mini-2.0架构深度优化的高性能推理型 MoE 模型。 Ring-mini-2.0的总参数量达到16B，但在实际运行中仅需激活1.4B 参数，便能实现相当于10B 级别以下的密集模型的推理能力。 这款模型在逻辑推理、编程和数学任务中表现尤为出色，支持128K 的长上下文，使得其在各种应用场景中都能展现出强大的能力。
9/18/2025 5:11:15 PM
AI在线
字节跳动豆包UltraMem架构将大模型推理成本降低83%

字节跳动豆包UltraMem架构将大模型推理成本降低83%
字节跳动豆包大模型团队今日宣布，成功研发出全新稀疏模型架构UltraMem，该架构有效解决了MoE（混合专家）模型推理时的高额访存问题，推理速度较MoE提升2-6倍，推理成本最高可降低83%。 这一突破性进展为大模型的高效推理开辟了新路径。 UltraMem架构在保证模型效果的前提下，成功解决了MoE架构推理时的访存瓶颈。
2/12/2025 2:04:00 PM
AI在线
豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%

豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%
实验结果表明，训练规模达 2000 万 value 的 UltraMem 模型，在同等计算资源下，可同时实现业界领先的推理速度和模型性能，为构建数十亿规模 value 或 expert 开辟了新路径。
2/12/2025 12:58:01 PM
清源
别TM浪费算力了，这样才能最大限度发挥deepseek的潜能 - MOE

别TM浪费算力了，这样才能最大限度发挥deepseek的潜能 - MOE
最近几周自学deepseek原理 应用 实践，一些成果，和大家分享：小众关心的，deepseek核心技术原理；大众关心的，提示词要怎么写；今天和大家聊聊，deepseek的核心机制之一的混合专家MOE。 什么是混合专家MOE？ 混合专家，Miture of Experts，该模型思路不再追求大而全，转而追求多而专精。
2/10/2025 9:00:00 AM
58沈剑
  • 1