JetBrains开源Mellum2混合专家模型,128K上下文
Mellum2-12B-A2.5B-Thinking是一款仅激活2.5B参数的开源MoE模型,可处理自然语言和代码,从发布首日起即支持vLLM原生运行。
查看原文TL;DR · 观点解读
JetBrains 开源 Mellum2 MoE 模型,128K 上下文 + 2.5B 激活参数,剑指高效推理场景。vLLM 团队力推该模型,反映出开源社区对稀疏激活架构的持续看好,以及对推理成本优化的坚定押注。
深度解读
说话人的历史观点 + 利益关联
这条推文来自 vLLM Project 官方账号,而非 JetBrains 本身。vLLM 团队选择首发推荐 Mellum2,背后有清晰的技术立场和生态利益:
- 技术偏好:vLLM 一直专注于 PagedAttention 和 KV Cache 优化,对稀疏激活的 MoE 模型天然友好(激活参数少 = 计算密度低 = vLLM 的内存管理优势更明显)。推荐 Mellum2 就是在秀肌肉:看,我的框架跑这种模型特别爽。
- 生态绑定:从发布首日起即支持 vLLM 原生运行,这不是巧合,而是 JetBrains 与 vLLM 团队提前协同的结果。对于 vLLM 来说,每多一个「原生支持」的旗舰模型,都是对 TensorRT-LLM 等竞对的差异化壁垒。
- 社区叙事:vLLM 近年持续强化「开源推理引擎」的定位。推荐一款 SOTA 开源 MoE 模型,是在向社区传递信号:开源模型生态正在快速成熟,我们有能力让这些模型高效跑起来。
简言之,vLLM 推荐 Mellum2 = 技术认同 + 生态卡位 + 社区影响力建设。
反共识 push back
● 未登录访客
SMARTFLOW PRO
继续阅读深度解读 + 编辑加注
下方还有 3-5 段深度分析 + Vincent 编辑加注 + 可点击信源,仅 Pro 会员可见
加入机智流 PRO →¥99 / 季 · 每周 1 篇深度研报 · 飞书+微信群双通道
已是 Pro 但仍被提示?联系反馈
参考来源
- vLLM Project 推文 · 2026-06-02
- JetBrains Mellum2 GitHub · 2026-06-02
- MoE 训练效率分析 (Hugging Face Blog) · 2025-03-15
本解读由 AI 自动生成 · 模板:观点解读 · 仅供参考,请以原文为准。