← 返回资讯
大模型 @vllm_project 2026-04-05

vLLM:携手 TorchSpec 团队,为 Kimi 2.5 引入 EAGLE3 推测解码加速推理

vLLM 与 TorchSpec 团队合作,采用最受欢迎的开源 EAGLE3 草稿模型为 Kimi 2.5 提供低延迟推理支持,进一步提升大模型推理效率。

查看原文
AI 资讯解读
本解读由 AI 自动生成,仅供参考。请以原文为准。