vLLM：3 月 12 日维也纳技术聚会，聚焦量化与推测解码
vLLM 将于 3 月 12 日在维也纳举办线下聚会，议题涵盖量化、推测解码、MoE 通信优化，以及基于 NVIDIA Dynamo + llm-d 的推理扩展方案。
查看原文本解读由 AI 自动生成 · 模板：事件解读 · 仅供参考，请以原文为准。
vLLM 将于 3 月 12 日在维也纳举办线下聚会，议题涵盖量化、推测解码、MoE 通信优化，以及基于 NVIDIA Dynamo + llm-d 的推理扩展方案。
查看原文