vLLM-Omni v0.16.0 发布：多模态推理性能大幅提升

这次到底发了什么

vLLM-Omni 是 vLLM 社区在 v0.14.x 后逐步剥离出的多模态分支，定位是「一个推理引擎同时跑文本、音频、图像、视频」。v0.16.0 是它跟随上游 vLLM v0.16.0 的同步大版本，核心变化集中在三层：

• 管线重构：把 audio/speech/image/video 的输入预处理、tokenizer、scheduler 路径统一到新的 Omni 调度层，减少跨模态切换的 kernel launch 开销。
• 内核优化：图像侧引入新的 tiling + window attention 实现，视频侧对长上下文 frame tokens 做 chunked prefill，避免 OOM。
• 兼容性：继续兼容上游 vLLM 的 OpenAI-compatible API，模型接入基本是改 --modality 参数。

121 个 PR、约 60 位贡献者意味着这是一个「社区驱动」而不是「某家公司单独交付」的版本，节奏更接近 PyTorch/LangChain 这种开源协作模型。

解决什么问题

当前自