vllm-omni

vLLM-Omni 是由 vLLM 官方开源的全模态推理与服务框架，在 vLLM 基础上扩展了图像、视频、音频的输入与生成能力，同时支持自回归模型与扩散 Transformer。该框架为开发者提供了统一的接口来部署和推理多模态大模型，可用于构建 AI 应用、聊天机器人、图像生成服务等场景。