BentoML

最简方式部署AI应用与模型——快速构建模型推理API、任务队列、LLM应用及多模型流水线等。