Voxtral Small 24B 2507

Voxtral Small 24B 2507

开发框架/库 付费
Voxtral Small 是 Mistral Small 3 的升级版,在保持顶尖文本性能的同时,融入先进音频输入能力,擅长语音转写、翻译及音频理解
访问官网

搭配玩法

1
Voxtral Small 24B 2507 + vLLM vLLM + mistral_common+ OpenAI

用 vLLM 部署 Voxtral 模型并通过 OpenAI 兼容 API 完成音频对话、转录与函数调用

vLLM 作为服务端部署模型,mistral_common 处理音频协议,OpenAI 客户端连接调用

✓ GPU 上可部署,需约55GB显存 ✕ 需约55GB显存✕ 暂不支持系统提示词

产品简介

Voxtral Small 是 Mistral Small 3 的升级版,在保持顶尖文本性能的同时,融入先进音频输入能力,擅长语音转写、翻译及音频理解

用户评价

还没有评价
这款产品刚收录,成为第一个评价的人
写第一条评价