第15章 远程模式(Remote Mode)
概述远程模式连接 GPU 服务器以获得更快的生成速度
Remote Mode 允许你在另一台机器(如 GPU 服务器)上运行 Voicebox 后端,同时在本地机器上使用桌面应用。
使用场景
没有本地 GPU——使用云端 GPU 或远程工作站 更快的生成速度——借助强大的远程硬件 共享基础设施——多个用户连接同一台服务器 笔记本工作流——让笔记本保持低温、省电
架构
在 Remote Mode 下,Voicebox 桌面应用(运行在本地机器上)通过 HTTP 与后端服务器(运行在远程机器上)通信。本地应用只负责界面,远程服务器承担所有繁重的处理工作,包括 TTS 模型、API 端点和音频生成。
配置 Remote Mode
在服务器端
# 克隆仓库 git clone https://github.com/jamiepine/voicebox.git cd voicebox/backend
# 安装 Python 依赖 pip install -r requirements.txt
# 引擎的传递依赖存在冲突,需要用 --no-deps 安装 pip install --no-deps chatterbox-tts pip install --no-deps hume-tada
# 从源码安装 Qwen3-TTS pip install git+https://github.com/QwenLM/Qwen3-TTS.git
也可以直接在仓库根目录运行 just setup,它会自动完成以上所有步骤。
# 允许外部连接 uvicorn main:app --host 0.0.0.0 --port 17493
这会将服务器暴露到你的网络中。请注意安全,使用防火墙或 VPN 保护。
# Ubuntu/Debian sudo ufw allow 17493
或者使用云服务商的防火墙设置
在客户端
打开 Voicebox,进入 Settings → Server
开启 Use Remote Server
填写 http://
云端部署
AWS EC2 # 启动一个 GPU 实例(如 g4dn.xlarge) # 安装依赖 # 使用 --host 0.0.0.0 启动服务器
Vast.ai # 租用 GPU 实例 # SSH 登录并克隆仓库 # 启动服务器
RunPod # 部署一个支持 CUDA 的 pod # 安装 Voicebox 后端 # 开放端口 17493
安全须知
目前 API 没有任何身份验证,请只在可信网络或 VPN 环境中使用。
最佳实践:
使用 VPN(WireGuard、Tailscale)代替直接暴露到公网 部署带身份验证的反向代理(nginx + basic auth) 使用 HTTPS 和 SSL 证书 配置防火墙规则,限制只有特定 IP 可以访问
性能
各 GPU 的大致性能表现: GPUGeneration SpeedRTX 4090~2-3s per 10 wordsRTX 3090~3-4s per 10 wordsRTX 3060~5-7s per 10 wordsCPU (12-core)~20-30s per 10 words
建议使用显存 8GB 以上的 GPU 以获得最佳性能。
故障排除
常见问题请参阅故障排除指南。在 GitHub 上编辑生成历史记录跟踪和管理你生成的所有音频创建声音配置文件如何创建基于克隆和基于预设的声音配置文件