Qwen
开发框架/库通义千问Qwen系列大模型
搭配玩法
6Qwen + 八节点集群+ NVIDIA NeMo Switchyard+ MiniCPM+ DGX Spark
在共享八节点集群上按请求难度路由大小模型,整体吞吐量最高提升3.0倍
简单请求交给小模型、大模型留给难题,可大幅提升整体吞吐;Switchyard分类器负责路由,负载均衡器分配流量
✓ 吞吐量提升3.0倍✓ 路由策略是简单YAML文件 ✕ 必须运行在交换机连接的集群上
分块采样+导演模型,12GB显存直出无限时长1080p长视频
H3生成长视频显存不足,分块生成降低显存需求;导演模型规划镜头保持块间连贯;串行卸载释放显存
✓ 最低12GB显存即可运行✓ 可直出无限时长1080p视频 ✕ 生成30秒1080p约需2小时✕ Gemma4导演12GB显存无法使用
Qwen + DeepSeek R1
以DeepSeek R1为教师模型,蒸馏出32B推理模型
用R1的推理输出提升Qwen基座小模型的推理能力
✓ 得到轻量32B推理模型
产品简介
通义千问Qwen系列大模型