FreeToken
自托管/本地部署 免费FlashML 推出的本地大模型推理工具,将数据中心级模型服务能力部署至桌面端,支持 DeepSeek、GLM、MiniMax、Qwen 等主流模型的高效本地运行。项目开源,适合需要离线使用大模型、追求低延迟与数据隐私的开发者及研究者。
产品简介
FlashML 推出的本地大模型推理工具,将数据中心级模型服务能力部署至桌面端,支持 DeepSeek、GLM、MiniMax、Qwen 等主流模型的高效本地运行。项目开源,适合需要离线使用大模型、追求低延迟与数据隐私的开发者及研究者。