推出 Unsloth Desktop

完整文档索引请查看 。本页同时提供 格式。

Unsloth Desktop（测试版）是一款免费开源应用，可在您的本地硬件上运行和训练 AI 模型。支持 macOS、Windows 和 Linux。

Unsloth 让您能够运行、训练和部署 LLM、diffusion图像/视频、MLX、GGUF 及音频模型。

下载功能GitHub

功能 ✨

在功能深入解析中查看全部功能：功能深入解析 ->

精确的工具调用

获得准确率高出 50% 且可自我修复的工具调用与安全代码执行。还支持并行聊天。

Diffusion 图像/视频

以更快的推理速度运行和训练 MiniMax H3 等图像/视频 diffusion 模型。

让 Agent 本地化

通过模型切换将本地 LLM 与 Claude Code 和 Codex 等 agentic 工具连接。

无限网络搜索

享受无限、私密且安全的网络搜索与深度研究

运行最新模型

发现、管理和训练最新的 Qwen3.8-27B、MiniMax-H3、Muse Glimmer、Kimi K3 模型。

随处部署

在本地网络上部署模型，或通过安全的 Cloudflare HTTPS 或 局域网（LAN）将其暴露到任何地方。快速开始 🦥 Unsloth 是一款基于 Tauri的应用。下载安装后即可下载模型并开始对话！ 下载 Unsloth Desktop：macOSWindowsLinux 和 WSL

1

安装 Unsloth Desktop

1. 下载 Unsloth Desktop

2. 根据平台 macOS、Windows、Linux 进行安装

3. 启动应用

2

选择模型

打开顶部「Select model」下拉菜单或「Model hub」标签页，选择一个适合你设备的模型和量化方式，然后下载。完成后即可开始对话，无需额外配置。

3

Unsloth 已就绪

输入消息并按 Enter 即可对话。

• 连接工具：Claude Code、Codex、网络搜索、MCP 等

• 训练模型：微调文本、扩散模型、embedding 等

• 生成媒体：本地创建和训练 图像、视频、TTS

功能详解 ⭐

了解 Unsloth Desktop 的所有功能：

权限控制

与 Claude Code 和 Codex 一样，Unsloth 为使用工具调用的模型提供了权限控制。这意味着未经你的批准，模型和 Unsloth 无法访问、修改或编辑你的文件，也无法使用互联网。

你可以自主选择访问级别：Unsloth 可以在安全环境中运行工具以保护你的系统；也可以按需授权它直接访问和编辑你的文件。

任意端点，全功能工具。

Unsloth 消除了推理环境与工作流之间的壁垒。无论模型是通过 Unsloth 推理，还是通过你自建的 OpenAI 兼容远程端点运行，都可以为其赋予访问 Unsloth 全套工具的能力，包括网页搜索、代码执行、深度研究等。

随时随地访问模型

通过 Unsloth 免费的 Cloudflare 隧道，以 HTTPS 协议部署本地或远程服务。随时随地通过手机、笔记本电脑或其他任何设备检查结果。

使用 -H 0.0.0.0 绑定到网络，或开启免费的 Cloudflare 隧道以启用 HTTPS。

代码执行

凭借自动检测、修复并重试失败的工具调用能力，工具调用准确率提升最高 50%。 在安全环境中执行 Bash 和 Python。Unsloth 提供更可靠的中止机制以减少循环，并优化自愈和去重功能，防止 XML 泄露。

在本地网络中部署

将 Unsloth 接入 Wi-Fi 或有线网络，通过局域网提供 Unlosth 服务。所有流量始终保留在你的网络内，因此延迟低，且完全无需联网即可使用。

点击LAN access卡片中的Start，或使用 -H 0.0.0.0 启动。

图像与视频生成

在 NVIDIA B200 上运行 MiniMax-H3 FP8 时，一次 960×544、124 帧、8 步的视频生成耗时从 70 秒以上大幅降至13 秒。支持使用 FLUX、Z-Image、LTX、Wan 及微调 LoRA 适配器进行生成。

支持对现有图像进行变换、修补、扩展、超分、参考及编辑等操作。

通过 API 提供模型服务

你可以使用 unsloth run 命令来托管模型，例如 Qwen3.8，并自定义各种设置，包括上下文长度、GPU 层数、线程数、采样策略、网络配置以及工具配置。更多信息请参阅我们的 API 文档。

以下是使用 Unsloth API 调用 Qwen3.8 的示例：

使用最新模型

你可以运行和训练几乎所有模型，包括即将发布的模型。我们预计将为 Qwen3.8、Gemma、Meta、NVIDIA、GLM 等模型提供首发支持（Day Zero）。这一切得益于 llama.cpp 和 Hugging Face 的共同努力，我们也自豪地为生态系统做出了贡献。

Qwen3.8

Meta Muse Glimmer

Kimi K3

DeepSeek V4

Qwen3.6

GLM-5.2

Gemma 4

MiniMax M3

DiffusionGemma

深度研究

普通搜索依赖于模型在思考过程中实时访问网络来获取答案。

深度研究则先制定计划，搜索最佳资料，最终生成包含所有引用的详细报告。

连接模型提供商

你可以将 Unsloth 直接连接到你的 ChatGPT/Codex 订阅。

运行来自 OpenAI、Anthropic、Ollama、llama.cpp、vLLM 等平台的模型。

使用统一的 Unsloth 聊天界面，本地和云端模型一视同仁，支持工具调用、图像生成、提示词缓存以减少 Token 消耗，同时保留提供商的原生功能，如 OpenAI 的 网页搜索和 代码执行。

训练扩散模型

在本地数据集上为 SDXL、FLUX.2、Qwen-Image 和 Z-Image 训练 LoRA 适配器。在 Unsloth 中提供标注，选择秩后一键启动训练，导出后可重新加载到 Unsloth 进行推理。

零代码训练

导入 PDF、CSV 或 JSON 即可开始。支持 LoRA、全量微调、预训练，速度提升 2 倍，显存占用降低 70%，精度无损失，支持多 GPU 与最新模型。

文本、扩散、音频及图像模型均已支持！

音频转录/生成

在 Unsloth 中完全本地化地完成音频生成、微调或转录。Text-to-speech、Speech-to-text、Whisper、Qwen3-ASR，应有尽有！

接入 Agent

Unsloth Start 让你通过 unsloth start 命令将 Claude Code、Codex 等 Agent 接入本地模型。

启动 Unsloth，加载模型，打开项目文件夹，然后运行：

Claude Code

Codex

Hermes Agent

OpenClaw

Unsloth API

OpenCode

视频演示

常见问题

你们会收集我的数据吗？

不做遥测。Unsloth 仅检测你的 GPU 型号和设备，以便应用了解哪些功能可用。整个应用可以完全离线运行。

我能使用已下载的模型吗？

可以，系统会自动识别。如果未被识别，你也可以自定义指定模型文件夹。

为什么推理有时会更慢？

Web 搜索、代码执行和 Tool-call 修复都会消耗时间。关闭这些功能后，速度应与其它 llama.cpp 应用持平。仍然很慢？请在 GitHub 提 Issue。

仅限 GPU 吗？

不，Unsloth 支持多种 CPU、Mac 等配置。

是否支持 OpenAI 兼容 API？

支持。参见 API 指南。我们还支持连接 云端模型 或其他 API，如 Anthropic 或 OpenAI。

Unsloth 支持哪些设备？

Unsloth 支持所有操作系统，包括 Mac、Windows、Linux 和 WSL，并支持 NVIDIA、Intel、AMD 及 Mac 的 GPU/CPU。但旧硬件可能支持不佳。

特别感谢 NVIDIA 和 Hugging Face 参与我们的发布。同时也感谢所有 Unsloth Desktop 的早期测试员，我们非常感谢您的时间和反馈。此外，感谢 Jan 提供的灵感以及 llama.cpp、PyTorch、stablediffusion.cpp 和 open model labs 为我们构建 Unsloth Desktop 提供了基础支持。

上一页首页下一页安装