在桌面本地运行类ChatGPT的多模型AI助手，统一接入云端与本地模型

方案简介

PyGPT 是一个开源的一体化桌面 AI 助手，用 Python 编写，运行于 Linux、Windows 和 Mac 桌面环境。它的核心方案是：在一个本地桌面应用中统一接入多家大模型服务——包括 OpenAI（GPT-5、GPT-4、o1、o3）、Google Gemini、Anthropic Claude、xAI Grok、Perplexity / Sonar、DeepSeek，以及通过 HuggingFace、LlamaIndex、OpenAI 兼容 API 和本地 Ollama 安装的模型（如 Gemma 4、Qwen 3.6、Llama 4、Mistral Small 3.2 等）。

它解决的问题是：ChatGPT 等云端助手被锁定在浏览器和单一供应商中，而 PyGPT 让用户"Works similarly to ChatGPT, but locally (on a desktop computer)"——在桌面上获得类似体验，同时自由切换模型供应商，使用自己的 API 密钥。支持对话、Agents v2 (beta)、补全、Chat with Files、图像与视频生成、图像分析等多种模式。

适合希望在本地桌面使用 AI、希望自主选择模型与控制成本、或需要完全离线本地模型（Ollama）的开发者和普通用户。应用免费开源，源码在 GitHub 上。

亮点与能力

• 11 种操作模式：Chat、Chat with Files、Realtime + audio、Research (Perplexity)、Completion、Image and Video generation、Experts、Computer use、Agents v2 (beta)、Agents、Autonomous Mode
• 支持多模型：OpenAI GPT-5/GPT-4/o1/o3/o4、Google Gemini、Anthropic Claude、xAI Grok、DeepSeek V3/R1、Perplexity / Sonar，以及通过 LlamaIndex 和 Ollama 可达的任意模型
• Chat with your own Files：集成 LlamaIndex，支持 txt、pdf、csv、html、md、docx、、epub、xlsx、xml、网页、Google、GitHub、音视频、图片等数据
• 内置向量数据库支持与自动化文件嵌入
• 图像生成（gpt-image、Imagen、Gemini、Nano Banana）与视频生成（Veo3、Sora2）
• 通过 DuckDuckGo、Google 和 Microsoft Bing 联网搜索
• 语音合成（OpenAI、Microsoft Azure、Google Cloud / GenAI、Eleven Labs、xAI）与语音识别（OpenAI Whisper 本地或 API、Google、Bing、xAI Grok Voice）
• 插件体系：Files I/O、Code Interpreter、Web Search、Google、Facebook、X/Twitter、Slack、Telegram、GitHub、MCP 等
• 处理并存储完整对话上下文（短期与长期记忆）、可回退到之前上下文
• 内置实时 Python Code Interpreter / IPython、Crontab 任务调度器、日历与笔记、画板、节点式 Agents Builder

组成与分工

• PyGPT：桌面应用本体，提供统一界面、11 种操作模式、插件体系、上下文/记忆管理、预设管理、主题等
• OpenAI GPT / Gemini / Claude / Grok / DeepSeek / Perplexity 等云端模型：由 PyGPT 使用用户自己的 API 密钥调用，承担对话、补全、图像/视频生成、语音等能力
• Ollama：本地运行开源模型（Gemma 4、Qwen 3.6、Llama 4、Mistral Small 3.2、Bielik、Nemotron、gpt-oss 等），本地模型无需外部 API 凭证
• LlamaIndex：连接其他 LLM（如 HuggingFace 上的模型）以及 Chat with Files 数据索引能力
• DuckDuckGo / Google / Microsoft Bing：为模型提供互联网搜索访问
• 插件（Files I/O、Code Interpreter、MCP、Telegram 等）：扩展工具执行、自动化与外部集成

前置要求

• Python 版本：>=3.10, <3.14
• 操作系统：Linux、Windows 10/11 或 Mac
• 二进制版本要求 64 位 PC；Linux 版本要求 GLIBC >= 2.35
• 云端模型需要对应服务商账号与有效 API 密钥（OpenAI、Google、Anthropic、xAI、Perplexity、Mistral、OpenRouter 等）；本地模型无需 API 凭证
• 安装途径：PyPi、Snap Store、Microsoft Store、AppImage，或官网下载编译版

实施步骤

1. 选择安装方式

Windows 10/11 可直接从 Microsoft Store 安装；Linux 可用 Snap 或 AppImage：

chmod +x ./PyGPT-X.X.X-x86_64.AppImage

也可从 https://pygpt.net/#download 下载 Linux/Windows 编译版（64bit），解压或安装后运行应用。Mac 无编译版，需通过 PyPi 或源码运行。

2. 配置模型凭证

在应用中配置你自己的 API 密钥。根据所选模型和供应商，可能需要该服务的账号和有效 API key；若使用本地 Ollama 模型或 LlamaIndex 接入 HuggingFace，则按需额外配置（HuggingFace 可能需要额外 API key）。

3. 选择模式并开始使用

从 11 种模式中选择：Chat、Chat with Files、Realtime、Research、Completion、Image and Video generation、Experts、Computer use、Agents v2 (beta)、Agents、Autonomous Mode，即可开始对话、文件问答、图像/视频生成或语音交互。

使用与配置要点

• 通过可编辑预设（presets）管理提示词
• 利用内置 token 用量计算监控成本
• 对话历史与长期记忆：完整保存上下文，可回退到之前的上下文，内置日历、日期笔记与按日期搜索
• 用内置 Python Code Interpreter / IPython 执行代码，用 Crontab 调度任务，创建自定义命令
• 用 Files I/O 插件访问本地文件系统，用 Web Search 插件联网，用 MCP 插件对接外部工具
• 验证成功：应用启动后能与所选模型（云端或 Ollama 本地模型）完成一次对话即表示凭证与网络配置正确

注意事项与常见问题

• 二进制版目前只有 64 位；Mac 没有编译版，只能用 PyPi 或源码运行
• Linux 编译版要求 GLIBC >= 2.35
• 使用云端模型必须自备 API key，产生相应服务商费用；只有本地模型免 API 凭证
• 通过 LlamaIndex 连接 HuggingFace 等其他 LLM 可能需要额外 API key
• Agents v2 目前为 beta 状态

优缺点

• ✓ 本地运行保护隐私
• ✓ 一个界面接入多家模型
• ✕ 部分模型需自备API密钥
• ✕ Mac无编译版需源码运行

出处

本方案挖掘自开源项目 szczyglis-dev/py-gpt，方案内容与实施命令均来自其 README 原文。