用本地大模型、向量库和低代码编排搭建私有AI工作流

方案简介

Self-hosted AI Starter Kit 是一个基于 Docker Compose 的开源本地 AI 与低代码开发环境。它把自托管 n8n、Ollama、Qdrant 和 PostgreSQL 组合在一起，让用户无需从零拼装工作流编排、语言模型、向量检索和数据存储组件，就能快速启动一套可运行的本地 AI 环境。

这套方案适合希望控制数据流向、进行概念验证或快速搭建内部 AI 自动化的开发者和团队。README 给出的典型方向包括预约调度 AI Agent、公司 PDF 摘要、企业 Slack Bot，以及私有财务文档分析。方案的重点不是提供一个面向生产的最终平台，而是以预配置的网络和存储设置降低本地试验成本。

亮点与能力

• 本地语言模型推理：通过 Ollama 安装并运行本地 LLM，减少对外部模型服务的依赖。
• 低代码 AI 编排：n8n 提供超过 400 个集成，并包含 AI Agent、Text classifier 和 Information Extractor 等节点。
• 向量检索支持：Qdrant 作为向量存储，适合构建文档问答、知识库和检索增强类工作流。
• 数据存储能力：PostgreSQL 用于安全处理大量数据。
• 预配置容器环境：Docker Compose 已配置网络和存储设置，减少额外安装工作。
• 多种运行模式：README 提供 Nvidia GPU、AMD GPU、Mac/Apple Silicon 以及 CPU 模式的启动方式。
• 可直接验证的示例工作流：安装后可以打开随附工作流，通过 Chat 按钮启动对话式流程。
• 本地化工作流组合：使用 Ollama 作为语言模型、Qdrant 作为向量库，可以保持 AI 工作流在本地运行。

组成与分工

• n8n：承担低代码工作流编排，并提供超过 400 个集成及基础、进阶 AI 节点，是整套方案的操作入口。
• Ollama：作为跨平台 LLM 平台，负责安装和运行最新的本地语言模型，为 n8n 工作流提供语言模型能力。
• Qdrant：作为开源、高性能向量存储，提供向量数据保存和 API 能力；在 n8n 中用作向量存储。
• PostgreSQL：作为数据工程中的核心数据库组件，负责安全处理大量数据。
• Docker Compose：以 Compose 模板方式统一启动各项服务，并预配置网络与存储设置。

组合关系是：n8n 负责调用和连接各能力，Ollama 提供本地模型，Qdrant 支撑向量检索，PostgreSQL 提供数据存储基础，Docker Compose 负责把它们作为一套本地环境运行。

前置要求

需要准备可运行 Docker Compose 的主机，并根据硬件选择对应的 Compose profile。README 明确提供以下运行路径：Nvidia GPU 使用 gpu-nvidia，Linux 上的 AMD GPU 使用 gpu-amd，无 GPU 环境使用 cpu；Mac/Apple Silicon 不能把 GPU 暴露给 Docker，可运行 CPU 模式，或在 Mac 主机上运行 Ollama。

首先克隆仓库并创建环境文件：

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
cp .env.example .env # you should update secrets and passwords inside

创建 .env 后，应按 README 要求更新其中的 secrets 和 passwords。若首次使用 Nvidia GPU 配合 Docker，还需要遵循 Ollama Docker instructions。

实施步骤

1. 获取项目并准备环境文件

执行仓库克隆、进入目录和环境文件复制命令。启动前检查 .env，更新其中的 secrets 和 passwords。

2. 选择硬件启动模式

普通无 GPU 环境使用 CPU profile：

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
cp .env.example .env # you should update secrets and passwords inside
docker compose --profile cpu up

Nvidia GPU 用户使用以下启动命令：

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
cp .env.example .env # you should update secrets and passwords inside
docker compose --profile gpu-nvidia up

Linux 上的 AMD GPU 用户使用以下启动命令：

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
cp .env.example .env # you should update secrets and passwords inside
docker compose --profile gpu-amd up

3. 完成 n8n 初始化

启动完成后，在浏览器打开 http://localhost:5678/，完成 n8n 设置；此步骤只需要执行一次。

4. 打开随附工作流

访问 README 指定的工作流地址，然后点击画布底部的 Chat 按钮运行。首次运行时，Ollama 可能正在下载 Llama3.2，需要等待下载完成。

使用与配置要点

启动后，可通过 http://localhost:5678/ 随时访问 n8n。推荐按以下顺序验证环境：

• 打开 n8n 首页并完成一次性初始化。
• 打开随附工作流：http://localhost:5678/workflow/srOnR8PAY3u4RSwb。
• 点击画布底部的 Chat 按钮，确认工作流能够开始运行。
• 如果是首次运行，检查 Docker console logs，确认 Ollama 是否正在下载或已经完成下载 Llama3.2。
• 构建保持本地的工作流时，在 n8n 中选择 Ollama 节点作为语言模型，选择 Qdrant 作为向量存储。

n8n 还提供 AI Agent、Text classifier 和 Information Extractor 等节点，以及大量外部集成，因此可以在同一个低代码界面继续扩展自动化流程。README 给出的应用方向包括预约调度、PDF 摘要、Slack Bot 和私有财务文档分析。

注意事项与常见问题

• 生产环境定位：README 明确说明该 starter kit 主要帮助用户开始使用自托管 AI 工作流，并未针对生产环境完全优化，更适合 proof-of-concept 项目；使用者可以按需要定制。
• Nvidia GPU：如果之前没有让 Nvidia GPU 与 Docker 配合使用，需要先参考 Ollama Docker instructions。
• Mac/Apple Silicon 限制：M1 或更新处理器的 Mac 不能把 GPU 暴露给 Docker。可以选择完全使用 CPU，或在 Mac 上运行 Ollama，再从 n8n 容器连接到它。
• Mac 本机 Ollama 配置：若 Ollama 不在 Docker 中运行，需要把 .env 的 OLLAMA_HOST 设置为 host.docker.internal:11434，并在 n8n 的 Local Ollama service 凭据中把 Base URL 改为 http://host.docker.internal:11434/。
• 首次运行等待：第一次运行随附工作流时，Ollama 可能需要下载 Llama3.2；可查看 Docker console logs 了解进度。
• 升级方式：README 为 Nvidia、Mac/Apple Silicon 和非 GPU 环境分别提供了 docker compose pull、create 及对应 profile 的升级命令，升级时应沿用当前硬件模式。

优缺点

• ✓ 超过400个集成
• ✓ 数据与推理可本地运行
• ✕ 未完全针对生产环境优化
• ✕ 首次运行可能等待模型下载

出处

本方案挖掘自开源项目 n8n-io/self-hosted-ai-starter-kit，方案内容与实施命令均来自其 README 原文。