搭配方案

共 6 条
Qdrant + Ollama Ollama+ Docker Registry Docker Registry + Docker Compose+ BAAI bge-reranker

容器化全本地RAG,本地文件索引检索,LLM/嵌入/重排全部本地运行,数据不出本机。

✓ 数据完全本地,安全可控✓ 递归索引子目录,支持多种文件格式 ✕ 资源占用较重✕ 仅支持Sentence Transfor

用 Llama 3.2 与 Qdrant 搭建完全本地、无需 API 密钥的 RAG 问答系统

Llama 3.2 本地推理生成答案,Qdrant 提供向量检索,二者组合实现离线 RAG,无需任何外部 API。

✓ 完全本地运行保护隐私✓ 无需 API 密钥零成本
Qdrant + n8n n8n+ Ollama Ollama+ Open WebUI Open WebUI+ Flowise Flowise + Docker Compose+ Python 3+ NVIDIA/AMD GPU 或 CPU+ Supabase

Docker Compose 一键拉起本地化 AI Agent 低代码开发与运行环境

✓ 一键启动,无需手动编排多服务✓ 覆盖 LLM/向量/数据库/前端/低代码 ✕ Supabase 环境变量频繁更新需手工✕ M 系列 Mac 无法将 GPU 透传给
Qdrant + Python Python+ gRPC gRPC + qdrant-client

用 Docker 部署 Qdrant 向量数据库并通过客户端库完成向量存储与相似度检索

Docker 容器提供生产就绪的 Qdrant 服务,qdrant-client 通过 HTTP/gRPC 与其通信,形成标准客户端-服务器架构

✓ Rust 编写,高负载下快速可靠✓ 提供多语言官方客户端 ✕ 默认部署无认证且对所有网络接口开放
Qdrant + n8n n8n+ Ollama Ollama+ PostgreSQL PostgreSQL + Docker Compose+ 本地部署

用本地大模型、向量库和低代码编排搭建私有AI工作流

n8n负责低代码工作流与AI节点,Ollama提供本地模型,Qdrant承担向量检索,PostgreSQL安全处理大量数据。

✓ 超过400个集成✓ 数据与推理可本地运行 ✕ 未完全针对生产环境优化✕ 首次运行可能等待模型下载
Qdrant + Open WebUI Open WebUI+ pgvector pgvector+ Milvus Milvus + BM25+ S3Vector+ ChromaDB+ Tika

基于本地向量库与混合检索的文档 RAG 知识库问答方案

Open WebUI 编排检索与生成流程,多种向量库承担语义检索,Tika 等引擎负责文档解析提取

✓ 支持 9 种向量数据库灵活选择✓ 混合检索加重排提升召回质量