本地离线多智能体 GraphRAG 知识问答系统

方案简介

本地离线多智能体 GraphRAG 知识问答系统

亮点与能力

本方案提供以下能力：

• Agentic RAG：将 GraphRAG 的知识图谱搜索方法封装为工具，通过 AutoGen Agent 的 function calling 进行调用，实现检索-推理的智能体编排。
• 本地推理与嵌入：通过配置 GraphRAG 的 local search 与 global search，使推理与向量化步骤全部走 Ollama 本地模型，无需 OpenAI。
• 非 OpenAI 函数调用支持：通过 LiteLLM 代理服务器，扩展 AutoGen 以支持 Ollama 等非 OpenAI 后端的函数调用能力。
• 交互式聊天 UI：使用 Chainlit 部署界面，天然支持连续对话、多线程会话和用户输入设置面板（Widget Settings）。
• 完整离线工作流：从文档嵌入、知识图谱构建、检索、推理到 UI 展示全链路在本地完成。

前置要求

硬件与系统要求：

• 一台可运行 Ollama 的机器（Linux 或 Windows，README 分别给出两套安装步骤）。
• 足够的磁盘空间用于拉取 Mistral、Llama 3、nomic-embed-text 等本地模型权重。
• Python 3.12（Conda 环境）。
• 已安装 Conda（Linux 路径使用 conda），或使用 Python 自带 venv（Windows 路径）。

Ollama 安装需访问其官网获取对应平台的安装包。

创建 Conda 环境与安装依赖命令：

conda create -n RAG_agents python=3.12
conda activate RAG_agents
git clone https://github.com/karthik-codex/autogen_graphRAG.git
cd autogen_graphRAG
pip install -r requirements.txt

优缺点

• ✓ 完全本地离线运行无需 OpenAI AP
• ✓ 支持多轮对话与多线程交互
• ✕ 需替换 GraphRAG 包内源码文件操
• ✕ 依赖 Ollama 本地模型性能

出处

本方案挖掘自开源项目 karthikvenkatesan-eaton/Autogen_GraphRAG_Ollama，方案内容与实施命令均来自其 README 原文。