搭配方案

共 6 条
Streamlit + Ollama Ollama+ LangChain LangChain+ Next.js Next.js+ FastAPI FastAPI + llama3.2+ nomic-embed-text+ Jupyter Notebook+ ChromaDB

本地 RAG 方案,用 Ollama+LangChain 实现与 PDF 文档对话问答

Ollama 提供本地 LLM 与嵌入模型,LangChain 编排 RAG 流水线,ChromaDB 存向量,多前端提供界面与 API

✓ 100% 本地运行,数据不出机器✓ 多界面可选,含 REST API ✕ CPU 环境可能有内存压力✕ 需自建 Ollama 与多服务环境

多PDF对话问答AI代理:向量检索+大模型回答+网页部署

Langchain编排流程,Gemini生成回答,FAISS做向量检索,Streamlit提供前端部署

✓ 端到端含部署✓ 支持多PDF文档
Streamlit + crewAI crewAI+ OpenAI GPT Latest OpenAI GPT Latest + Docker+ Conda+ Python+ crewai-tools+ Docker Compose

用Streamlit可视化界面编排CrewAI多智能体,无需写代码

Streamlit负责UI交互,CrewAI承担多智能体编排,多种LLM后端供推理,Docker简化部署

✓ 无需编程即可使用✓ 支持多平台部署 ✕ 处于低维护模式✕ 许多工具仍需OpenAI密钥
Streamlit + OpenAI GPT Latest OpenAI GPT Latest + 本地文件或网页+ Python 虚拟环境+ LlamaIndex Python

用自然语言构建可配置并可问答的RAG应用

Streamlit承载交互界面,OpenAI负责构建与问答,LlamaIndex Python提供RAG实现基础。

✓ 支持自然语言创建RAG流程✓ 生成参数可手动调整 ✕ 当前仅支持单个本地文件或网页✕ Claude目前无法正常构建代理
Streamlit + ChatGLM3 ChatGLM3+ Qwen Qwen+ LangChain LangChain + Agent+ 多个工具+ 在线API

让具备Agent能力的模型自动选择并调用多个工具

ChatGLM3、Qwen或在线API模型负责理解任务,Agent负责工具调用编排,用户可在WebUI中选择工具。

✓ 支持LLM自动工具调用✓ 支持手动工具调用 ✕ Agent能力依赖模型✕ 普通模型需手动填入参数
Streamlit + LangChain LangChain+ Ollama Ollama+ FastAPI FastAPI + 开源大语言模型+ Embedding模型+ 向量数据库+ Xinference+ GLM-4-Chat

构建可离线部署的本地知识库RAG问答应用

LangChain负责应用编排,Xinference与Ollama承载模型接入,FastAPI和Streamlit分别提供API与WebUI。

✓ 支持离线私有部署✓ 支持主流开源模型与向量数据库 ✕ 需自行启动模型部署框架✕ 需修改配置信息接入