搭配方案

共 5 条

LlamaIndex +

crewAI + GPU 加速的实例类型+ AgentCore+ Amazon EC2+ LangGraph

智能体部署到EC2运行时实例上，通过共享会话目录在同一主机协作

各框架无须改变打包模型，复用相同 AgentCore API、身份控制和可观测性

✓ 最长可运行14天✓ 支持共享文件系统与GPU ✕ 运行时实例按标准EC2费率计费另加管理费✕ 空闲智能体下microVM更便宜

LlamaIndex +

Python + Docker+ NVIDIA GPU+ Python 3.14++ Hugging Face

离线开源RAG：摄取本地文件、GitHub仓库、网站，用本地Ollama模型问答

Ollama提供本地聊天与嵌入模型，LlamaIndex负责检索与流式响应，Streamlit提供Web界面，全程离线

✓ 数据不出本地网络✓ 支持三种数据摄取源 ✕ WSL未测试，建议Linux✕ 上传单文件限25MB

完整方案出处

LlamaIndex +

Google Gemini Pro Latest+

Anthropic Claude Haiku Latest+

Ollama + Python >=3.10, <3.14+ Linux / Windows / Mac+ PyGPT

在桌面本地运行类ChatGPT的多模型AI助手，统一接入云端与本地模型

PyGPT提供统一桌面界面与插件体系，通过自有API密钥接入各家云端模型，Ollama承担本地模型运行

✓ 本地运行保护隐私✓ 一个界面接入多家模型 ✕ 部分模型需自备API密钥✕ Mac无编译版需源码运行

完整方案出处

LlamaIndex +

openapi-parser + Kubernetes (Helm)+ Docker+ Terraform+ Docker Compose

开源自托管 LLM 工程平台，追踪、评估与调试 AI 应用

Docker Compose 快速起本地环境，ClickHouse 提供数据底座，SDK/OpenAPI 便于接入任意 LLM 应用

✓ 五分钟自托管部署✓ 与主流框架集成 ✕ 生产推荐需 K8s 集群

完整方案出处

LlamaIndex + API key+ LlamaParse+ LlamaAgents

以 LlamaParse 云平台做解析/抽取/索引，配合开源框架或独立使用，构建文档智能体

框架负责本地编排，云平台提供企业级 OCR、抽取与索引能力，两者可组合也可拆开用

✓ 支持130+文档格式✓ 框架与平台解耦可独立使用 ✕ 云平台需注册并获取API key

完整方案出处