以 AIChat 为核心,将 RAG 文档与外部工具/代理接入 LLM 命令行工作流
RAG 提供外部文档上下文,Function Calling 通过 llm-functions 连接外部工具,共同构成代理
✓ 整合 20+ LLM 提供商统一接口✓ 支持 stdin/文件/URL 多种输入 ✕ 工具需依赖 llm-functions
方案简介
AIChat 是一个一体化 LLM 命令行工具,主打 Shell Assistant、CMD & REPL 模式、RAG、AI 工具与代理等能力。本配方描述的是如何把「外部文档 + 外部工具」组合接入 LLM 对话流程:通过 RAG 将文档融入对话,通过 Function Calling(配合 llm-functions 仓库与 MCP)把 LLM 连接到外部工具和数据源,最终组装出 CLI 版本的 AI Agent。适合希望在终端里完成检索增强问答、自动化任务执行的命令行重度用户。
亮点与能力
- 支持 20+ 主流 LLM 提供商的统一接口
- RAG:将外部文档整合进 LLM 对话,获得更准确、上下文相关的回答
- Function Calling:让 LLM 调用外部工具与数据源,超越核心能力
- MCP 工具集成:在工作流中直接自动化任务、检索信息、执行操作
- AI Agent:指令 + 工具 + 文档的组合体,相当于 CLI 版 OpenAI GPTs
- 多形态输入:stdin、本地文件/目录、远程 URL、外部命令输出
- Session 保持上下文连续的多轮对话
实施步骤
1. 安装 AIChat
使用包管理器安装,如 brew install aichat。
2. 配置至少一个 LLM 提供商
支持 OpenAI、Claude、Gemini、Ollama、Groq 等 20+ 提供商或任何 OpenAI 兼容 API。
3. 启用 RAG
将外部文档整合进 LLM 对话,获得上下文相关回答。
4. 接入工具与代理
参考 llm-functions 仓库创建工具(Function Calling),可通过 MCP 集成外部工具以自动化任务、检索信息、执行操作。
5. 组装 Agent
AI Agent = 指令(Prompt)+ 工具(Function Callings)+ 文档(RAG)。
使用与配置要点
- CMD 模式:
aichat hello直接提问;cat data.txt | aichat管道输入 - 文件输入:
aichat -f image.png -f data.txt或 REPL 中.file image.png data.txt - 远程 URL:
aichat -f https://example.com - 外部命令输出:
aichat -f 'git diff' - Role 定制提示与模型配置,Session 维持上下文连续对话
- REPL 支持 tab 补全、多行输入、历史搜索、自定义键绑定与提示符
优缺点
- ✓ 整合 20+ LLM 提供商统一接口
- ✓ 支持 stdin/文件/URL 多种输入
- ✕ 工具需依赖 llm-functions
出处
本方案挖掘自开源项目 sigoden/aichat,方案内容与实施命令均来自其 README 原文。
方案出处
sigoden/aichat:All-in-one LLM CLI tool featuring Shell Assistant, Chat-REPL, RAG, AI Tools & Ag 10436 star All-in-one LLM CLI tool featuring Shell Assistant, Chat-REPL, RAG, AI Tools & Agents, with access to OpenAI, Claude, Gemini, Ollama, Groq, and more.
本方案由真实开源项目挖掘整理,实施命令均来自其 README 原文,安装使用请遵循项目开源协议。