Rust 编写的终端工具,自动检测硬件信息并推荐适合本地运行的 LLM。从质量、速度、适配度、上下文等维度评估模型,帮助用户选择最合适的本地大语言模型。
搭配玩法
2llmfit + 向量检索+ 知识图谱+ MapNav
产品简介
Rust 编写的终端工具,自动检测硬件信息并推荐适合本地运行的 LLM。从质量、速度、适配度、上下文等维度评估模型,帮助用户选择最合适的本地大语言模型。
Rust 编写的终端工具,自动检测硬件信息并推荐适合本地运行的 LLM。从质量、速度、适配度、上下文等维度评估模型,帮助用户选择最合适的本地大语言模型。