Splash

Splash

自托管/本地部署 免费
Splash 是 Inco AI 团队打造的本地大模型推理引擎,专为 Apple Silicon(M 系列芯片)设计,基于 Metal 后端实现,面向 LLM 与 coding agents 场景。它围绕模型本身组织推理管线,支持推测解码(speculative decoding)等加速手段,让开发者在 Mac 本机即可高速跑起前沿模型,兼顾响应速度与能效,适合做 AI 应用原型、本地 Agent 工具链或离线/隐私敏感型推理。
访问官网

产品简介

Splash 是 Inco AI 团队打造的本地大模型推理引擎,专为 Apple Silicon(M 系列芯片)设计,基于 Metal 后端实现,面向 LLM 与 coding agents 场景。它围绕模型本身组织推理管线,支持推测解码(speculative decoding)等加速手段,让开发者在 Mac 本机即可高速跑起前沿模型,兼顾响应速度与能效,适合做 AI 应用原型、本地 Agent 工具链或离线/隐私敏感型推理。

用户评价

还没有评价
这款产品刚收录,成为第一个评价的人
写第一条评价