TensorFold

TensorFold

自托管/本地部署 免费
TensorFold 是专为 Apple Silicon 优化的快速精确 LLM 解码引擎,基于 MLX 框架构建。它通过提供 OpenAI 兼容的 API 端点,使开发者能够在本地 Mac 设备上轻松运行大语言模型,无需修改现有代码即可替换 OpenAI 服务,兼顾高速推理与数据隐私。

产品简介

TensorFold 是专为 Apple Silicon 优化的快速精确 LLM 解码引擎,基于 MLX 框架构建。它通过提供 OpenAI 兼容的 API 端点,使开发者能够在本地 Mac 设备上轻松运行大语言模型,无需修改现有代码即可替换 OpenAI 服务,兼顾高速推理与数据隐私。

用户评价

还没有评价
这款产品刚收录,成为第一个评价的人
写第一条评价