PrismML 发布适配高通芯片的轻量级 LLM，落地智能眼镜

AI 实验室 PrismML 由加州理工的研究人员创立，并获得 UC Berkeley 的 Ion Stoica 担任顾问，如今为其轻量级语言模型推出了适配高通 Snapdragon 芯片智能眼镜的版本。

本周三，在高通的 Snapdragon Summit 上，这家芯片厂商演示了 PrismML 的 1-bit Bonsai LLM，它可以在基于 Snapdragon AR1 Gen 1 平台的 AI 智能眼镜上本地运行。

正如 TechCrunch 此前报道的，PrismML 的过人之处在于能把大模型大幅压缩（这里压缩至四分之一），同时在标准基准测试上几乎不损失性能。这次面向智能眼镜的版本是一个 20 亿参数的模型，针对视觉和语言任务做了调优，佩戴者可以实时询问眼前看到的是什么。

Prism 更大的目标是打造运行在设备端的开源权重 AI，充分利用设备已有的算力。这家初创公司将其定位为另一种选择——不再依赖专有 AI 实验室的隐私承诺，也摆脱其对算力永无止境的渴求。

为高通芯片发布模型是迈向这一愿景的一步，但目前还没有任何搭载 PrismML 的智能眼镜正式发布。