BitNet

微软官方推出的1-bit大语言模型推理框架，为BitNet b1.58三值模型提供优化的CPU/GPU推理内核，让百亿参数模型在单颗CPU上以接近人类阅读速度低能耗运行。