AirLLM

AirLLM 是一个本地大语言模型推理 Python 库，封装 Hugging Face Transformers 接口，让开发者用少量代码加载本地模型权重并生成文本，适合离线环境和对数据隐私有要求的本地推理场景。