大模型与深度学习框架

TensorFlow 是一款开源机器学习框架，提供从模型构建、训练到部署的完整工具链，广泛支持深度学习、神经网络及传统 ML 算法。其核心优势在于灵活的 ecosystem——包含 Keras 高阶 API、TensorBoard 可视化、TF Lite 端侧部署及 TFX 流水线组件，适配多平台与多语言。适用于学术研究、工业级 AI 应用开发以及大规模生产环境部署，是数据科学家与工程师进行端到端 ML 工程的主流选择。

Arcee AI 开发的开源大语言模型合并工具

LangChain 是一个用于构建大语言模型应用的开发框架，通过将 LLM 与外部数据源、工具及记忆模块编排成链式或 Agent 流程，帮助开发者快速搭建具备推理与执行能力的智能应用。核心特点包括模块化组件（Prompt、Chain、Agent、Retriever 等）、与主流模型和向量数据库的无缝集成，以及 LangSmith 提供的调试与可观测性支持。广泛应用于 RAG 检索增强生成、对话机器人、自动化工作流、企业知识库等场景，是从原型到生产落地 LLM 应用的主流工程平台。

用Python构建并分享令人愉悦的机器学习应用，🌟 点亮Star支持我们！

MOSS 系列中关于 RLHF（PPO 算法）在大型语言模型中应用的研究项目，Python 实现，Apache 2.0 协议

Python 结构化输出库，通过 Pydantic 约束 LLM 输出为指定 JSON 结构

LangExtract 是一个基于 LLM 的 Python 库，用于从非结构化文本中提取结构化信息，支持精确源追溯和交互式可视化。它简化了使用大语言模型进行信息提取的流程，提供可审计的结果和调试工具，适合文档解析、知识图谱构建等场景。

Replicate 的 Node.js 客户端，轻松调用 API 运行和部署机器学习模型。

微软出品的受控生成/结构化生成库，支持约束 LLM 输出格式

ggml 是面向机器学习的高效张量计算库，主打在消费级硬件上运行大模型

为 RedPajama（OpenLlama）模型提供训练与推理的 Notebook，助力快速上手与高效部署。

用于生成和检查OLMo预训练数据的数据与工具集。

Transformers 是 HuggingFace 开源的机器学习模型定义与训练框架，覆盖文本、视觉、音频及多模态任务，提供统一的 API 调用数千个预训练 SOTA 模型。其核心优势在于模型即插即用、Pipeline 抽象简洁易上手，并依托 Hub 生态实现模型与数据集的快速加载与共享。广泛适用于学术研究、工业落地及快速原型开发，是当下 NLP 与多模态领域最主流的开发框架之一。

用于准备大型语言模型训练数据集的代码仓库，Apache 2.0 许可，Python 编写，GitHub 约 5000 star。