在 Apple 芯片上用 MLX 从零手写 Qwen3 推理与 vLLM 级服务系统
MLX 提供数组与扩展运行时作为正确性基准;C++/Metal 用于手写内核;Qwen3 规模适中贴近真实服务场景。
PDM 是一款现代化的 Python 包管理工具,以 CLI 形式提供依赖与项目管理能力,遵循 PEP 621 元数据标准,支持多 Python 版本与虚拟环境管理。