LLM智能体自动完成端到端Kaggle竞赛任务：数据准备到模型训练

方案简介

MLE-Agent 是一个面向机器学习工程师和研究人员的配对 LLM 智能体，其中最具代表性的配方是 Auto-Kaggle 端到端竞赛模式：将 LLM（支持 OpenAI GPTs、Anthropic Claude 3.5 Sonnet、Mistral、Ollama LLama3 等模型）与 Kaggle 竞赛工作流、Arxiv/Papers with Code 学术检索、本地文件系统与代码执行器组合起来，让智能体独立完成从数据准备、模型训练到提交文件生成的完整竞赛任务。该方案解决的是 ML 工程中重复性高的 baseline 搭建、数据处理、调试与提交流程问题，适合希望以最小人力参与 Kaggle 竞赛、快速原型化 ML 方案的工程师和研究人员。项目于 2024/09/24 发布 0.4.2 版本，重点增强了 Auto-Kaggle 模式，可"以最小努力完成端到端竞赛"。

亮点与能力

• 自主基线构建：根据用户需求（可以是模糊需求）自动构建 ML/AI 基线与解决方案
• 端到端 Kaggle 任务：独立完成数据准备到模型训练的编码与调试
• 无人值守模式：--auto 参数下智能体在无需人工交互的情况下完成整个 Kaggle 任务
• Arxiv 与 Papers with Code 集成：获取最佳实践与 SOTA 方法
• 智能调试：通过 debugger-coder 自动交互确保代码质量
• 文件系统集成：高效组织项目结构
• 综合工具集成：内置 AI/ML 函数与 MLOps 工具
• 智能顾问：为 ML/AI 项目提供个性化建议

前置要求

• Python 环境，支持通过 pip 或 uv 安装
• 需已加入对应的 Kaggle 竞赛
• 无人值守模式需准备：数据集、描述文件、提交文件与提交示例

安装（PyPI）：
bash
pip install -U mle-agent

或使用 uv：
bash
uv pip install -U mle-agent

从源码安装：
bash
git clone https://github.com/MLSysOps/MLE-agent.git
cd MLE-agent

创建并激活虚拟环境：
bash
uv venv .venv
source .venv/bin/activate # Linux/macOS

可编辑安装：
bash
pip install -e . # or: pip install -e .

实施步骤

1. 安装 MLE-Agent

bash
pip install -U mle-agent

2. 创建项目

bash
mle new

当前路径下会创建项目目录，后续操作需在项目目录内进行。

3. 进入项目目录

bash
cd

4. 启动交互式任务

bash
mle start

5. 启动 Kaggle 竞赛任务（基础模式）

bash
mle kaggle

6. 无人值守自动模式（可选）

若已备好数据集与提交文件，可让智能体在无人工交互下完成任务：
bash
cd
mle kaggle --auto \
--datasets ",,..." \
--description "" \
--submission "" \
--sub_example "" \
--comp_id ""

其中 --datasets 传入数据集路径（可多个）、--description 传入竞赛描述（文件路径或文本）、--submission 传入提交文件路径、--sub_example 传入提交示例、--comp_id 传入竞赛 ID。

使用与配置要点

• 基础模式下运行 mle kaggle 后，智能体在人工交互中逐步完成任务规划与执行
• --auto 模式下智能体全程无人参与，从数据准备到模型训练独立完成
• 也可在项目目录下开启交互式终端聊天：

bash
mle chat

• 更多细节参见官方教程：MLE-Agent Tutorials

注意事项与常见问题

• 运行 Kaggle 命令前必须确保已加入对应竞赛："Please make sure you have joined the competition before running the command."
• --auto 无人值守模式的前提是数据集与提交文件已准备就绪
• mle new 创建项目后，必须在该项目目录下启动任务
• 云数据与测试调试平台的集成仍在路线图中尚未完成（Integration with Cloud data and testing and debugging platforms 未勾选）

优缺点

• ✓ 全自动无人交互完成竞赛
• ✓ 集成SOTA方法检索
• ✕ 需提前加入竞赛
• ✕ 数据集与提交文件需预先准备

出处

本方案挖掘自开源项目 MLSysOps/MLE-agent，方案内容与实施命令均来自其 README 原文。