EMNLP 2026 | 面向RSI的自主智能体数据工程初探

针对现有合成数据方法依赖人工设计工作流、难以自主适配专业领域的问题，本文提出自主智能体数据工程任务，将数据构建策略作为可优化对象。在固定教师模型、学生初始模型和训练配置的条件下，智能体自主完成策略规划、代码实现、数据合成、校验与迭代优化，并通过学生模型的下游表现获得反馈。研究在科学推理、代码输出预测和金融推理三个领域，对比单轮与迭代框架，以及无种子和有种子数据设置。

结果显示，GPT-5.2在无种子迭代设置下取得57.29%的跨领域平均相对性能增益。进一步分析发现，迭代主要改善数据多样性，而回答质量提升相对有限；有效样本不足、格式处理薄弱、分布偏移和语义不一致的数据增强仍会造成失败。该研究提供了以训练收益衡量智能体数据工程能力的受控评测框架，并揭示其应用潜力与可靠性边界。

论文题目：
Exploring Autonomous Agentic Data Engineering for Model Specialization
论文链接：
https://arxiv.org/abs/2605.30407

一、引言

大语言模型（LLM）通过在海量数据上训练获得了强大的通用能力。然而，即便是最先进的模型，当其训练数据无法充分覆盖某个专业下游任务时，也常常难以很好地适应。要把一个通用模型专业化到目标领域，通常需要在领域特定的指令数据上进行后训练——而高质量领域数据的稀缺与数据处理的复杂性，正是当前的核心瓶颈。

为此，研究者越来越多地借助 LLM 来构造数据，但现有方法几乎都依赖人工设计的工作流：LLM 只是充当"数据生成器"，被嵌入到人手工编排的固定流程中。将这些手工配方迁移到新领域往往需要大量重新配置。随着现代 LLM 智能体在复杂推理、代码生成和工具使用上取得显著进展，一个自然的问题浮现出来：

LLM 智能体能否自主地完成端到端的数据工程，从而驱动模型专业化？

为回答这一问题，本文提出并形式化了一个全新的任务——自主智能体数据工程（Autonomous Agentic Data Engineering）。在该任务中，LLM 被要求独立完成整个训练数据的构造流水线，包括：策略规划、领域界定、提示设计、数据合成、数据校验，以及迭代式的数据优化。

这意味着数据工程可以从一次性的人工作业，进一步走向递归自我改进（Recursive Self-Improvement, RSI），使智能体能够在“执行、评估、改进、再执行”的循环中不断提升领域数据构造能力，从而更好地支持模型专业化。

本文在 Science、Code、Finance 三个领域上进行系统评估，设计了两种智能体设定：单轮完成（One-Shot）与闭环自优化（Iterative Agent）。实验显示，现代 LLM 智能体已具备可观的数据工程能力：GPT-5.2 通过迭代优化取得平均 57.29% 的相对性能增益，超越人工设计的数据合成流水线。

本文的主要贡献：

1.形式化"智能体数据工程"任务：让 LLM 独立管理整个训练数据构造生命周期，为端到端数据工程提供可度量的受控设定。

2.构建端到端执行与评估环境：覆盖完整的数据构造流水线，支持隔离、预算可控的智能体执行，并提供外部反馈与基于性能的评估协议。

3.实例化两种设定并系统评估：在 One-Shot 与 Iterative Agent 下评估主流 LLM，并分析迭代优化、数据质量与失败模式。

二、任务定义与方法

本文将智能体数据工程建模为一个端到端的闭环过程：一个 LLM 智能体自主地构造训练数据，用固定教师模型合成数据，在多轮数据迭代中专业化一个固定的学生模型 。

由于教师模型 与学生模型 在所有任务上都被固定，因此可以受控地分析"智能体驱动的数据构造"对学生模型专业化的贡献。

2.1 框架设计

任务环境

•任务输入：每个任务向智能体提供（1）任务简介；（2）目标领域数据集概览（3）教师模型 API 的固定预算；（4）用于训练的固定学生模型及其微调与推理参数。

•任务输出：智能体需产出一个符合格式要求的 submission.json 训练数据文件。所有数据必须由智能体生成的代码、通过教师模型 API 调用产出。

•任务评估：学生模型在提交数据上微调后，在隐藏的私有测试集上评估，其私有集性能增益即为智能体端到端数据工程能力的度量。

•任务环境：运行环境强制限定教师 API 调用与运行时间预算，并提供教师 API 调用、学生模型微调、公开集评估的标准化接口。

2.2 智能体

本文研究了两种代表性智能体：

One-Shot

智能体在一次通过中生成最终提交。它先起草策略规划，通过 code.py 实现，再产出 submission.json。为缓解生成失败，允许最多 8 次独立尝试；一旦生成有效提交即终止。

Iterative Agent

本文设计的迭代智能体通过环境反馈信号持续增强模型性能，包含四个操作：

•Draft（起草）：根据任务设定与数据集描述，制定新的数据合成策略，并用可执行代码实现。

•Debug（调试）：当代码执行报错时，分析 traceback 定位并修复错误，确保脚本成功执行。

•Repair（修复）：当代码执行成功但生成的 submission.json 未通过校验时，智能体或改进合成策略重新生成数据，或对已有实例做后处理，确保提交满足数量与格式要求。

•Improve（改进）：利用环境反馈，采用贪心策略从历史迭代中选取公开分最高的方案（含规划、代码、提交数据），对其进行优化以演化合成策略、提升数据质量。

该迭代过程能同时优化合成策略、提示设计与数据分布，持续驱动学生模型专业化。

三、实验 3.1 评估指标

本文基于学生模型后训练的性能增益直接反映智能体的有效性。

•相对性能增益 Gain (%)：为便于跨任务比较，本文报告学生模型的相对性能增益。

•平均成功提交尝试次数 MATS（Mean Attempts to Success）：衡量获得一次有效数据提交平均所需的尝试次数。当一次尝试生成了 submission.json 且过滤后仍保留至少 1,000 条实例时记为成功。

3.2 实验结果

•迭代优化驱动增益，种子数据保障稳定性。Iterative Agent 全面优于 One-Shot。以从零设定为例，GPT-5.2 的平均相对增益从 40.73% 提升到 57.29%。One-Shot 中单个错误就可能毁掉整个流程（如 DeepSeek-V3.1 在 Code 上出现 -4.58%），而迭代机制通过反复改进缓解了这一问题。引入 1k 种子池在两种设定下都能稳定提升性能，多数模型可获得 30%+ 的额外相对增益。

•LLM 作为端到端专业化的独立数据工程师。即便在最脆弱的 One-Shot 从零设定下，多数智能体仍带来正向增益，GPT-5.2 将基座模型提升约 40%。在没有外部知识、环境反馈或人工工作流的约束下，智能体能自主推断模型缺失的监督信号、合成任务对齐的实例，并构造可泛化到隐藏私有分布的训练集。

•弱模型从复杂框架中获益更多。较弱的模型从高级设计中获得的提升更大：DeepSeek-V3.1 从 One-Shot 从零的 12.50% 提升到迭代+种子的 57.65%，而 GPT-5.2、Claude 等更强模型提升相对温和。这表明反馈驱动的迭代优化与种子注入是弱模型的关键"护栏"。

3.3 迭代数据优化分析

•整体稳步提升：公开分、私有分、最终分均呈上升趋势，显著增益通常出现在前 8~15 次迭代内，之后趋于平稳。

•贪心公开分选择保障鲁棒性：合成数据存在固有方差，贪心策略保留历史最优提交使最终曲线更稳定，不易受偶发回退影响。

•迭代主要提升多样性：对于提交的数据质量分析指出，指令与响应多样性随迭代持续增加，响应质量仅有边际提升，代表了智能体迭代优化数据主要体现在多样化合成问题，而非提升已有条目的质量。

3.4 人工介入程度分析

实验设定：

•Human：数据源与合成流水线完全由人类指定。

•DataFlow：采用人工设计的通用从零合成流水线。

•Iterative Agent：无任何人工引导的 LLM 数据工程师 (GPT-5.2)。

核心发现：

•完全自主的数据工程可超越人类参与方法：相同约束下，GPT-5.2 设计的流水线超越了人工设计的 DataFlow。LLM 能针对目标任务灵活调整策略，自动对齐领域、难度与输出格式，而非依赖僵化的人工逻辑。

•合成数据的多样性仍旧是LLM数据工程师的瓶颈：对于数据的质量分析实验表明，智能体在指令难度上已接近人类基线，但在指令与响应多样性上仍落后于人类设定。

3.5 失败模式分析

数据提交失败：

•缺乏数量保障意识：有效数据样本不足是多数模型（如 GPT-5.2、DeepSeek-R1）最主要的错误。智能体通常缺乏确保合成数据形式合规与动态补充被丢弃样本的意识，最终无法通过 1,000 条的数量检查。

•复杂领域格式处理薄弱：文本类的 Finance 领域数据提交问题较轻，而需要 LaTeX 的 Science 与需要可执行逻辑的 Code 施加了严格格式约束，导致大量数据被拒与抽取失败，体现了当前智能体在复杂数据格式控制上的处理能力不足。

•过度工程陷阱：Claude-4-Sonnet 出现异常高的输出截断率（Code 52.63%、Finance 59.31%），暴露出其倾向于设计过度复杂、超出任务需求的方案与代码段。

模型训练失败：

•数据分布偏移：在一个 Science 领域的训练失败案例中，智能体硬编码逻辑将 50% 数据预算塞进仅 5 个狭窄主题，造成严重分布偏移，引发灾难性遗忘。

•朴素的规则式增广：在一个 Code 领域的训练失败案例中，智能体用朴素正则无差别扰动原有数据，导致了指令数据多样性受限，严重损害学生模型性能。

总体而言，LLM 已展现出承担端到端数据构造的能力，但仍缺乏面向严格质量保障、可靠数量控制以及多样化数据保障的稳健安全机制。

四、结论

本文对面向模型专业化场景的智能体数据工程进行了初步分析：通过把数据构造隔离为唯一变量，从而干净地研究单个 LLM 智能体能否在学生模型反馈的驱动下迭代优化训练数据。在 Science、Code、Finance 三个领域上的结果表明：迭代智能体能持续带来更强、更稳定的专业化效果，其中 GPT-5.2 达到 57.29% 的平均增益，证明 LLM 能自主编排出驱动学生模型进化的专业数据。

在大模型智能体快速发展的今天，"数据"正从静态的、由人手工准备的输入，转变为一个可优化的、由智能体自主搜索的对象。本文将数据视作闭环优化目标的核心变量，为"智能体驱动的模型专业化"提供了可度量的研究框架与实证依据。更长远地看，这项工作也是我们朝模型自进化（Model Self-Evolution）这一目标迈出的一次初步尝试。本文探索让 LLM 观察到自身在专业任务上的短板，并从数据角度自主地弥补模型能力。当模型能自己诊断缺陷、自己构造用于补齐缺陷的训练数据、并在反馈中迭代，"专业化"便成为模型自进化闭环中可反复触发的一步。

-The End-

本周上新！

扫码观看！

“AI技术流”原创投稿计划

TechBeat是由将门创投建立的AI学习社区（www.techbeat.net）。社区上线700+期talk视频，3000+篇技术干货文章，方向覆盖CV/NLP/ML/Robotis等；每月定期举办顶会及其他线上交流活动，不定期举办技术人线下聚会交流活动。我们正在努力成为AI人才喜爱的高质量、知识型交流平台，希望为AI人才打造更专业的服务和体验，加速并陪伴其成长。

投稿内容

// 最新技术解读/系统性知识分享 //

// 前沿资讯解说/心得经历讲述 //

投稿须知

稿件需要为原创文章，并标明作者信息。

我们会选择部分在深度技术解析及科研心得方向，对用户启发更大的文章，做原创性内容奖励

投稿方式

发送邮件到

yimingzhang@thejiangmen.com

或添加工作人员微信（aceyiming）投稿，沟通投稿详情

关于我“门”

将门是一家以专注于数智核心科技领域的新型创投机构，也是北京市标杆型孵化器。 公司致力于通过连接技术与商业，发掘和培育具有全球影响力的科技创新企业，推动企业创新发展与产业升级。

将门成立于2015年底，创始团队由微软创投在中国的创始团队原班人马构建而成，曾为微软优选和深度孵化了126家创新的技术型创业公司。

如果您是技术领域的初创企业，不仅想获得投资，还希望获得一系列持续性、有价值的投后服务，欢迎发送或者推荐项目给我“门”:

bp@thejiangmen.com

点击右上角，把文章分享到朋友圈