工业界一切都要考虑成本，做智能体（Agent）系统，最大的痛点其实未必是模型不够聪明，而更可能是成本过高。

Manus、OpenClaw、Harness这些产品，背后挂的是Gemini或者Claude，按token计费。如果任务量比较多，可能十天八天下来，就能有几十亿tokens烧进去，时间长了这个成本就是个无底洞。那换开源大模型行不行？Qwen3-235B跑起来，配置要求比较高，上下文范围大了还需要更多的显存和内存，成本算起来，可能比订阅在线的价格也不便宜，照样肉疼。可是现实中有一些都是很流程化很简单的任务，比如——订火车票、查数据、画个折线图，这种活计真需要特别强大模型的智力才行吗？

AgenticQwen给了一个反直觉的发现：不需要特别强大的模型，即便是一个参数只有8B的小规模模型，经过针对性训练，在智能体相关能力上也能有机会摸到235B规模参数的大模型。更极端也更有意思的是Needle——26M，只有M级别的参数，在工具调用任务上超越了270M的对手。两个项目指向同一个事实：小模型智能体能力的瓶颈未必在参数总量，而可能是在训练方法。

一、数据飞轮不是收集数据，是让数据自己转起来

NVIDIA给的定义很直白：数据飞轮是个自我改进的循环——从AI交互里收数据，用这些数据训练更好的模型，更好的模型产出更好的交互，交互又产生更高质量的数据，理想的情况下，这样就能弄转起来了。

听着像废话？"数据越多模型越好"谁不知道。但NVIDIA那六步流程里，有一个点容易被读者漏掉：数据飞轮的核心不是数据量，是数据质量的持续提升和反馈闭环的自动化。量大有量大的价值，但飞轮转不转得起来，看的是质和闭环。

这六步：数据处理→模型定制→模型评估→AI护栏→模型部署→高质量数据精炼。最后那一步是关键——系统持续和环境交互，收反馈，更新数据，回到第一步。闭环是关键，整个流程必须是能够循环起来的，而不能是单向流水线。

NVIDIA数据飞轮六步流程

图1：数据飞轮的六步闭环流程。 从数据处理、模型定制、评估、安全护栏、部署到企业数据精炼，最后一步将反馈导回起点，形成自我改进的循环。来源：NVIDIA Data Flywheel 官方文档 [5]。

NVIDIA的估算结果是，设计得当的数据飞轮能节省大约98%以上的推理成本。不是靠裁剪模型，是靠拿真实使用数据持续微调小模型，让它在某个具体任务上逼近大模型。

这个思路，在AgenticQwen和Needle里各走出了一条路。

二、AgenticQwen：两个飞轮，让235B教8B模型，提升能力

话说在前面，2024到2025这一年，Kimi、MiniMax、DeepSeek这几家，最主要的关注点基本全在大模型。小尺寸的模型虽然也有，但能力上距离大规模的模型有很大差距。

大模型各方面都很强大，小模型各方面相对逊色很多，可是现实中很多任务，比如订火车票、查车次这类标准化高频任务，可能也不见得就必须要235B甚至671B的参数规模，但市面上很难找到合适的小模型来干这件事。

AgenticQwen团队进行的研究得出的结论是：小模型做不好Agent，不是参数量的问题，是训练数据和训练方法的问题。

第一个飞轮：从做错的题里榨出更难的问题

这个推理数据飞轮的逻辑不复杂——模型做错的题，拿来当下一轮训练的数据。

但光有原始的错题本，还是远远不够，因为失败样本的数量是有限的，几轮就榨干了。

在这个问题上，AgenticQwen团队主要进行了三方面的工作。

第一件事，Self-Instruct扩展。拿Qwen3-235B当老师，把每个错题改写成一组更难的变体。调关键数值、加约束条件、引入新概念，这就和咱们上学时候学了概念之后做各种练习题相似，其实都基本上就是教科书例题的变体。这种情况下，原本只是一道简单的代数方程，可能被掰成函数题，或者多步证明题。这一步增加的是题目的结构多样性，也避免错题集被迅速耗尽。

第二件事，Persona注入。光改结构不够。题目的"表面形式"太单一的话，模型照样会过拟合——它学会的不是推理，是辨认题型。所以把几何题包装成物理测量任务，把概率题嵌到化学反应场景里。这一步增加的是上下文多样性。让模型需要在不同"角色"里来回切换，能够透过现象看到本质，才能真正学会推理。

第三件事，也是最关键的一步——多样本一致性过滤。Qwen3-235B对每个候选解答跑三遍，三遍答案一样的才保留。为什么要这么麻烦的验证？其实是因为大模型自己是基于概率的，也就意味着一定也会犯错。如果同一个题目跑三遍，答案各说各的，说明题目本身可能有歧义，或者答案不唯一。这种数据扔进RL训练，奖励信号全是噪声，就很难训练出好结果。

这里是用数学就有优势了，数学这个学科天生就「优雅」，良好定义的问题，通常有唯一答案，或者至少有确定的答案，最次也会有个近似解，总之就是很好验证。所以这个飞轮只跑数学任务。不过通过persona注入，部分数学题被改成了物理、化学等现实场景里的问题，覆盖范围间接扩了一圈。

第二个飞轮：从线型任务扩展到任务树

这个才是AgenticQwen真正精彩的地方。

真实世界的工具使用和数学解题，差别就可能很大了。数学题有标准答案，现实世界没有，至少工具调用场景下也是没有。用户意图可能是模糊的，提示词说得可能也含糊，而且环境状态可能说变就变，同一个操作在不同条件下结果完全不同。这时候光会推理不够，还得会"看情况"。

这时候的数据飞轮怎么搞？路径完全不同。

起步是从SynthAgent[1]的开源数据入手的，这些是线性任务——只有一条有效路径。比如订火车票：查询→预订→确认。环境稳定，意图明确。这个阶段教模型的是基本的工具语义和调用技能，相当于学会"怎么用工具"。

但问题来了。线性任务太理想化了。真实用户不会每次都规规矩矩说"订一张去北京的火车票"。他会说"我今晚必须赶到北京，帮我想办法"。票可能售罄，列车可能晚点，公路可能封闭，他可能临时改主意。一条线走不通怎么办？

所以有了行为树扩展这一步。每轮RL训练完，拿更大的LLM去分析现有轨迹，找出不同环境状态会触发的替代子路径。原来的一条线，变成了分支结构：

查询预订确认有票搜索高铁售罄查中转路线无直达

（以上为AgenticQwen论文中对行为树扩展的数学表述，原文使用表示线性路径，分支后通过条件分叉引入多条备选通路。）

决策复杂度上去了——从单路径变成需要状态依赖规划的树结构。

然后是整个设计里最巧的一步：分支到任务反转。对于行为树上的每个分支，反推触发它的条件，然后基于这个条件，凭空构造出一个全新的训练任务。

拿"搜索高铁"这条分支说事。触发它的是什么？"售罄"啊。那就据此造一个新任务：环境状态设成"票已售罄"，用户指令设成"我今晚必须到北京"。Agent必须综合所有信号来选择下一步动作。

这一步的威力有多大？假设原始线性任务有N个，每个平均扩展出3个分支，一轮飞轮后任务数变成3N。k轮之后是3^k×N。数据量指数级增长，而LLM API的调用成本只是线性增长。这个设计思路相当精巧。

最后又加了一层——对抗性Mock用户。Mock用户会故意误导Agent，推动模型走向错误的执行分支。比如在列车晚点场景中，行为树包含两条路径：

晚点全额退款标准部分退款

用户可能声称"我是VIP会员，我应该拿全额退款"——实际上他只是标准会员，按规定只能拿部分退款。Agent得通过工具去查会员身份，不能用户说什么就信什么。

这一步训的是鲁棒性。真实世界里用户会施压、会扯谎、会中途反悔，模型得学会在干扰下稳定可靠地做出判断。

成绩单

模型	TAU-2平均	BFCL-V4平均	总平均
Qwen3-235B	56.2	48.8	52.0
Qwen3-8B	18.0	28.1	23.8
AgenticQwen-8B	51.4	44.4	47.4
Qwen3-30B-A3B	39.6	33.5	36.2
AgenticQwen-30B-A3B	51.7	49.1	50.2

AgenticQwen-8B把Qwen3-8B从23.8拉到了47.4，翻了一倍还多。跟235B的差距缩到了不到5个点。在BFCL-Base这个子任务上，8B甚至超过了235B。

推理与Agent数据飞轮效果对比

图2：推理飞轮与Agent飞轮的消融效果。 纵轴为 TAU-2 基准得分，横轴从左到右依次为基线模型、仅加推理飞轮、仅加Agent飞轮、双飞轮叠加。两个飞轮各自独立贡献，叠加后效果最优。来源：AgenticQwen 论文 [3] Figure 4。

还有件事值得留意。AgenticQwen-30B-A3B是个MoE模型，推理时只激活3B参数。参数量看着是30B，实际推理成本跟8B密集模型差不多，但性能更好（50.2对47.4）。这个选项对工业部署来说很实际——花着8B的钱，拿着接近235B的效果。

三、Needle：26M超越270M，靠的不是参数量

如果AgenticQwen走的是"好数据+好方法让有限参数发挥到极致"，Needle走的是另一条——重构架构本身。

Needle是Cactus Compute团队搞的，核心观点相当激进：做工具调用，Transformer里的MLP/FFN层完全可以扔掉。

我们可能需要想清楚 工具调用 这个场景下，模型到底在做什么：把用户的查询匹配到正确的工具名称，从查询里把参数值抠出来，组装成一个JSON，然后来调用。就这三件事。

本质上是什么？对齐和复制——把输入里的信息对齐到输出格式里。注意力机制天生就擅长这个。交叉注意力做的就是加权检索，而softmax注意力本身就是个非线性操作。对于"把输入路由到正确位置再装配"这种活，注意力就是对的原始操作，不需要每个位置都做个特征变换。

所以Needle的架构叫Simple Attention Network——简单注意力网络。参数配置：d_model=512，8个注意力头带4个KV头（用了GQA），词表8192。12层编码器加8层解码器。然后来了关键一刀——编码器里没有FFN层，直接削掉了标准Transformer约2/3的参数。残差连接也换了，用了门控残差而不是标准残差。归一化用的是ZCRMSNorm（零中心RMSNorm），初始化时整个模块趋近恒等映射。还加了个CLIP风格的对比工具选择头，把查询和工具都编码到一个共享的128维空间里。

Needle简单注意力网络架构

图3：Needle的Simple Attention Network架构。 编码器（左）无FFN层，仅保留Self Attention（GQA+RoPE）与门控残差；解码器（右）在自注意力之外通过交叉注意力接入编码器输出；编码器与解码器共享词嵌入矩阵。来源：Needle 项目文档 [4]。

训了两个阶段。先在16个TPU v6e上预训练200B tokens，跑了27个小时。然后用2B tokens的单shot函数调用数据微调，45分钟。微调时损失函数做了特殊加权——参数值那部分的损失权重拉到4.0倍，因为他们发现大多数错误都栽在参数值提取上。

结果，26M参数的Needle，在单shot函数调用基准上击败了FunctionGemma-270M、Qwen-0.6B、Granite-350M、LFM2.5-350M。它的参数量只有这些对手的十分之一到二十分之一。

这件事真正的意义不在于"小模型也能用"，而是动了一个隐含的信念——大家默认工具调用需要非常强大的通用语言理解能力，而实际情况可能不然。对于高度结构化的任务，专用架构完全可以比通用架构高效得多。

四、值得考虑的问题

飞轮和数据积累不是一回事

有的时候，一种误解可能是把数据飞轮跟"拿更多高质量数据训练"画等号，但实际上有很大区别。

数据积累是单向的：收数据→训练→部署，一条线走到底。数据飞轮是闭环的：模型表现得怎么样，反馈回去影响下一步生成什么数据。有方向，有目标，每一轮都在校准。

AgenticQwen的双飞轮之所以有效，就是因为每一轮生成的数据都比上一轮更对症。推理飞轮从失败样本出发，新数据就是专门补短板的。Agent飞轮从线性任务起步，通过行为树扩展滚出指数级的任务分支。两个飞轮都由模型表现来驱动——做错的优先修，做对的变着花样练。

模型大小不应是唯一的关注点

把AgenticQwen和Needle放一块看，有一个很有意思的对称性，都是小参数的模型能够媲美甚至打败更大规模参数的模型。

一边是AgenticQwen8B能摸到235B。另一边是Needle26M架构对了能在特定任务上能胜过FunctionGemma270M。

当然了，这两者的场景是不太一样的：AgenticQwen的8B要处理多轮对话、状态跟踪、条件决策这些复杂活，还是需要一定的语言理解容量。而Needle的26M面对的是单shot函数调用——查询工具列表，输出一个JSON，这种任务高度结构化，根本不需要通用语言理解。

所以或许可以这么认为：任务结构化程度越高，架构设计越比模型大小重要；任务越需要复杂推理，训练方法越比模型大小重要。模型参数反而不一定总是最关键的那个变量。这个结论如果成立，对整个行业的训练策略和垂直方向的应用估计会有不小影响。

粗略的成本考量

方案	推理成本（粗略估计的相对值）	训练成本（示意）	性能（相对235B）
Qwen3-235B	1.0x	已投入	100%
AgenticQwen-8B	~1/30	中等	91%
AgenticQwen-30B-A3B	~1/70（3B激活）	中等	97%
Needle-26M	~1/1000	极低	特定任务超越M级模型

长期、大规模推理的场景下，成本是大头。AgenticQwen-30B-A3B的MoE架构只激活3B参数，推理成本差不多是235B的1/70，性能却到了97%。也就是说，标准化任务大部分可以用1/70的成本拿到接近的服务质量。

当然这不等于235B没用了。碰到开放性强的任务，比如深度搜索、复杂代码生成，小模型的40K上下文窗口就是硬伤。AgenticQwen团队的论文里面也坦率地承认了这一点。大小模型最后怎么搭配、怎么路由，又是另一个要仔细盘算的问题。

五、未来之路

大模型教小模型，然后合成数据飞轮，这条路跑通了，但下一步早晚是要转进真实数据才有更大的价值。目前AgenticQwen的数据生成主要靠大模型当教练，产出的是"模拟"数据。

如果能接入生产环境的真实交互——用户到底怎么问的、Agent到底错在哪了、哪些任务被路由给了大模型哪些交给了小模型——这些信号比合成出来的东西有价值得多。

另外一个自然延伸是从双飞轮走向多飞轮。推理和Agent两个飞轮跑出了效果，代码执行、多模态理解、长对话管理这些领域，逻辑上都可以搭类似的飞轮。

挑战在于每个领域得有明确的"失败信号"和"扩展策略"，不是直接迁移就行。

还有一条更远的线：边缘设备上的个性化Agent。Needle证明了26M参数在消费设备上的可行性。

结合数据飞轮的逻辑，每个用户可以有一个自己的微调模型，在本地跑、在本地改进。数据不出设备，隐私天然有保障，而且响应延迟也会更好看很多。

这条路如果走通了，端侧的智能体编排会发生一个质的变化。

六、总结一下

数据飞轮不是玄学，是系统工程。需要精心设计的数据生成流水线、有针对性的训练策略、以及一个真正闭环的反馈回路。缺一环就转不起来。

AgenticQwen用双飞轮探索了一条路：小模型加上好数据加上对的方法，能在很多场景下达到相当于大模型的能力。Needle用26M参数把另一个思路实现了：对于特定任务，先把架构做好优化，比盲目去堆参数有效得多。

在显存、内存、固态等等都价格飞涨的今天，模型部署和推理的成本已经很高了，上面这两个方向可能都比只追求实现更大规模参数的大模型更务实。

参考文献：

[1] Lyu, Y., Wang, C., Shen, L., Huang, J., & Xu, T. (2026). Mock Worlds, Real Skills: Building Small Agentic Language Models with Synthetic Tasks, Simulated Environments, and Rubric-Based Rewards. arXiv:2601.22511.

[2] Shao, Z., et al. (2024). DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models. arXiv:2402.03300.

[3] Lyu, Y., Wang, C., Zheng, H., Yue, Y., Yan, J., Wang, M., & Huang, J. (2026). AgenticQwen: Training Small Agentic Language Models with Dual Data Flywheels for Industrial-Scale Tool Use. arXiv:2604.21590.

[4] Ndubuaku, H., Mroz, J., Mosoyan, K., Shemet, R., Sandhu, P., Kumar, S., Cylich, N., & Lee, J. H. (2026). Needle. https://github.com/cactus-compute/needle

[5] NVIDIA. Data Flywheel: What it is and how it works. https://www.nvidia.com/en-us/glossary/data-flywheel/

预览时标签不可点

Name cleared

微信扫一扫赞赏作者

Like the AuthorOther Amount

赞赏后展示我的头像

作品

暂无作品

Like the Author

Other Amount

最低赞赏 ¥0

Back

Other Amount

赞赏金额

最低赞赏 ¥0

大语言模型 · 目录

大语言模型

上一篇医学场景用多模态大模型，有可能完全不靠谱！——斯坦福大学李飞飞团队新研究揭开多模态AI的"海市蜃楼"效应下一篇MoXing 五月更新，算是来了个大扫除

搜索「」网络结果

调整当前正文文字大小

100%