多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%把强大模型的能力“蒸馏”给小模型，听起来很美—— 但放到多轮对话Agent场景里，效果往往一塌糊涂。
来自主题: AI技术研报
8823 点击 2026-05-07 10:17
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
把强大模型的能力“蒸馏”给小模型，听起来很美—— 但放到多轮对话Agent场景里，效果往往一塌糊涂。
还记得之前破产的扫地机器人鼻祖公司 iRobot 吗？最近它的创始人科林·安格尔（Colin Angle），在经历公司破产重整之后拿出了他的新作品。
最近，具身智能圈被 Generalist CEO 的一篇长文《Going Beyond World Models & VLAs》刷屏。文章抛出了一个看似振聋发聩的观点：目标远比工具标签更重要。与其陷入 “我们到底是在做 VLA（视觉 - 语言 - 动作模型）还是世界模型（World Model）” 的教条之争，不如回归本源：让机器高效、准确地作用于物理世界。
小红书AI平台团队刚刚开源了Relax——一个为全模态数据、Agentic工作流和大规模异步训练协同设计的现代RL训练引擎！实测全异步Off-Policy模式相比共卡On-Policy吞吐提升76%，相比veRL的全异步实现提升20%！
通用世界模型评测榜单 WorldScore 登顶、建立具身世界模型评测榜单 WorldArena 、发布通用世界模型 WorldScape 、发布世界-动作模型 WorldScape Policy，这家低调的世界模型创业公司 Manifold AI（流形空间）近期走出隐身模式频频出手，开始领跑世界-动作模型具身新路线。
AI健康硬件公司「OdyssLife」（以下简称“Odyss”）已于近期连续完成多轮融资，总金额近2亿元人民币。本次融资由红杉中国、Monolith分别领投，老股东线性资本、Creekstone继续加注。
就在昨天，ARC-AGI-3刚把全球顶尖大模型按在地上摩擦，结果一家名不见经传的公司却给出惊天消息：他们的AI在首日就取得了36.08%的成绩！这匹黑马究竟靠什么撕开全球最难AI考试的铁幕？是真突破，还是另有玄机？
在大模型后训练阶段，监督微调（SFT）和强化学习（RL）是两根不可或缺的支柱。SFT 利用高质量的离线（Off-policy）数据快速注入知识，但受限于静态数据分布，泛化能力往往容易触及天花板并带来灾难性遗忘；RL 则允许模型在探索中不断自我迭代，产生与当前策略同分布（On-policy）的数据，上限极高，但往往伴随着训练极度不稳定、计算资源消耗巨大的痛点。
在机器人领域，扩散策略（Diffusion Policy）已经成为了标准模仿学习策略和 VLA 动作生成范式，但其「从随机噪声中迭代解噪」的机制带来了不容忽视的推理延迟。如果机器人不再从随机高斯噪声开始「盲猜」，是否可以基于「刚刚做了什么」来预测「下一步做什么」呢？
香港科技大学 PEI-Lab 与字节跳动 Seed 团队近期提出的 WMPO（World Model-based Policy Optimization），正是这样一种让具身智能在 “想象中训练” 的新范式。该方法无需在真实机器人上进行大规模强化学习交互，却能显著提升策略性能，甚至涌现出 自我纠错（Self-correction） 行为。