深度调研:具身智能的强化学习到底怎么做?——SONIC 运动跟踪基础模型、VLA 的 RL 后训练谱系与 FluxVLA Engine 工程栈,11 张论文插图逐图讲

一篇调研讲清「具身智能的强化学习」:先小白开篇(奖励从哪来、为什么难:重置/稀疏/sim2real/大模型不稳),再给四条战线全景地图——①底层运动控制 RL:SONIC(Science Robotics 2026,arXiv 2511.07820)把「运动跟踪」当可扩展 RL 任务,PPO+密集跟踪奖励、零手工奖励工程,1.2M→42M 参数、1 亿+帧/700 小时动捕、2.1 万 GPU 时、最多 128 GPU,统一 token 空间接 VR 遥操作与 GR00T VLA;②VLA 的 RL 后训练谱系:iRe-VLA(RL+SFT 迭代稳训练)、VLA-RL(过程奖励模型,LIBERO 81.0% vs SFT 76.5%)、RLDG(RL 产数据蒸馏通才)、ConRFT(离线+在线一致性策略)、RLVLA 实证(PPO/GRPO/DPO)、π*0.6 Recap(RL Token 蒸馏进通才)、BORA(离线→在线残差)、FIND(真机自主练习:π0.5+残差离线 RL,8 任务 55%→71.9%);③工程框架:FluxVLA Engine(arXiv 2609.17210)标准化 reward/advantage-weighted 学习、可选 RLinf 在线 RL、FSDP 分布式、LIBERO/RoboCasa/RoboTwin/RoboDojo 评测与 RTC 推理加速;④仿真 RL 底座(Isaac Lab/ManiSkill PPO-SAC,见 Benchmark 篇)。11 张论文插图逐张讲解,附方法对比总表与选型 Q&A。

2026年10月28日 · 5 分钟 · 1018 字 ·