技术博客

自动驾驶 VLA · 世界模型 · 端到端 · 前沿论文精读与知识分享

📅 2026
JUL 19
CoWorld-VLA精读:多专家世界模型中的自动驾驶推理
CoWorld-VLA 在 VLM 隐空间中构建多专家 Latent CoT 推理框架,解决了文本 CoT 丢失空间信息而隐空间缺乏可条件化信号的根本矛盾。它通过语义交互、几何结构、动态演化与轨迹意图四种专家 Token,将互补的世界知识编码为显式可用的规划条件。在 NAVSIM v1 上达到 89.8 PDMS,证明了结构化隐式推理的有效性。
🧠 VLA 🌍 世界模型 🤝 协作 🚗 自动驾驶
JUL 19
论文精读|LingBot-VLA:务实的 VLA 基础模型
LingBot-VLA 以'务实'为核心设计哲学,用 9 种双臂构型、约 2 万小时真机数据训出一个跨平台 VLA 基础模型。它通过跨构型预训练学出与具体硬件解耦的动作策略,辅以开源高效代码库(8 卡 261 样本/秒)和 GM-100 基准。在 4 个平台 100 类任务上展现强泛化能力,将 VLA 从论文模型推向产线工具。
🧠 VLA 🤖 具身智能 🏭 乐博尼克 🦾 双臂机器人 📦 开源
JUL 19
论文精读|Vesta:统一的具身推理通用模型
NVIDIA 的 Vesta 用单一 Qwen3-VL-8B 基础模型统一定位、空间推理、导航和长程规划四大具身智能能力,取代了传统的拼装专家路线。它通过统一的条件语言生成范式和简洁的多模态记忆挽具,让自注意力在历史帧与当前观察间建立长程依赖。平均超越各类别最优专家 20% 以上,真机任务成功率提升超 35%。
🤖 具身智能 🧠 通用模型 🗺️ 导航 🧩 推理 🏭 NVIDIA
JUL 19
论文精读|K-Risk:知识增强的高风险驾驶场景数据集
K-Risk 整合欧美中三大洲 20 个轨迹数据集,用 DRF 驱动风险筛选流水线统一抽取高风险事件。它通过 LLM 为每个事件生成三元组标注(结构化描述+异常行为通知+经闭环仿真器验证的因果风险分析),首次将高风险事件标签、语义标注和可验证决策信号三合一打包。产出 31,398 个高风险事件和 1,036 个极端近碰撞子集,为风险感知自动驾驶提供标准化评测基础。
🚗 自动驾驶 📦 数据集 ⚠️ 安全 🤖 LLM标注 🔍 风险推理
JUL 19
论文精读|Agent-driven Long-tail Simulation for Autonomous Driving:用 LLM 代理驱动自动驾驶长尾仿真
本文用指令跟随 LLM 代理接管仿真器中所有交通参与者,抛弃了日志回放和规则代理的传统仿真范式。LLM 通过结构化动作接口控制每辆车的目标速度、车道与让行行为,配合 Flow-Matching 轨迹生成器实现高保真物理执行。配套的 SemanticPlan 长尾语义闭环基准暴露出 SOTA 规划器在意图性交互场景中仍频繁翻车的短板。
🚗 自动驾驶 🎭 仿真 🤖 LLM代理 📊 基准测试 🔁 闭环评估
JUL 19
论文精读|ExploreVLA:密集世界建模与探索驱动的端到端自动驾驶
VLA 模型通过行为克隆学习驾驶策略,但受限于模仿学习无法探索专家分布之外的高质量策略。ExploreVLA 提出统一的理解-生成框架:用未来 RGB + 深度图生成作为密集世界建模目标,再利用世界模型的图像预测不确定性作为内在探索奖励,通过安全门控的 GRPO 优化策略。在 NAVSIM 上达到 93.7 PDMS 和 88.8 EPDMS。
VLA 世界模型 GRPO 强化学习 端到端自动驾驶
JUL 19
论文精读|ABot-M0.5:统一的移动操作世界动作模型
ABot-M0.5 用'三层对齐'策略重新设计了移动操作的世界动作模型:潜在动作模块在帧级粒度捕捉视觉状态转移,解决时间粒度粗糙导致的精细接触丢失。双层 Mixture-of-Transformers 解耦导航与操作的动作空间,dream-forcing 训练策略打通训练与推理的分布鸿沟。在长程任务和精细控制上同时达到 SOTA。
🤖 具身智能 🔮 世界模型 🦾 移动操作 🧠 VLA 🗺️ 高德
JUL 19
论文精读|From Foundation to Application: Improving VLA Models in Practice(LingBot-VLA 2.0)
蚂蚁 LingBot-VLA 2.0 在数据、动作空间、预测建模三个维度同时补课:6 万小时多本体预训练数据覆盖 9 种构型,全身自由度动作空间支持头部/腰部/底盘/灵巧手协同控制,双查询蒸馏赋予模型向前看的预测能力。Token 级稀疏 MoE 动作专家有效解耦多本体异构动力学。在 GM-100 双臂基准与长程移动操作上全面领先 π0.5。
🤖 具身智能 🧠 VLA 🏭 蚂蚁机器人 🔀 MoE 🎯 跨本体
JUL 19
论文精读|Teaching VLA Models What to See and Where to Look:DriveTeach-VLA 的视觉教学三段式
DriveTeach-VLA 指出驾驶 VLA 的瓶颈不在语言推理而在视觉空间 grounding,核心问题不是'想不清'而是'看不对'。它提出三段式视觉教学管线——DVD 蒸馏教模型'看什么'、2D 轨迹引导提示教'往哪看'、TGP-guided GRPO 教'怎么动'——层层递进注入驾驶感知先验。在 Qwen2.5-VL 上刷新 NAVSIM 与 nuScenes 双榜单 SOTA。
🧠 VLA 🏫 教学 🚗 自动驾驶
JUL 19
论文精读|MVAdapt:零样本多车型适应的端到端自动驾驶
MVAdapt 揭示了端到端自动驾驶的'车辆域差距':模型隐式绑定了训练车的动力学特性,换车即翻车。它用轻量物理编码器编码轴距、质量、驱动方式等物理属性,通过交叉注意力注入冻结的场景编码器,在不损失视觉泛化能力的前提下实现跨车型适应。在 58 种车型上的零样本迁移表现大幅领先 naive transfer 和 URMA 等基线。
🚗 自动驾驶 🔁 端到端 🎯 领域自适应 🧠 TransFuser 📐 车辆动力学
JUL 19
论文精读|SafeDiffuser:用控制障碍函数给扩散规划加上安全保证
SafeDiffuser 把控制论中的控制障碍函数(CBF)改造为有限时间扩散不变性,嵌入扩散去噪的每一步,为数据驱动的扩散规划器提供可证明的安全保证。它解决了扩散概率采样可能越界、约束只能'软学'、采样即赌博三大安全隐患。在迷宫、足式机器人、机械臂操作上验证了安全性与生成质量的兼得。
🎨 扩散模型 🛡️ 安全 📐 规划 🤖 具身智能
JUL 19
论文精读|A Survey of World Models for Autonomous Driving:自动驾驶世界模型全景综述
这篇持续更新的综述为自动驾驶世界模型构建了一套三层分类法:Tier I 生成未来物理世界(Image/BEV/OG/PC 四类生成范式)、Tier II 智能体行为规划(规则与学习双轨)、Tier III 预测与规划交互。它系统梳理了自监督学习、多模态预训练、生成式数据增强等训练范式,并配套发布 WMAD 论文清单与基准。是当前入门自动驾驶世界模型最系统的地图。
🌐 世界模型 📚 综述 🎨 扩散模型 🚗 自动驾驶
JUL 19
论文精读|DriveDreamer:构建真实驾驶场景的世界模型
DriveDreamer 是首个完全从真实驾驶数据构建的自动驾驶世界模型。它用扩散模型配合 ControlNet 机制处理 HDMap、3D 框、文本和动作等多模态结构化条件,通过两阶段训练同时实现可控驾驶视频生成与未来动作预测。作为驾驶世界模型的奠基之作,它开创了从真实场景理解到未来预测的统一范式。
🔮 世界模型 🎨 生成模型 🚗 自动驾驶 🎬 视频生成
JUL 19
论文精读|BEVFormer:时空 Transformer 玩转多摄像头 BEV 感知
BEVFormer 开创了基于可学习 BEV queries 的时空 Transformer 感知范式,用空间交叉注意力从多视图图像采样特征、用时间自注意力沿时序聚合信息。它纯靠多摄像头就在 nuScenes 上达到 56.9% NDS 逼近 LiDAR 基线。此后几乎所有端到端驾驶方案都沿用其 BEV query+时序融合的基本设计。
🗺️ BEV 👁️ 感知 📷 多摄像头 🚗 自动驾驶
JUL 19
论文精读|Gen-Drive:扩散模型生成 + 强化学习精调的驾驶策略
Gen-Drive 把自动驾驶规划从'预测-规划'重构为'生成-评估'范式:行为扩散模型生成多样未来场景,学习型场景评估器(VLM 辅助训练)打分,再用 RL 微调扩散策略向高分方向优化。它创造性地将 RLHF 奖励建模思路搬进驾驶领域,验证了学习型 reward 优于人工设计。在闭环评测中展现了生成式+强化学习融合的潜力。
🎨 扩散模型 🎮 强化学习 🚗 自动驾驶
JUL 19
知识点拆解|Flow Matching 与扩散模型统一视角:从 SDE 到 ODE 的生成范式
扩散模型与 Flow Matching 是当前生成式 AI 的两大核心范式。本文从 SDE 与 ODE 的统一视角出发,深入讲解扩散模型的随机微分方程解释、Flow Matching 的向量场学习方法、Rectified Flow 的路径整流机制,揭示扩散是 Flow Matching 的特殊情况。同时总结两者在自动驾驶场景生成与轨迹规划中的应用对比。
🌊 Flow Matching 🎨 扩散模型 📐 数学基础 🔗 统一视角 🚗 自动驾驶
JUL 19
论文精读|Senna:用 VLM 给端到端驾驶装上'大脑'
Senna 将大型视觉语言模型(Senna-VLM)与端到端规划器(Senna-E2E)解耦协同,VLM 用自然语言输出高层决策,E2E 在该决策条件下生成精确轨迹。它巧妙绕开了 LVLM 不擅长数值预测的软肋,让 VLM 干'说人话做决策'、E2E 干'算轨迹画路点'。这条 VLM 辅助端到端驾驶的路线成为后续多个工作的设计原型。
🧠 VLM 🚗 自动驾驶 🔗 端到端
JUL 19
知识点拆解|条件扩散模型详解:引导方法与条件注入技术
条件生成是扩散模型落地的关键能力,涉及如何将文本、图像、深度图、驾驶命令等条件信息注入生成过程。本文深入讲解 Classifier-Free Guidance 与 Classifier Guidance 的数学原理、条件注入的四种技术方案、驾驶场景中的多模态条件设计,以及截断扩散和 Flow Matching 等加速方案。
🎨 扩散模型 📐 Classifier-Free Guidance 🚗 条件生成 🌊 Flow Matching
JUL 19
论文精读|One-VL:小米统一视觉语言模型
小米 OneVL 用双模态隐式推理超越显式 CoT,攻克了隐式推理长期打不过显式 CoT 的困境。它将 55 个紧致隐 token(35 视觉+20 语言)作为信息瓶颈,用语言解码器还原语义 CoT、视觉世界模型解码器预测未来帧,双管齐下将隐空间钉死在因果关系上。推理时所有隐 token 一步 prefill,延迟与直接出答案持平,4B 模型在四大基准全 SOTA。
🧠 VLM 🏭 小米 ⚡ 统一模型 🚗 自动驾驶
JUL 19
知识点拆解|驾驶世界模型全景详解:分类、代表工作与发展脉络
世界模型从预测空间维度可分为像素空间、潜在空间和占用空间三大类别,每种都有不同的代表方法与适用场景。本文系统梳理了 DriveDreamer、GAIA-1、Vista、World4Drive、OccWorld 等主流世界模型,对比其核心技术、条件控制与对规划的支持能力,并给出完整的分类体系与发展脉络。
🔮 世界模型 🚗 自动驾驶 🎨 生成模型 📊 分类体系