技术博客

自动驾驶 VLA · 世界模型 · 端到端 · 前沿论文精读与知识分享

📅 2026
JUL 20
VAD 代码讲解:把场景「矢量化」后,端到端能有多轻
「VAD 在 UniAD 之后走轻量化路线:把 agent、地图、运动全表示成向量(点和线),去掉占用栅格与分割头,VADv2 进一步把规划做成多模态概率分布,是回归式端到端走向生成式选择的关键过渡」
端到端 向量化 BEV 代码讲解
JUL 20
UniAD 代码讲解:端到端自动驾驶的「全栈 Transformer」是怎么拼起来的
「UniAD 把感知(检测/跟踪/建图/运动预测/占用)和规划全部塞进一条共享 query 的 Transformer 流水线,是 BEV 端到端感知-规划一体化的开山之作(CVPR 2023 Best Paper)。本文顺着 mmdet3d_plugin 的真实代码,逐个 head 讲清输入输出、forward 里到底做了什么,并拆穿两阶段训练为什么非这么干不可,零基础也能顺着数据流读懂整条链路」
端到端 BEV Transformer 代码讲解
JUL 20
pi0 代码讲解:通用 VLA 的「VLM 主干 + Flow Matching 动作专家」
「pi0 用 Google 的 PaliGemma 视觉语言模型当『懂场景、懂语言』的通用感知-语义主干,再并联挂一个独立的 Flow Matching 动作专家,通过 cross-attention 从 VLM 取特征,在 10 步 ODE Euler 积分内把随机噪声动作流到真实连续动作;本文顺着 Physical-Intelligence 官方 openpi 仓库,逐文件逐函数把 pi0.py 总装两塔、paligemma.py 封装主干、action_expert.py 的 Flow Matching 去噪、trainer.py 的向量场 MSE 损失、runtime.py 的 10 步 ODE 生成、transforms 里的动作 tokenize 与冻结策略讲透,并与 AutoVLA / DriveVLA-W0 做对照,最后把本系列九篇串成一条端到端自动驾驶与通用机器人 VLA 的演进线」
VLA Flow Matching 机器人 代码讲解
JUL 20
nuTruck 重卡安全驾驶策略研究
面向重卡场景的安全驾驶策略研究,关注侧翻与载荷滑移风险评估及动力学约束下的轨迹生成。
项目 重卡安全 世界模型 动力学
JUL 20
Flow-GRPO 源码学习与策略复现
基于 Flow-GRPO 的自动驾驶策略源码学习与复现记录,含小白友好的阅读顺序与教学注释。
项目 Flow-GRPO 强化学习 端到端
JUL 20
Diffusion Policy 代码讲解:用 DDPM 给机器人「生成」一连串动作
「Diffusion Policy 把『给一段观察、出一段动作序列』做成条件扩散生成:噪声动作被 ConditionalUnet1D 逐步去噪,训练是 DDPM 标准损失(预测加到数据上的噪声、MSE),推理是 DDIM 多步采样(20~100 步),归一化必做且推理要 unnormalize 回真实量纲。本文顺着 real-stanford 官方仓库,从名词速查、架构总览、项目结构,到 ConditionalUnet1D / diffusion / diffusion_unet1d_policy / base_dataset / train_diffusion_policy 逐文件逐函数细讲,并穿插『为什么多步动作更稳、为什么扩散天然多模态、为什么归一化是命门』等认知,最后落到它作为 DiffusionDrive / Diffusion Planner / pi0 方法论母体的位置,是一篇面向零基础、超详细、篇幅足够长的工程向代码讲解」
扩散模型 DDPM 机器人 代码讲解
JUL 20
Diffusion Planner 代码讲解:轨迹级扩散 + 免训练能量引导
「Diffusion Planner 把规划对象从『动作』升级为『整条轨迹』,用 DiT + MLP-Mixer 去噪;亮点是在 DDPM 采样时注入 classifier guidance(碰撞/可行驶区域/运动学能量),无需重新训练就能把轨迹压进可行域,本文顺着官方仓库从名词、架构、逐文件逐函数一直讲到多模态闭环评测,帮零基础读者把『轨迹级扩散 + 免训练能量引导』这条主线彻底打通」
扩散模型 轨迹规划 能量引导 代码讲解
JUL 20
AutoVLA 代码讲解:把「开车」变成「说动作 token」并用 GRPO 微调
「面向零基础读者逐行拆解 ucla-mobility/AutoVLA(NeurIPS 2025):从 VLA/动作 codebook/KMeans/快慢思考/SFT/GRPO 等概念讲起,配合论文架构图 + 自绘 SVG(整体架构、KMeans 聚类、两阶段训练流程),逐文件细讲 build_codebook 聚类、modeling_auto_vla 挂 action_head、LoRA 微调策略、SFT 数据模板设计、Stage-2 RFT 拒绝采样精修、推理旁路,最后给出个人思考与系列关系」
VLA GRPO 动作token 代码讲解
JUL 20
论文精读:Longitudinal Safety Distance Control Considering Cargo Load(ICVES 2025)——RSS 安全距离模型为什么漏算了满载重卡的刹车
ICVES 2025 论文 Longitudinal Safety Distance Control Considering Cargo Load for Autonomous Heavy-Duty Vehicles 指出经典 RSS 安全距离模型假设车辆质量恒定,忽略了货物载荷,导致满载重卡制动距离更长、RSS 给出的安全距离不足而撞车。本文从 RSS 公式出发,讲清质量/载荷如何修正制动距离,并呼应博客 nuTruck 一文:现有 benchmark 不把质量/动力学安全作为指标。
🚛 重卡安全 📐 RSS 模型 ⚖️ 载重感知 🛑 紧急制动 🧮 安全距离
JUL 20
论文精读|TruckV2X:首个以重卡为中心的 V2X 车路协同感知数据集,专治盲区与挂车遮挡
TruckV2X (IEEE RA-L 2025) 是首个以半挂重卡为中心的 V2X 多模态多智能体协同感知数据集,用 CARLA 仿真构建 64 个场景、88,396 帧点云、百万图像、118 万 3D 框,覆盖牵引车-挂车-CAV-RSU 四类智能体,系统性揭示重卡因车身长、挂车摆动、转弯内侧盲区而对车路协同的刚需。
V2X 协同感知 重卡自动驾驶 数据集 BEV
JUL 20
论文精读|MAN TruckScenes — 第一个面向重卡自动驾驶的多模态数据集,把 4D 雷达做成 360° 全覆盖
MAN TruckScenes 是 MAN Truck & Bus 与慕尼黑工业大学在 NeurIPS 2024 Datasets & Benchmarks 提出的第一个面向自动驾驶重卡的多模态数据集,含 747 个 20 秒场景、4 相机 + 6 激光雷达 + 6 个 4D 雷达 + 双 IMU + 高精度 GNSS,标注范围超 230 米、27 个物体类、34 个场景标签,并首次提供 360° 覆盖的 4D 雷达点云与带 3D 框标注,配套 nuScenes 格式 devkit 与 CenterPoint/RadarGNN/PETR 基线。本文面向刚入行的 VLA 工程师,用大白话拆解它的传感器布局、卡车特有挑战、标注与切分、以及给端到端重卡模型带来的长距离鲁棒感知问题。
MAN TruckScenes 重卡自动驾驶 多模态数据集 4D雷达 nuScenes格式
JUL 20
论文精读|AutoVLA:用自适应推理与 GRPO 微调统一「思考」与「动作」的端到端 VLA
AutoVLA(NeurIPS 2025, UCLA)把「链式推理 CoT」与「物理动作 token 化」塞进同一个自回归生成模型,用一套代码本把连续轨迹离散成可行动作,再用 SFT 训练出快思考(只出轨迹)与慢思考(带 CoT 推理)双模式,最后用 GRPO 强化微调在简单场景关掉多余推理。它是 NAVSIM v1 上 VLA 路线的代表基线(PDMS 89.1 / 92.1+锚点),也是 DriveVLA-W0 的主要对比对象。
🧠 VLA 🔮 世界模型 🚗 自动驾驶 ⚡ 端到端
JUL 19
知识精讲|自动驾驶定位基础
系统讲解自动驾驶定位技术核心:GNSS/RTK、IMU、车轮里程计的基本原理,卡尔曼滤波的预测-更新过程,多传感器融合的松耦合与紧耦合方案,以及基于HD地图与点云匹配的定位方法,并分析VLA时代定位技术的新角色。
定位 卡尔曼滤波 多传感器融合 SLAM HD地图
JUL 19
知识精讲|相机成像原理与标定
深入讲解自动驾驶中相机成像的核心原理,包括针孔模型、内参外参、畸变模型与标定流程,并分析相机标定质量对BEV感知与3D检测的影响,以及常见车载相机类型。
相机标定 计算机视觉 BEV感知 传感器
JUL 19
知识精讲|LiDAR点云处理基础
系统讲解LiDAR工作原理(ToF、机械/固态)、点云表示方法(xyz、intensity、ring)、三类主流点云检测方法(voxel-based、point-based、range-view),以及在端到端检测中的典型方案(CenterPoint、TransFusion-L)。
LiDAR 点云 3D检测 感知
JUL 19
数据闭环工程:从数据飞轮到持续迭代
数据闭环是自动驾驶系统持续进化的核心引擎,但多数团队卡在「采了很多数据却不会用」的困境。数据闭环的核心难点不在于采集,而在于从PB级数据中精准定位那万分之一的corner case。本文拆解完整数据飞轮(采集→挖掘→标注→训练→评测→回灌),重点介绍主动学习采样策略(熵采样/多样性采样/不确定性估计)、场景库建设方法论、以及基于NeRF/3DGS的自动标注与数据增强前沿实践。
🔄 数据闭环 🌀 数据飞轮 🔍 主动学习 📑 场景库 🧠 NeRF
JUL 19
论文精读|Uni-World VLA — 交错世界建模与规划实现闭环交互驾驶
现有世界模型通常先生成完整未来视频再规划(开环想象),但这种方式忽略了规划决策对环境的实时反馈。Uni-World VLA 提出交错生成范式——模型逐帧交替预测未来画面和自车动作,形成世界建模与控制的闭环交互。同时引入单目深度图作为几何线索增强空间感知。在 NAVSIM 上以单目 RGB 达到 89.4 PDMS,超越多传感器融合方法。
VLA 世界模型 端到端自动驾驶 交错生成 闭环规划
JUL 19
论文精读|DriveFuture:未来感知潜在世界模型——以未来状态条件化当前规划的 SOTA 范式
现有潜在世界模型将未来状态视为预测目标而非规划条件,导致当前与未来特征纠缠。DriveFuture 提出以未来世界状态显式条件化当前决策的框架:训练时用 GT 未来潜在状态做条件,推理时用预测的未来状态接替,实现统一的规划导向 foresight 机制。在 NAVSIM v2 navhard 上以 55.5 EPDMS 排名第一,navtest 上达到 89.9 EPDMS 和 90.7 PDMS。
世界模型 VLA 端到端自动驾驶 规划 NAVSIM
JUL 19
论文精读|AutoDrive-P³:感知-预测-规划链式思维的统一强化微调——ICLR 2026 端到端驾驶新范式
当前 VLM 驾驶方案要么直接输出规划缺失 CoT 推理,要么将感知-预测-规划割裂为独立模块缺乏协同。AutoDrive-P³ 提出统一链式思维框架,通过 P³-CoT 数据集构建感知→预测→规划的结构化推理链,再用 P³-GRPO 算法进行分层渐进式强化微调——将奖励从规划反传到感知和预测模块,实现三模块联合优化。在 NAVSIM 上达到 89.9 EPDMS,nuScenes 上取得最低碰撞率。
VLA CoT GRPO 强化学习 端到端自动驾驶
JUL 19
论文精读:UniDriveVLA — Mixture-of-Transformers 解耦感知-推理冲突的统一驾驶 VLA
UniDriveVLA 提出 Mixture-of-Transformers 架构,通过理解/感知/规划三个专家解耦感知-推理冲突,结合 Masked Joint Attention 与稀疏感知范式,在 nuScenes 开环和 Bench2Drive 闭环上均达到 SOTA。
VLA Mixture-of-Transformers 端到端自动驾驶 3D感知 稀疏感知