技术博客
自动驾驶 VLA · 世界模型 · 端到端 · 前沿论文精读与知识分享
📅 2026
JUL
19
知识精讲|3D目标检测全景详解
3D 目标检测是自动驾驶感知的核心任务之一。本文从 2D 检测到 3D 检测的额外挑战出发,系统梳理纯视觉、纯 LiDAR 和多传感器融合三大技术路线,分析 DETR3D、BEVFormer、PointPillars、BEVFusion 等代表方法,并探讨在端到端趋势下 3D 检测逐渐被规划吸收的范式转变。
JUL
19
知识点拆解|自动驾驶轨迹规划基础
轨迹规划是自动驾驶系统中连接预测与控制的枢纽,其核心任务是在安全、舒适、可行的约束下生成时空轨迹。本文深入讲解 Frenet 坐标系、主流轨迹规划算法分类、碰撞检测与轨迹平滑等核心概念。帮助读者建立从数学基础到工程实践的完整知识框架。
JUL
19
知识点拆解|离线强化学习详解:从 CQL、IQL 到自动驾驶 VLA
离线 RL 让智能体从静态数据集中学习,无需在线交互,对自动驾驶等安全关键领域至关重要。本文详解 CQL、IQL、TD3+BC 等核心算法,讨论分布偏移与 OOD 动作问题,并梳理离线预训练→在线微调范式在 VLA 驾驶模型中的应用与趋势。
JUL
19
知识点拆解|大语言模型基础详解:Transformer、MoE 与 Scaling Law
LLM 是 VLA 的'大脑',提供推理与常识能力。本文深入 Transformer decoder 架构(因果注意力、KV Cache、RoPE、SwiGLU、GQA)、MoE(DeepSeek-V3 风格)、Scaling Laws 以及 VLA 中常用的 LLM 系列(Qwen-2.5、InternLM、Llama-3)。
JUL
19
论文精读|GoalFlow:目标引导流匹配轨迹生成
GoalFlow 用一个精准目标点词表加评分机制选出最合理的短期终点,再用 Flow Matching 一步生成多模态驾驶轨迹。它解决了纯扩散生成轨迹发散无边界、而固定锚点约束过强不真实的两难问题。在 NAVSIM 上 PDMS 达到 90.3,验证了'目标点+整流流'高效生成方案的有效性。
JUL
19
NVIDIA DRIVE平台详解:从Orin到Thor
NVIDIA DRIVE是自动驾驶行业最主流的车端计算平台,从Orin(254 TOPS)到Thor(2000 TOPS)的演进正在重新定义VLA模型的部署边界。本文从硬件架构出发,讲解Orin/Thor的GPU-CPU-DLA-PVA异构计算单元、内存带宽与瓶颈分析、DRIVE OS与DriveWorks中间件栈、TensorRT在DRIVE上的优化策略(INT8稀疏化/DLA offloading/Multi-Stream调度),以及实际部署VLA模型时的pipeline编排与延迟预算分配经验。
JUL
19
知识精讲|视觉基础模型在自动驾驶中的应用
DINOv2、SAM、Depth Anything、CLIP 等视觉基础模型正在深刻重塑自动驾驶的技术栈。本文详解它们各自的核心能力——自监督特征、可提示分割、单目深度估计、视觉-语言对齐——并分析在 VLA 和世界模型论文中作为冻结主干、教师模型和伪标签生成器的三种主要使用范式。
JUL
19
知识点拆解|自动驾驶强化学习中的 Reward 函数设计详解
Reward 函数决定了驾驶强化学习的性能天花板,必须在安全、舒适、合规、效率之间艰难权衡。本文系统拆解 reward 设计的四大组件(安全、舒适、合规、效率)、三大范式与常见陷阱。同时梳理了 NAVSIM、nuPlan 等评测指标如何反哺 reward 设计,为驾驶 RL 提供实操指南。
JUL
19
知识点拆解|VLM 视觉语言模型入门详解:从 CLIP 到 GPT-4V
VLM(视觉语言模型)是 VLA 的视觉理解基础。本文从 CLIP 奠基到 GPT-4V/Gemini 前沿,系统梳理架构演进(ViT → Q-Former → LLM)、训练三阶段(对齐→指令微调→RLHF)及驾驶 VLM 的适配方案。
JUL
19
知识点拆解|PPO 算法深度拆解:从 Policy Gradient 到 GRPO 的进化之路
PPO 通过 clipped surrogate objective 和 GAE 实现稳定策略更新,是 RLHF 时代的核心算法。本文从 REINFORCE 出发,拆解 PPO 的每个关键组件,并对比 GRPO 的革新——去掉 critic,用组内相对优势替代。最后梳理 PPO/GRPO 在 VLA 驾驶模型(AlphaDrive、ReCogDrive、DriveVLA-W0)中的应用。
JUL
19
论文精读|EMMA:Waymo的多模态端到端驾驶大模型
Waymo 的 EMMA 基于 Gemini 多模态大模型,把所有驾驶任务(感知、预测、规划)统一翻译成自然语言 VQA,用单一模型、一套语言空间端到端处理。它选择直接文本化坐标以最大化复用 Gemini 预训练的世界知识。代表了将 MLLM 作为驾驶系统'一等公民'的前沿探索。
JUL
19
功能安全入门:ISO 26262与SOTIF
L4自动驾驶的部署必须满足功能安全标准,但AI研究人员对此往往一片空白。本文从ISO 26262的ASIL等级与HARA分析出发,讲解功能安全的核心概念(故障/失效/危险/风险/安全目标/安全状态),再深入到SOTIF(ISO 21448)——专门针对自动驾驶'已知不安全场景'和'未知不安全场景'的安全分析框架。重点讨论VLA模型中感知不确定性量化、降级策略(degradation strategy)和安全监控(safety monitor)的工程实践。
JUL
19
知识精讲|ViT与视觉架构进化详解
从 ViT 到 ConvNeXt,视觉架构在 Transformer 与卷积之间完成了一个轮回。本文系统梳理 ViT 的核心机制(patch embedding、position encoding、class token),详解 DeiT、Swin、ConvNeXt 等关键演进,并分析多尺度特征金字塔与 VLA 视觉编码器的选型逻辑与缩放定律。
JUL
19
知识点拆解|GRPO 强化学习方法详解:从 DeepSeek 到自动驾驶
GRPO 用'组内相对优势'替代 PPO 的 critic 网络,大幅降低大模型强化学习的训练成本与显存开销。它通过对同一 prompt 采样一组回答并基于组内奖励均值做基线来实现策略优化。已在 DeepSeek-R1 及自动驾驶项目 AlphaDrive、Flow-GRPO 中成为首选 RL 算法。
JUL
19
模型评估体系与回归检测:守护版本质量
自动驾驶模型需要频繁迭代,但如何确保新版本'不比旧版本差'是一个被严重低估的工程难题。本文讲解模型回归检测的全套实践:离线评估Pipeline搭建(开环感知指标/闭环规划指标/计算延迟)、回归测试集的设计原则(场景覆盖/难度层级/对抗样本)、指标一致性分析(confidence interval/statistical significance/effect size)、以及CI/CD流水线中的自动化门禁机制(regression gate+人工review)。
JUL
19
论文精读|Qwen-VLA:阿里通义千问统一视觉-语言-动作基础模型
阿里 Qwen-VLA 用'认知主干+运动专家'双模块解耦架构(类比大脑皮层与小脑分工),将操作、导航、轨迹预测三类异构具身决策问题统一进同一模型。它采用 T2A→CPT→SFT→RL 四阶段渐进训练策略,稳定解决预训练 VLM 与随机初始化 DiT 动作解码器的不对称训练问题。在多机器人本体和多任务家族上展现一致跨任务性能与强分布外泛化。
JUL
19
模型部署入门详解:从 PyTorch 到车端推理
模型部署是将训练好的深度学习模型转换、优化并部署到车端推理引擎的过程。本文讲解 ONNX/TensorRT 的核心概念、FP16/INT8 量化原理、VLA 大模型的边缘部署挑战,以及 Orin 等主流车端硬件的技术参数。
JUL
19
论文精读|ReCogDrive:小米EV强化认知端到端自动驾驶框架
华科×小米EV 提出 ReCogDrive,将 VLM 认知推理(场景理解与决策分析)、扩散规划器(连续轨迹生成)和 DiffGRPO 强化学习(安全优化)三阶段统一。它的层级化数据流水线自动生成含推理链的 VQA 标注,解决了 VLM'会想但不会开'的模态错配问题。在 NAVSIM 和 Bench2Drive 上达到 SOTA,验证了'认知-规划-优化'三分天下的 VLA 设计范式。
JUL
19
多智能体交互决策:博弈论在自动驾驶中的应用
自动驾驶并非独角戏,自车与其他交通参与者之间的交互博弈是最具挑战的决策问题。本文从博弈论基础(纳什均衡/Stackelberg博弈/势博弈)出发,讲解交互决策的核心挑战(部分可观测/意图不确定性/计算实时性),主流方法对比(基于规划的IV-game→基于学习的MADRL→基于模型的Gameformer),以及在换道博弈、无保护左转、环岛通行等典型场景中的应用实践。
JUL
19
AlpaSim 详解:面向强化学习的自动驾驶仿真评测框架
AlpaSim 是一个面向强化学习训练与评测的自动驾驶仿真框架,支持闭环训练、多场景评测和安全验证。它采用微服务架构与神经渲染引擎 NRE,兼顾传感器保真度与横向可扩展性。是连接驾驶策略训练和部署验证的关键基础设施。