🎯 一句话理解 CoT

CoT = 不让模型直接回答’怎么做’,而是先问它’为什么’,把推理过程写出来,再基于推理给出答案。

CoT(Chain-of-Thought,思维链)让大模型输出最终答案之前先生成中间推理步骤,大幅提升复杂推理任务的准确率,也让决策变得可解释、可调试。


🧩 CoT 基础

问题:为什么需要 CoT?

大模型直接回答复杂问题时易犯"直觉错误"——凭感觉乱说。CoT 让模型一步步推理:

Q直C:接o回T车答::行6应人0该横k(穿m但/说1h不0,清m前原方因需)570.m2s有行→人横车穿到,达应需刹车3吗s?→3<7.2→必须刹车

三种基本方法

方法做法优点缺点
Few-shot CoTprompt 中给推理示例效果好消耗 token,需设计示例
Zero-shot CoT加"Let’s think step by step"无需数据效果略差于 few-shot
Self-Consistency多次采样 + 多数投票准确率最高(+15~30%)计算开销大

Zero-shot CoT 对 VLA 最实用——不需要任何标注就能激发推理能力。


🚗 DriveVLM 四阶段 CoT

DriveVLM(清华/上交+蔚来, 2024)首次系统性地把 CoT 引入驾驶,提出结构化四阶段推理:

阶阶阶阶段段段段→→→→1234:":":":"场四关施自需规减景车键工我左划速描道物锥推变决至述城体桶理道策(市预最(,(3S道测关E左P0c路(键g侧lke,P,oamn前r左Sn/e方e侧RU)hd车eV,D3i道a打e0c有s距左smto离灯ciSn,r有oUi13i施nVn5sp工),gmt锥速),后i桶度变左o,约道变n右空道)侧4间"车0足道k够封m"闭/"h"

设计动机

阶段对应人类行为作用
场景描述观察强制关注所有道路元素
关键物体识别威胁判断"什么最重要"
自我推理思考策略因果推理+方案评估
规划执行输出最终决策

优势:可分解验证(每阶段单独评估)、错误可定位(规划错了→回溯哪个阶段错了)、模块化数据标注。

数据构建

使用 GPT-4V 离线生成初始 CoT 标注 → 人工审核修正 → 加入真实轨迹作为 ground truth。


🎲 Game-CoT:博弈论思维链

传统 CoT 只考虑自我车辆。WCog-VLA(2025)提出 Game-CoT——基于博弈论的多智能体推理:

传G统am123Ce...o-TC我观--执:o打察行"T左目让不对前:转标行让应车向车((策灯道4保略3(后0持,0发车→持k出是34续m信否50观/号减kk察h)速mm,让//我行hh准))备::变我我道加等。速待"变道
维度传统 CoTGame-CoT
视角单智能体多智能体博弈
推理条件判断策略交互
适用常规场景交互密集(汇流、抢道)
计算低中~高

👁️ DCoT:视觉思维链

文本 CoT 难以精确表达视觉推理(如"如果不刹车未来会怎样")。DCoT 用生成的未来帧作为"视觉思考":

FuturesightDrive / VLA-World

输V决入i策:↓s假假假↓:当u设设设变前a道场lABC绕景(((行T加刹变(h速车道Bo)))u→→→和gh生生生Ct成成成s未未未都:来来来安全222,sssC视视视更频频频高效→→→)碰安安撞全全❌✅✅
维度文本 CoTDCoT
形式语言符号未来视频/图像
信息密度低高
计算开销低极高(需视频生成)
代表DriveVLMFuturesightDrive, VLA-World

📀 CoT 蒸馏:用强模型教弱模型

CoT 标注昂贵(一个场景 5-10 分钟)。用 GPT-4V 自动生成 CoT 数据是标准方案:

步1234骤....:采G规用集P则驾T过(驶-滤图视4(像频V轨,片迹段按偏C四差o+阶大T段则,g格丢r式弃轨o生)迹u成+)ndC人做o工tT抽Sr检FuTth轨迹

关键:Prompt 设计保证格式一致、质量控制确保 CoT 与轨迹自洽、保留多样性而非强行统一。


🔄 GRPO + CoT:AlphaDrive 两阶段训练

阶段一:SFT 热启动

用蒸馏 CoT 数据做监督微调,让模型学会基本的 CoT 格式和驾驶知识。

阶段二:GRPO 强化学习

对同一场景采样 G 个 CoT+轨迹,用驾驶 reward 做组内比较优化:

rAe_wiar=d(=r_wi₁×-安全m(e碰a撞n/(离r线)))+/w₂s×t舒d适((r加)加速度→)+GRwP₃O×效损率失+w₄×CoT一致性
对比纯 SFTSFT+GRPO
决策质量中(模仿平均)高(优化 reward)
安全性继承数据可显式优化
长尾泛化依赖覆盖更好(RL 探索)

为什么 GRPO 适配 CoT

  1. 每个场景可采样多条 CoT 路径,天然"组内相对"
  2. CoT 是 token 序列,可直接优化生成概率
  3. 驾驶 reward 可验证,适合 GRPO 模式
  4. KL 约束防止丢失 CoT 格式和通用知识

🔑 CoT 的可解释调试价值

问C修题o复:T场关自规:模景键我划增型诊描物推:加在断述体理"交施::::左互工"""变推区施锥绕道理选工桶行"训了锥、锥练不桶左桶→数安,侧,据全左车左❌路侧辆侧径有"车车道"→可行→✅"✅→❌(忽略后车加速)

这种可追溯的调试能力是传统端到端黑盒完全不具备的。

CoT 落地自动驾驶的工程挑战

挑战描述缓解方案
推理速度CoT 需生成多步文本,耗时增加限制 CoT 长度、结构化模板、边缘部署优化
CoT 与动作不一致CoT 说"应该刹车"但输出加速增加一致性损失、reward 中加入一致性项
CoT 质量不稳定复杂场景下推理链出错Self-consistency 多数投票、降低 CoT 温度
多语言 CoT中文驾驶场景需中文推理使用中文 LLM(Qwen)蒸馏
评估困难CoT 好坏难量化人工评分 / GPT-4 评估 / 可分解验证

实务建议:先用 Zero-shot CoT 快速验证可行性,再用蒸馏数据做 SFT 提升一致性,最后用 GRPO 优化决策质量。不要一开始就追求完美的 CoT 数据标注。

CoT 方法全景

方法计算可解释性决策质量代表
直接决策最低❌中行为克隆
文本 CoT低~中✅✅中~高DriveVLM
结构化 CoT中✅✅✅高DriveVLM-Dual
Game-CoT中~高✅✅高WCog-VLA
DCoT极高✅✅高VLA-World
CoT+RL高(训练)✅✅最高AlphaDrive

✅ 小结

  1. 基础 CoT:Few-shot / Zero-shot / Self-consistency,Zero-shot 对 VLA 最实用
  2. 驾驶 CoT:DriveVLM 四阶段(场景→预测→推理→规划)使推理可分解
  3. 高级 CoT:Game-CoT(博弈论)、DCoT(视觉 CoT)扩展推理维度
  4. CoT 蒸馏:GPT-4V 自动生成训练数据,降低标注成本
  5. GRPO+CoT:AlphaDrive 两阶段范式用 RL 优化推理链质量
  6. 核心价值:CoT 让驾驶决策变透明——可追溯、可调试、可定位

📖 知识点拆解系列第 14 篇。CoT 让 VLA 从"黑盒"走向"可解释",是自动驾驶安全落地的关键一环。