🎯 一句话理解 CoT

CoT = 不让模型直接回答’怎么做’,而是先问它’为什么’,把推理过程写出来,再基于推理给出答案。

CoT(Chain-of-Thought,思维链)让大模型输出最终答案之前先生成中间推理步骤,大幅提升复杂推理任务的准确率,也让决策变得可解释、可调试


🧩 CoT 基础

问题:为什么需要 CoT?

大模型直接回答复杂问题时易犯"直觉错误"——凭感觉乱说。CoT 让模型一步步推理:

QC:oT60k穿m/1h0m570.m2s穿3s3<7.2

三种基本方法

方法做法优点缺点
Few-shot CoTprompt 中给推理示例效果好消耗 token,需设计示例
Zero-shot CoT加"Let’s think step by step"无需数据效果略差于 few-shot
Self-Consistency多次采样 + 多数投票准确率最高(+15~30%)计算开销大

Zero-shot CoT 对 VLA 最实用——不需要任何标注就能激发推理能力。


🚗 DriveVLM 四阶段 CoT

DriveVLM(清华/上交+蔚来, 2024)首次系统性地把 CoT 引入驾驶,提出结构化四阶段推理:

1234""""3SEP0cglkePoamnrSn/eeRUhdeVD3iae0cssmtociSnroUi13inVn5spgmtion4"0km"/"h"

设计动机

阶段对应人类行为作用
场景描述观察强制关注所有道路元素
关键物体识别威胁判断"什么最重要"
自我推理思考策略因果推理+方案评估
规划执行输出最终决策

优势:可分解验证(每阶段单独评估)、错误可定位(规划错了→回溯哪个阶段错了)、模块化数据标注。

数据构建

使用 GPT-4V 离线生成初始 CoT 标注 → 人工审核修正 → 加入真实轨迹作为 ground truth。


🎲 Game-CoT:博弈论思维链

传统 CoT 只考虑自我车辆。WCog-VLA(2025)提出 Game-CoT——基于博弈论的多智能体推理:

Gam123Ce...o-TC--o"T4300k34m50/kkhmm//hh"
维度传统 CoTGame-CoT
视角单智能体多智能体博弈
推理条件判断策略交互
适用常规场景交互密集(汇流、抢道)
计算中~高

👁️ DCoT:视觉思维链

文本 CoT 难以精确表达视觉推理(如"如果不刹车未来会怎样")。DCoT 用生成的未来帧作为"视觉思考":

FuturesightDrive / VLA-World

VisualABCThBoughCts:222sssC
维度文本 CoTDCoT
形式语言符号未来视频/图像
信息密度
计算开销极高(需视频生成)
代表DriveVLMFuturesightDrive, VLA-World

📀 CoT 蒸馏:用强模型教弱模型

CoT 标注昂贵(一个场景 5-10 分钟)。用 GPT-4V 自动生成 CoT 数据是标准方案:

1234....GPT(-4V,Co+T,grou+)ndCotTSrFuTth

关键:Prompt 设计保证格式一致、质量控制确保 CoT 与轨迹自洽、保留多样性而非强行统一。


🔄 GRPO + CoT:AlphaDrive 两阶段训练

阶段一:SFT 热启动

用蒸馏 CoT 数据做监督微调,让模型学会基本的 CoT 格式和驾驶知识。

阶段二:GRPO 强化学习

对同一场景采样 G 个 CoT+轨迹,用驾驶 reward 做组内比较优化:

rAe_wiar=d(=r_wi×-mean/(r线))+/ws×td(r)+GRwPO×+w×CoT
对比纯 SFTSFT+GRPO
决策质量中(模仿平均)(优化 reward)
安全性继承数据可显式优化
长尾泛化依赖覆盖更好(RL 探索)

为什么 GRPO 适配 CoT

  1. 每个场景可采样多条 CoT 路径,天然"组内相对"
  2. CoT 是 token 序列,可直接优化生成概率
  3. 驾驶 reward 可验证,适合 GRPO 模式
  4. KL 约束防止丢失 CoT 格式和通用知识

🔑 CoT 的可解释调试价值

CoT""""""""

这种可追溯的调试能力是传统端到端黑盒完全不具备的。

CoT 落地自动驾驶的工程挑战

挑战描述缓解方案
推理速度CoT 需生成多步文本,耗时增加限制 CoT 长度、结构化模板、边缘部署优化
CoT 与动作不一致CoT 说"应该刹车"但输出加速增加一致性损失、reward 中加入一致性项
CoT 质量不稳定复杂场景下推理链出错Self-consistency 多数投票、降低 CoT 温度
多语言 CoT中文驾驶场景需中文推理使用中文 LLM(Qwen)蒸馏
评估困难CoT 好坏难量化人工评分 / GPT-4 评估 / 可分解验证

实务建议:先用 Zero-shot CoT 快速验证可行性,再用蒸馏数据做 SFT 提升一致性,最后用 GRPO 优化决策质量。不要一开始就追求完美的 CoT 数据标注。

CoT 方法全景

方法计算可解释性决策质量代表
直接决策最低行为克隆
文本 CoT低~中✅✅中~高DriveVLM
结构化 CoT✅✅✅DriveVLM-Dual
Game-CoT中~高✅✅WCog-VLA
DCoT极高✅✅VLA-World
CoT+RL高(训练)✅✅最高AlphaDrive

✅ 小结

  1. 基础 CoT:Few-shot / Zero-shot / Self-consistency,Zero-shot 对 VLA 最实用
  2. 驾驶 CoT:DriveVLM 四阶段(场景→预测→推理→规划)使推理可分解
  3. 高级 CoT:Game-CoT(博弈论)、DCoT(视觉 CoT)扩展推理维度
  4. CoT 蒸馏:GPT-4V 自动生成训练数据,降低标注成本
  5. GRPO+CoT:AlphaDrive 两阶段范式用 RL 优化推理链质量
  6. 核心价值:CoT 让驾驶决策变透明——可追溯、可调试、可定位

📖 知识点拆解系列第 14 篇。CoT 让 VLA 从"黑盒"走向"可解释",是自动驾驶安全落地的关键一环。