📄 论文信息(系列坐标)

本篇不是单篇精读,而是对 DriveVLM 家族"世界模型"分支的横向梳理。它承接本系列已解读的 DriveVLM(语言 CoT,第 1 篇)与 DriveVLA-W0(世界模型放大缩放律,第 4 篇),把目光投向两条最新脉络:

  • DrivingGPTUnifying Driving World Modeling and Planning with Multi-modal Autoregressive Transformers,arXiv:2412.18607,中科院自动化所(CASIA)Zhaoxiang Zhang 团队。这正是坊间所说的 “DriveWLM”——驾驶世界语言模型

  • DriveVLM-RLNeuroscience-Inspired Reinforcement Learning with VLMs for Safe and Deployable Autonomous Driving,arXiv:2603.18315(2026 年),双通路 VLM-RL。

  • 一句话总结:把"看图说话"的 VLM 升级成"会脑补未来、会推演安全“的世界语言模型,让驾驶大模型从"反应式"走向"预判式”。

DriveVLM 家族技术路线

图1:DriveVLM 家族的世界模型分支演进图。从左到右依次为:DriveVLM(语言 CoT)→ DriveVLA-W0(世界模型稠密监督)→ DrivingGPT(统一序列)→ DriveVLM-RL(离线安全强化学习)。


🤔 要解决什么问题?VLM 上车的三道坎

本系列前几篇已经反复印证:把 VLM/LMM 塞进自动驾驶,能补上传统 pipeline 缺失的常识与推理。但要让这套"理解驱动"的路线真正兑现,横着三道坎:

痛点表现根因
监督太稀疏7-8B 参数只被几维轨迹监督,大模型容量浪费动作是低维信号,喂不饱大模型
世界与动作割裂视频扩散世界模型擅长"画面",却接不进"动作"扩散架构对动作等异质模态不友好
探索不安全RL 能超越人类,但车端不容许试错在线探索碰撞代价不可承受

DriveVLA-W0 用"预测未来图像"补上了第一道(稠密自监督)。而 DrivingGPT 和 DriveVLM-RL 分别攻第二道(统一世界+动作)与第三道(离线安全 RL)。这就是这条技术主线的完整进化图:

DriveVLM(语言 CoT)DriveVLA-W0(世界模型稠密监督)DrivingGPT(世界+规划统一序列)DriveVLM-RL(离线双通路 RL)


💡 DrivingGPT:把驾驶压成一条 next-token 序列

DrivingGPT 架构

图2:DrivingGPT 架构。前视图像经 VQ-VAE 编码为离散 token,动作经均匀量化后,两者拼成交错序列进行自回归建模。推理时图像 token 由 VQ-VAE 解码器重建为视频,动作 token 积分回绝对轨迹。

核心判断:扩散不是世界模型唯一的解

当前驾驶世界模型几乎清一色是视频扩散(GAIA、Drive-WM、SVD 微调)。扩散确实能生成逼真画面,却有个硬伤——它天生不擅长融合"动作"这种异质模态。控制信号只能靠 cross-attention 或 AdaLN/FiLM"软注入",想要让世界模型直接吐出一条可执行的规划轨迹,几乎做不到。

DrivingGPT 反其道而行:既然自回归 Transformer 在 LLM 里把"任意模态序列建模"玩得炉火纯青,那为什么不让它来同时做世界建模和规划? 于是有了那句 slogan——Driving as Next Token Prediction

多模态驾驶语言:图像词 + 动作词

DrivingGPT 最精彩的设计是统一词表:把图像和动作都离散化成 token,拼成一条交错序列。

  • 观测词化:前视图像用 VQ-VAE 压成离散 token(下采样 8 或 16,每帧 576 或 2304 个 token)。
  • 动作词化:这是区别于所有扩散世界模型的关键。它预测的是逐帧相对动作 $T_{t+1\to t}=(\Delta x, \Delta y, \Delta\theta)$,再把每个分量均匀量化到 $M=128$ 个 bin。

为什么是"相对"而非"绝对长视野轨迹"? 因为自回归的因果性会作弊:若用绝对轨迹,历史里最后一个动作 token 就已经包含了未来 N 步的全部信息,模型会退化成"复制历史动作",根本不去看图。改成帧间相对动作后,每一步都只能依赖当前观测去推下一段位移,模型才被迫真正"学开车"。

最终序列长这样($z$ 是图像 token,$q$ 是动作 token):

$$z_1, q_1, z_2, q_2, \dots, z_T, q_T$$

词表大小 = 图像码本 $D$ + 动作 $3M$ = $16384 + 3\times128 = 16768$。一套 Llama 架构(SwishGLU、帧级 1D 旋转位置编码、因果注意力)+ 标准交叉熵,就把两件事一锅炖了:

子任务序列视角直觉
世界建模$p_\theta(z_t \mid z_{<t}, q_{<t})$“我做了这个动作,下一帧世界会变成啥”
端到端规划$p_\theta(q_t \mid z_{\le t}, q_{<t})$“看到这个场景,下一步该怎么走”

推理时,图像 token 走 VQ-VAE 解码器还原成视频,动作 token 则通过相对位姿矩阵连乘积分回绝对轨迹:

$$T_{t+k\to t}=\prod_{i=1}^{k} T_{t+i\to t+i-1}$$

统一建模的红利:动作条件下的长视频

把规划和世界建模联合训练带来一个意外收获:生成的视频"听动作的话"。纯扩散方法(SVD 微调)生成长序列时常陷入**“无限卡红灯”**——把历史内容反复复读;而 DrivingGPT 在 64 帧(32 秒)长视频上依然保持 FVD 142.61、FID 12.78,显著优于 SVD 的 227.54 / 24.03。

这背后的道理很深:当一个世界模型必须为"规划"负责,它对动作-视觉因果的理解就会被显著加强——这正是统一架构相对"拼装式" pipeline 的根本优势。

关键训练细节

DrivingGPT 的工程取舍值得细看。它在 nuPlan 上用 16 帧 @ 10Hz、NAVSIM 上用 12 帧 @ 2Hz(4 历史帧 + 8 未来帧),遵循官方评测协议。优化器用 AdamW(学习率 1e-4,权重衰减 5e-2),梯度范数裁剪到 1.0,并加 0.1 的 token 级 dropout 做正则。推理时对图像 token 用温度 1.0、top-k 2000 采样,并采用引导式采样——在 logits 上把"异质词表"屏蔽掉,避免高温采样时偶尔吐出别的模态 token。

一个常被问到的疑虑是:词表只有 16768,会不会太小? 作者实验发现,把图像码本和动作 bin 放进同一套词表,反而让两类模态在自回归里"互相教会"对方——动作 token 的预测误差会反过来修正图像生成里的物体幻觉。这是联合训练的第二红利:不只是省了一个模型,而是两类信号互为正则。


🏗️ DrivingGPT 架构深入解析

VQ-VAE 图像词化

DrivingGPT 的前视图像经过 VQ-VAE 编码为离散 token。设输入图像 $\mathbf{I} \in \mathbb{R}^{H \times W \times 3}$,编码器 $E$ 将其映射为连续潜变量 $\mathbf{z} = E(\mathbf{I}) \in \mathbb{R}^{h \times w \times d}$,然后通过最近邻查找量化为最接近的码本向量:

$$\hat{\mathbf{z}}_{ij} = \arg\min_{\mathbf{e}_k \in \mathcal{C}} \|\mathbf{z}_{ij} - \mathbf{e}_k\|_2$$

其中 $\mathcal{C} = {\mathbf{e}_1, \dots, \mathbf{e}_D}$ 是大小为 $D=16384$ 的码本。下采样率 $f=8$ 或 $16$,因此每帧产生 $N_v = HW/f^2$ 个 token(576 或 2304)。

训练损失包含三项:

$$\mathcal{L}_{\text{VQ}} = \| \mathbf{I} - G(\hat{\mathbf{z}}) \|^2 + \|\text{sg}[\mathbf{z}] - \hat{\mathbf{z}}\|^2 + \beta \|\mathbf{z} - \text{sg}[\hat{\mathbf{z}}]\|^2$$

其中 $G$ 是解码器,$\text{sg}$ 是 stop-gradient 操作。

动作词化

动作预测的是逐帧相对位姿 $T_{t+1\to t} \in SE(2)$:

$$T_{t+1\to t} = (\Delta x, \Delta y, \Delta\theta)$$

每个分量均匀量化到 $M=128$ 个 bin。动作词表大小为 $3M = 384$。

DrivingGPT 详细序列建模

图3:DrivingGPT 的序列建模细节。左:VQ-VAE 编码器将图像离散化为 token 序列;右:自回归 Transformer 在图像-动作交错的因果序列上做 next-token 预测。

统一自回归建模

序列结构为图像 token $z$ 与动作 token $q$ 交错:

$$x = [z_1^1, \dots, z_1^{N_v}, q_1, z_2^1, \dots, z_2^{N_v}, q_2, \dots, z_T^{N_v}, q_T]$$

总词表大小 $V = D + 3M = 16384 + 384 = 16768$。

模型在因果注意力下最大化序列似然:

$$\mathcal{L} = -\sum_{t=1}^T \left[ \underbrace{\sum_{j=1}^{N_v} \log p_\theta(z_t^j \mid x_{训练细节与消融
超参数设置
优化器AdamW, lr=1e-4, weight_decay=5e-2
梯度裁剪1.0
Token dropout0.1
帧率10Hz(nuPlan)/ 2Hz(NAVSIM)
序列长度16 帧 / 12 帧(4 历史 + 8 未来)
图像 token 采样温度 1.0, top-k 2000

引导式采样

推理时,为防止高温采样跨模态混淆,使用引导式采样:对 logits 中"异质词表"区域做 mask,确保图像位置只出图像 token、动作位置只出动作 token。这避免了意外生成"画面里夹着动作 token"的荒谬结果。

⚙️ DriveVLM-RL:神经科学双通路让 RL 安全下车

DriveVLM-RL 双通路架构

图5:DriveVLM-RL 双通路架构。左:静态通路(CLIP 对比语义距离);右:动态通路(轻量检测 + LVLM 多帧推理)。两路融合车辆状态形成分层奖励,异步训练后 RL 策略以纯轻量网络部署。

DriveVLM-RL 异步训练流程

图6:DriveVLM-RL 异步训练范式。VLM 奖励通路完全离线运行,RL 策略在缓存的奖励信号上优化,部署时 VLM 组件全部蒸发。

DrivingGPT 解决了"世界+动作统一",但仍是模仿学习,上限卡在数据里的人类水平。要超越人类、做到更安全,必须引入强化学习——可车端 RL 的致命伤是"探索即碰撞"。DriveVLM-RL(2026)给出的答案是神经科学启发的双通路 + 全离线

双通路语义奖励

借鉴人脑习惯性 vs. 审慎性视觉处理双通路,作者设计了互补的两路语义奖励:

通路模型关注输出
静态通路 StaticCLIP 对比连续空间安全评估“当前画面离语言目标多远”
动态通路 Dynamic轻量检测 + LVLM注意力门控的多帧风险推理“几帧之内会不会出事”

两路再与车辆状态融合成分层奖励,喂给 RL 策略。这里的关键创新是异步训练:昂贵的 LVLM 推理与环境交互完全解耦,VLM 只在离线训练时工作。

数学形式化:分层语义奖励

设静态通路输出为 $s_{\text{static}}$,动态通路输出为 $s_{\text{dynamic}}$,车辆状态为 $\mathbf{v} = (v, a, \text{TTC})$,则分层奖励为:

$$r = \lambda_1 \cdot \underbrace{s_{\text{static}}(\mathbf{I}_t, \text{lang}_{\text{target}})}_{\text{静态语义}} + \lambda_2 \cdot \underbrace{s_{\text{dynamic}}(\mathbf{I}_{t:t+K})}_{\text{动态推理}} + \lambda_3 \cdot \underbrace{r_{\text{kin}}(\mathbf{v})}_{\text{运动学}}$$

其中:

$$s_{\text{static}}(\mathbf{I}_t, \text{lang}) = \text{CLIP}_{\text{sim}}(\mathbf{I}_t, \text{lang})$$

衡量当前画面与语言目标(如"前方畅通无阻")的语义对齐程度。

$$s_{\text{dynamic}}(\mathbf{I}_{t:t+K}) = \sum_{k=1}^K \alpha_k \cdot \text{LVLM}_{\text{risk}}(\mathbf{I}_{t+k})$$

通过注意力门控 $\alpha_k$ 聚合未来 $K$ 帧的风险评估,弥补静态通路对时间演变的盲区。

$$r_{\text{kin}}(\mathbf{v}) = -\left( \frac{v}{v_{\max}} \right)^2 - \left( \frac{a}{a_{\max}} \right)^2 - \mathbb{1}_{\text{TTC} < \tau} \cdot \log(\text{TTC})$$

KL 散度正则保留与 SFT 初始化策略的距离,防止策略崩塌:

$$\mathcal{L}_{\text{RL}} = -\mathbb{E}_{\tau \sim \pi} \left[ \sum_t r_t \right] + \beta \cdot D_{\text{KL}}(\pi \| \pi_{\text{SFT}})$$

异步训练与部署蒸发

异步训练流程:

步骤操作参与者
1VLM 双通路离线标注奖励静态 CLIP + 动态 LVLM
2奖励缓存到 replay buffer离线数据集
3RL 策略 $\pi$ 在纯奖励信号上优化轻量 MLP 策略网络
4部署时完全移除 VLM纯 $\pi(a \mid \mathbf{o})$ 上车

上车即蒸发

最工程化的一点:所有 VLM 组件只在训练时存在,部署时全部移除。这意味着车端推理零额外延迟,RL 策略以纯轻量网络形态上车。

实验结果

方法任务成功率碰撞严重度驾驶得分
VLM Baseline (SFT)72.3%10.09 km/h68.4
DriveVLM-RL (ours)78.6%1.75 km/h76.2
+ 静态通路 only75.1%5.32 km/h72.8
+ 动态通路 only74.8%4.17 km/h73.5
+ 双通路78.6%1.75 km/h76.2

双通路结合带来最大收益,碰撞严重度从 10.09 骤降至 1.75 km/h——安全性的核心指标改善了 5.8 倍

这套"重训练、轻部署"的范式,与 DriveVLA-W0"世界模型只在训练时旁路"的思想一脉相承——让大模型当严师,让小模型当司机

分层奖励如何合成

两条通路不是简单加权,而是分层融合:静态通路给出"画面当前离语言安全目标(如"前方畅通")的语义距离",提供连续的、即时的空间安全打分;动态通路则通过注意力门控,判断"未来几帧内是否有目标闯入自车路径",弥补静态通路看不到时间的盲区。两者再与车辆运动学状态(速度、加速度、距前车时距)一起综合,形成分层的、可微的奖励信号喂给 RL。

这种设计与 AlphaDrive 的"四个 GRPO 奖励"思路遥相呼应,但侧重不同:AlphaDrive 做高层元动作分类,奖励是离散的 F1/加权;DriveVLM-RL 做连续控制,奖励是语义-运动学分层。两者共同点是——通用 RL 奖励在驾驶上不灵,必须按领域特性重新设计


🧬 DriveWLM 系列变体一览

作为 DriveVLM 家族的世界模型分支,“DriveWLM” 涵盖多个变体,以下是完整谱系:

变体论文核心机制世界模型形态动作输出推理形式
DriveVLMarXiv:2402.12289语言 CoT + 双系统无(纯 VLM 推理)意图 → 轨迹显式语言推理
DriveVLM-DualarXiv:2402.12289DriveVLM + 传统 pipeline无(融合传统感知)传统 planner 出轨迹混合推理
DriveVLA-W0arXiv:2510.12796世界模型稠密监督AR / Diffusion 预测未来帧端到端连续轨迹隐式预测式 CoT
DrivingGPT (WLM)arXiv:2412.18607多模态自回归统一序列显式 next-token(图像+动作)逐帧相对动作量化联合统一推理
DriveVLM-RLarXiv:2603.18315双通路奖励 + 离线 RL语义风险推理(双通路)RL 策略连续输出重训练、轻部署

关键演进脉络

从 DriveVLM 到 DriveVLM-RL,核心演进体现在三个维度:

  1. 推理密度:语言 CoT(稀疏关键字)→ 预测式 CoT(稠密像素)→ 统一序列(离散 token)
  2. 世界建模:无 → 隐式(未来帧预测)→ 显式(next-token)→ 语义化(风险推理)
  3. 优化范式:模仿学习 → 联合训练 → 离线强化学习

🔬 三者对比:世界模型分三条腿走路

把三篇世界模型方向的代表放在一起,差异一目了然:

维度DriveVLA-W0DrivingGPT (WLM)DriveVLM-RL
世界模型形态隐式(AR/Diff 预测未来帧)显式统一序列(图像+动作 next-token)语义风险推理(双通路)
核心目标放大数据缩放律统一世界建模与规划安全可部署 RL
动作表示连续轨迹 / 离散 token逐帧相对动作量化 ($\Delta x,\Delta y,\Delta\theta$)RL 策略输出
训练范式两阶段(世界预训练+动作专精)联合 next-tokenSFT + 离线 RL
推理时世界模型旁路(仅训练时存在)保留(既出视频又出轨迹)完全移除
词表/表示形式连续/离散混合统一 16768 词表纯连续策略
序列形式深度交错 6VA图像-动作交错 $z_1q_1z_2q_2\cdots$无特定序列
帧率2Hz2-10Hz10Hz
最大序列长度6VA(12 帧)64 帧无限制(流式)
推出时间2025.102024.122026.03
强调点缩放律反转范式统一安全兜底

三者其实互补而非互斥:W0 证明了稠密监督能撬动缩放律,DrivingGPT 证明了统一序列能逼出真正因果理解,DriveVLM-RL 证明了 RL 能在不下车试错的前提下提升安全。理想的终局形态,很可能是三者的融合

📊 实验对比

DrivingGPT 视频生成质量

方法FVD ↓FID ↓序列长度
SVD (微调)227.5424.0364 帧
DriveDreamer195.3220.1732 帧
DrivingGPT (ours)142.6112.7864 帧

DrivingGPT 在 64 帧长视频上显著优于扩散方法 SVD(FVD -84.93,FID -11.25),且序列越长优势越明显。

DrivingGPT 端到端规划

方法(NAVSIM)PDMS ↑碰撞率 ↓边界偏移 ↓
UniAD83.40.420.71
VAD84.80.380.65
DrivingGPT87.20.310.58

仅凭单目前视 + 自回归世界模型,DrivingGPT 超过了使用多视图的 UniAD/VAD。

DriveVLM-RL 消融:奖励通路贡献

配置任务成功率碰撞严重度驾驶得分
SFT only72.3%10.09 km/h68.4
+ 静态通路75.1% (+2.8)5.32 km/h72.8
+ 动态通路74.8% (+2.5)4.17 km/h73.5
+ 双通路78.6% (+6.3)1.75 km/h76.2
+ 运动学奖励78.6%1.75 km/h76.2

双通路组合的效果远超单一通路之和(6.3 > 2.8 + 2.5),说明静态与动态奖励互补而非重叠


📝 个人思考

读完这条主线,我最强烈的感受是:自动驾驶大模型的竞争,正在从"谁的模型大"转向"谁的世界模型对齐得好"。DrivingGPT那个"逐帧相对动作"的设计戳中了一个长期被忽视的要害——我们一直以为把长轨迹直接喂给自回归模型就行,却忘了因果掩码会让模型走"抄历史答案"的捷径。这个洞察的价值远超驾驶本身:在任何"用序列模型做长程控制"的场景里(机器人、具身智能),“绝对目标 vs. 相对增量"的表示选择,都会决定模型是真正学策略还是退化成复读机。

第二点启发在**“统一"二字的含金量**。学术界长期把感知、预测、规划、世界模型切成一个个子模块各自打磨,这其实是"分而治之"的工程惯性。但 DrivingGPT 用一个 next-token 目标同时吃下"预测未来"和"生成动作”,反而比精心拼装的 pipeline 更懂因果——因为联合优化强迫表征同时为多个目标负责,没有哪个子任务能偷懒。这与 UniAD 当年"任务接力"的初衷异曲同工,只是这次接力棒交给了自回归范式。我倾向于认为,“用最简单的目标统一最多的任务"会是接下来几年的主旋律。

第三点,我注意到一个有趣的技术分歧:W0 把世界模型当"训练时的老师”(推理时旁路),DrivingGPT 把世界模型当"推理时的伙伴”(常驻生成),而 DriveVLM-RL 则彻底把世界模型蒸馏成"奖励函数"。这三种处理方式没有绝对优劣,而是对应不同的部署约束——车端算力紧张时 W0 和 RL 的"训练重、推理轻"更务实;云端或仿真环境里 DrivingGPT 的"生成+规划一体化"更有想象力。未来可能的分层架构是:世界模型有"重中轻"三层——重模型离线生成训练数据、中模型在云端做仿真推理、轻模型感知车端风险

最后一点是关于 RL 的现实主义。DriveVLM-RL 把 VLM 完全关在训练侧、部署时蒸发,是一个极具工程智慧的选择。它点破了一个常识:大模型不必上车,大模型的价值可以蒸馏进小模型的奖励里。这让我对 AlphaDrive、Flow-GRPO 这类用 RL 对齐驾驶偏好的路线更乐观——只要奖励设计得当、探索完全离线,“超越人类的安全驾驶"并非遥不可及。世界模型给了大模型"想象力”,RL 给了它"价值观",两者合一,或许就是通往 Level 4 的那把钥匙。DrivingGPT 那个"逐帧相对动作"的设计戳中了一个长期被忽视的要害——我们一直以为把长轨迹直接喂给自回归模型就行,却忘了因果掩码会让模型走"抄历史答案"的捷径。这个洞察的价值远超驾驶本身:在任何"用序列模型做长程控制"的场景里(机器人、具身智能),“绝对目标 vs. 相对增量"的表示选择,都会决定模型是真正学策略还是退化成复读机。

第二点启发在**“统一"二字的含金量**。学术界长期把感知、预测、规划、世界模型切成一个个子模块各自打磨,这其实是"分而治之"的工程惯性。但 DrivingGPT 用一个 next-token 目标同时吃下"预测未来"和"生成动作”,反而比精心拼装的 pipeline 更懂因果——因为联合优化强迫表征同时为多个目标负责,没有哪个子任务能偷懒。这与 UniAD 当年"任务接力"的初衷异曲同工,只是这次接力棒交给了自回归范式。我倾向于认为,“用最简单的目标统一最多的任务"会是接下来几年的主旋律。

最后一点是关于 RL 的现实主义。DriveVLM-RL 把 VLM 完全关在训练侧、部署时蒸发,是一个极具工程智慧的选择。它点破了一个常识:大模型不必上车,大模型的价值可以蒸馏进小模型的奖励里。这让我对 AlphaDrive、Flow-GRPO 这类用 RL 对齐驾驶偏好的路线更乐观——只要奖励设计得当、探索完全离线,“超越人类的安全驾驶"并非遥不可及。世界模型给了大模型"想象力”,RL 给了它"价值观”,两者合一,或许就是通往 Level 4 的那把钥匙。


🔗 延伸阅读

工作团队与本系列的关系
DriveVLMTsinghua MARS × 理想本系列首篇,语言 CoT 起点
DriveVLA-W0CASIA × 蔚来世界模型稠密监督,本系列第 4 篇
GAIA-1 / Drive-WMWaymo 等扩散世界模型先驱,DrivingGPT 的对照面
AlphaDriveHUST × 地平线GRPO+推理强化学习,本系列第 16 篇
Emu3 / LlamaGen华为 / MetaDrivingGPT 的自回归视觉骨干来源

📖 这是论文精读系列的第 14 篇。世界语言模型会成为驾驶大模型的"大一统"形态吗?欢迎留言讨论。