📄 论文信息
- 标题:Vision-Language-Action Models for Autonomous Driving: Past, Present, and Future
- 团队:WorldBench 联合团队(港科大、浙大、NTU、港科大广研院、阿里达摩院、UCLA、小米汽车、西安交大等 19 家机构)
- arXiv:2512.16760(2025 年 12 月 v1 / 2026 年 1 月 v2,cs.RO)
- 项目页:
worldbench.github.io/vla4ad;GitHub:github.com/worldbench/awesome-vla-for-ad - 关键词:VLA 综述、End-to-End VLA、Dual-System VLA、动作空间、基准
- 一句话总结:迄今最系统的自动驾驶 VLA 综述——用"过去-现在-未来"的叙事,从 ALVINN/ChauffeurNet 一路讲到 AutoVLA/Diff-VLA,提出"端到端 VLA vs 双系统 VLA"两大范式分类法,并梳理了数据集、评测基准与七大未来挑战。
🤔 这篇综述要解决什么问题?VLA 的定义都还没统一
自动驾驶 VLA 在 2024–2025 年井喷:EMMA、DriveVLM、ORION、ReCogDrive、AutoVLA、Diff-VLA……名字五花八门,架构各说各话。作者敏锐地指出三个混乱源头:
- “VLA"一词被滥用——机器人 VLA、具身 VLA、驾驶 VLA 各有各的定义,缺乏驾驶专属的精细刻画;
- 架构谱系不清——VA(视觉-动作)和 VLA(视觉-语言-动作)的边界模糊,谁是谁的前身、谁继承谁,没有统一叙事;
- 评测不统一——nuScenes、WOD-E2E、NAVSIM、Bench2Drive 各刷各的,缺乏横向对比的基础。
综述的目标,就是给这个领域建一份"户口本”:统一形式化、理清演进线、提出分类法、汇总数据集、指出挑战。
💡 核心框架:从 VA 到 VLA 的两步跃迁
综述最有价值的贡献,是提出了一套层次分明的分类法。
第一步:统一形式化
作者把所有 VLA 模型抽象成一个公式:
$$\textbf{a}_t=H(F(\textbf{x}|\theta))$$其中 $\textbf{x}$ 是多模态输入,$F(\cdot)$ 是 VLM 骨干,$H(\cdot)$ 是动作预测头。三者的不同选择,决定了模型属于哪个流派。
| 组件 | 可选项 | 代表 |
|---|---|---|
| 输入 $\textbf{x}$ | 相机图、LiDAR、BEV、occupancy、语言指令、车辆状态 | 几乎所有方法 |
| 骨干 $F$ | ViT+LLM、InternVL、Qwen-VL | EMMA、DriveVLM |
| 动作头 $H$ | 语言头 LH、回归 REG、轨迹选择 SEL、生成 GEN | Diff-VLA、ORION |
特别地,作者把动作空间也做了四分法:离散轨迹点、连续轨迹($v(t),\kappa(t)$)、直接控制($\delta,\tau,\beta$)、语言动作——这是理解每个模型"在控制什么"的钥匙。
第二步:从 VA 到 VLA 的演进叙事
综述用"过去-现在"把历史压成一条清晰的线:
VA 时代(视觉-动作):直接把感知映射到动作,分两条路——模仿学习(ALVINN、ChauffeurNet、TransFuser、UniAD、VAD)和强化学习。后来又长出世界模型分支(图像式、occupancy 式、隐式)。VA 模型的通病是:黑盒、长尾泛化差、不会推理、听不懂人话。
VLA 时代(视觉-语言-动作):LLM/多模态大模型爆发后,语言被引进来,于是有了两大范式:
范式一:End-to-End VLA(端到端 VLA)
一个模型搞定感知 + 推理 + 规划,VLM 直接吐动作。又分两个子类:
- 文本动作生成器(Textual):用语言头输出离散动作 token 或文本指令,如 DriveMLM、GPT-Driver、DriveGPT4;
- 数值动作生成器(Numerical):用回归或生成头输出连续轨迹/控制,如 AutoVLA(快慢思考 + GRPO)、EMMA、SimLingo。
范式二:Dual-System VLA(双系统 VLA)
“慢思考 + 快执行”——VLM 负责高级推理,规划器负责安全执行。这是受人类"双系统理论"(System 1 / System 2)启发。也分两个子类:
- 显式动作引导(Explicit):VLM 输出文本决策或指令,传给规划器,如 DriveVLM、InsightDrive(把 why 给 VLM、how 给 MPC);
- 隐式表征传递(Implicit):VLM 输出隐式表征或 latent 动作,如 VLP(tokenize 路径点+价值图)、Diff-VLA(语言引导 + 扩散合成 + 控制器精修)。
这套分类法的精妙之处在于:它把架构差异和工程取舍直接挂钩——端到端 VLA 简洁但延迟高、安全难保证;双系统 VLA 可解释、安全可控,但模块间对齐是难点。
📊 数据集、基准与挑战:一份实操地图
综述第 5 章把 VLA 评测盘得很全。开环有 nuScenes、WOD-E2E;闭环有 NAVSIM、Bench2Drive;文本动作还得有"基于语言的评测"。作者还做了横向定量实验,在四大基准上对比主流 VLA,给了社区一个统一的参照系。
第 6 章挑出的三大类挑战尤其值得读:
| 挑战类别 | 具体问题 |
|---|---|
| 架构与效率 | 大模型实时性、算力门槛、双系统对齐 |
| 数据与泛化 | 长尾场景、指令多样性、仿真到现实 gap |
| 能力与可信 | 鲁棒性、可解释性、指令忠实度(车真的按人说的做吗?) |
未来方向上,作者点名了下一代范式(统一世界模型 + VLA)、自适应进化(在线学习、个性化)、安全部署生态(标准化、合规)三条主轴。
🧠 个人思考:VLA 不是终点,而是"可解释自动驾驶"的起点
读完这 47 页,最大的感受是:VLA 的本质,不是把 VLM 硬塞进驾驶管线,而是给自动驾驶补上"语言这个抽象层"。过去 VA 时代,模型只会在像素和方向盘之间做映射,遇到没见过的长尾就抓瞎;VLA 引入语言后,模型第一次能"说出理由"、“听懂指令”、“做思维链推理”。这带来的不是性能数字的提升,而是可信度的质变——一辆能解释自己为什么刹车、能听懂"避开那辆工程车"的车,才真正配得上 L4。
第二个收获是双系统 VLA 这个范式,很可能才是落地的正解。综述里把 DriveVLM、InsightDrive 这类"VLM 想为什么、规划器想怎么做"的设计归为 Dual-System,这其实是对自动驾驶安全哲学的回归——慢系统可以慢、可以错,快系统必须快、必须稳。把 VLM 的不确定性隔离在"思考层",让规划器守住"执行层"的物理可行性底线,这种解耦比 End-to-End VLA 把推理和控制揉进一个网络要稳妥得多。反观纯端到端 VLA,延迟和安全审计都是硬伤,短期内在量产车上很难过关。
第三,综述里动作空间的四分法是个被低估的工具。离散轨迹点、连续轨迹、直接控制、语言动作——这四种动作空间其实对应四种完全不同的工程取舍。比如直接控制(方向盘/油门)最接近车控,但端到端学起来最难、最不安全;语言动作最可解释,但粒度太粗撑不起精确规划;轨迹生成(扩散/VAE)成了当下甜蜜点,正因为它既有连续精度,又能建模多模态。理清这套分类,对选型极有帮助。
当然,综述也有它的局限。其一,横向实验虽然做了,但各方法骨干、数据、训练算力差异巨大,这种横向对比的公平性一直存疑,读者要谨慎。其二,VLA 领域迭代极快,2026 年的新工作(比如 WCog-VLA 这类世界认知 VLA)已经又开始挑战综述的分类边界,“端到端 vs 双系统"的二元划分可能很快不够用。其三,综述对安全验证、形式化保证这些真正卡 L4 落地的话题着墨偏少,更多停留在"能力"层面。
但作为一份"立纲"之作,它的价值毋庸置疑。如果说 UniAD 定义了"什么是端到端”,DiffusionDrive 定义了"什么是多模态规划",那么这篇综述做的就是为 VLA 这个范式画下版图、立下规矩。对任何想进入自动驾驶 VLA 的研究者,它都是绕不开的第一站——先读它,再选你的那条技术路线。
📈 完整时间线:从 ALVINN 到 AutoVLA 的三十年

图 1:VLA 综述全景图。左半部分展示从 1989 年 ALVINN 到 2025 年 AutoVLA 的完整技术演进时间线,右半部分展示综述提出的统一分类法框架。颜色编码:蓝色为 VA 模型,红色为端到端 VLA,绿色为双系统 VLA。
综述将自动驾驶 VLA 的发展划分为三个里程碑阶段:
阶段一:VA 萌芽期(1989-2019)
| 时间 | 方法 | 核心思想 | 技术路线 |
|---|---|---|---|
| 1989 | ALVINN | 3 层 BP 网络直接映射图像到转向角 | 模仿学习 |
| 2015 | NVIDIA PilotNet | CNN 端到端学习方向盘控制 | 模仿学习 |
| 2018 | ChauffeurNet | BEV + RNN 规划,加入中间代价 | 模仿学习 + 代价 |
| 2019 | TransFuser | Transformer 融合多模态 BEV | Transformer |
| 2020 | PRECOG | 预测其他智能体轨迹再规划 | 预测 + 规划 |
阶段二:VA 成熟期(2021-2023)
以 UniAD、VAD 为代表的"模块化端到端"范式成熟,感知→预测→规划全可微。VA 时代的共性局限:全黑盒、长尾泛化差、不能推理、不能交互语言。
阶段三:VLA 爆发期(2024-至今)
LLM/VLM 爆发后,语言被引入驾驶规划管线。综述统计分析了 50+ 篇 VLA 相关论文,提出了"端到端 VLA vs 双系统 VLA"的二元分类法。
🔬 VLA 三大范式的系统性深度分析

图 2:VLA 分类法架构图。综述提出三层分类体系:第一层区分 VA 和 VLA;第二层在 VLA 内区分 End-to-End VLA(又分 Textual/Numerical)和 Dual-System VLA(又分 Explicit/Implicit);第三层标注各方法的动作空间类型和骨干网络。
范式一:VA 视觉-动作模型
综述将 VA 模型归纳为四条技术路线:
| 路线 | 代表 | 输入 | 输出 | 可微性 | 语言交互 |
|---|---|---|---|---|---|
| 模仿学习 | ALVINN, ChauffeurNet, TransFuser, UniAD, VAD | RGB / BEV | 轨迹 / 控制 | 部分可微 | ✗ |
| 强化学习 | DRL-based | 状态 / BEV | 控制 | RL 可微 | ✗ |
| 图像世界模型 | DriveDreamer, GAIA-1, Vista | RGB 序列 | 未来视频 | 部分可微 | 部分 |
| occupancy 世界模型 | NIFF | 传感器 | 未来 occupancy | ✓ | ✗ |
VA 的形式化统一为 $\textbf{a}t = H{\text{va}}(E(I_{1:t}))$,其中 $E$ 是感知编码器,$H_{\text{va}}$ 是动作头。缺少语言接口是 VA 的核心局限。
范式二:End-to-End VLA(端到端 VLA)
端到端 VLA 的形式化:$\textbf{a}t = H{\text{vla}}(F_{\text{llm}}(\textbf{x}t))$,其中 $F{\text{llm}}$ 是视觉语言模型骨干,$H_{\text{vla}}$ 是动作输出头。核心特征是在一个模型内完成感知、推理、规划全流程。
子类 A:Textual Action Generator(文本动作生成器)
用语言令牌序列表示动作,输出离散文本指令或离散轨迹点。代表方法:
| 方法 | VLM 骨干 | 动作空间 | 训练方式 | 关键创新 |
|---|---|---|---|---|
| DriveMLM | LLaMA + Q-Former | 离散控制(转向/油门/刹车) | 语言指令微调 | 首个将驾驶建模为语言对话任务的方法 |
| GPT-Driver | GPT-3.5/4 | 离散轨迹点 | prompt engineering | 用语言描述轨迹点坐标 |
| DriveGPT4 | 基于 LLava | 文本描述 + 控制 | 多模态指令微调 | 支持交互式问答 |
| RecogDrive | InternVL2 | 文本规划描述 | 思维链 + 指令微调 | 强调"认知"(识别→推理→决策)的可解释链 |
子类 B:Numerical Action Generator(数值动作生成器)
用回归头或生成头输出连续轨迹/底层控制。代表方法:
| 方法 | VLM 骨干 | 动作空间 | 训练方式 | 关键创新 |
|---|---|---|---|---|
| EMMA | Gemini | 轨迹点 | 多任务微调 | Gemini 在驾驶上的首次直接应用,共享视觉编码 |
| SimLingo | LingoWhale-8B | 轨迹 + 语言 | 多任务联合 | 同时学习规划和语言描述 |
| ORION | LLaVA | 轨迹 | 多阶段微调 | 用 VLM 做规划头 + ReLU 约束加速 |
| AutoVLA | InternVL2 | 轨迹 | 快慢思考 + GRPO | 首次将强化学习推理(GRPO)引入驾驶 VLA |
AutoVLA 是数值端到端 VLA 的代表作。其形式化可以写为:
$$\tau = \text{Decoder}(F_{\text{llm}}(\textbf{x}_{cam}, \textbf{x}_{text}, \textbf{x}_{state}))$$其中快思考通过 InternVL2 直接前向得到初步轨迹,慢思考则用 GRPO 强化学习在多条候选轨迹中优化。即:
$$\mathcal{J}_{\text{GRPO}} = \mathbb{E}_{t \sim \pi_{\text{old}}}\left[ \frac{\pi_{\theta}(a_t|s_t)}{\pi_{\text{old}}(a_t|s_t)} \hat{A}_t - \beta \text{KL}[\pi_{\theta} \| \pi_{\text{ref}}] \right]$$范式三:Dual-System VLA(双系统 VLA)
双系统 VLA 的形式化更复杂——VLM 输出中间表示 $\textbf{z}$,再由安全规划器 $H_{\text{safe}}$ 输出最终动作:
$$\textbf{a}_t = H_{\text{safe}}(F_{\text{llm}}(\textbf{x}_t), \textbf{x}_{ego})$$子类 A:Explicit Dual-System(显式双系统)
VLM 输出人类可读的文本决策或驾驶指令,规划器将其映射为具体轨迹。
| 方法 | VLM 骨干 | 输出中间表示 | 下层规划器 | 关键创新 |
|---|---|---|---|---|
| DriveVLM | InternVL2-76B | 思维链文本(场景描述→推理→决策) | 传统规划器 | 首个 Driving Dual-System VLA |
| InsightDrive | Qwen-VL | whys(原因)+ hows(意图) | MPC 求解 | 显式分离"为什么"和"怎么做" |
DriveVLM 的思维链推理流程:
$$\text{Scene Desc.} \rightarrow \text{Hazard Prediction} \rightarrow \text{Decision}(x, y, \theta) \rightarrow \text{高速规划器}$$其创新在于:VLM 不输出最终轨迹,只输出驾驶决策(车道意图 + 动作描述),轨迹由下层安全规划器生成。这种解耦保证了 VLM 输出即使有误,轨迹也遵守物理约束。
子类 B:Implicit Dual-System(隐式双系统)
VLM 输出隐式表征(latent token 或价值图),经规划模块解码为轨迹。
| 方法 | VLM 骨干 | 隐式表征形式 | 解码方式 | 关键创新 |
|---|---|---|---|---|
| VLP | CLIP + Transformer | 离散路径 token + 价值图 | 分步 token 解码 | 首个 tokenized 路径规划的 VLA |
| Diff-VLA | InternLM-XComposer | 扩散隐表征(语言引导噪声) | 扩散去噪 + 控制器 | 语言引导+扩散+VLA 三合一 |
| LMDrive | LLaMA | 语言 + 状态 token | 自回归解码 | 闭环交互式驾驶 |
范式间对比总结
| 维度 | VA | End-to-End VLA | Dual-System VLA |
|---|---|---|---|
| 推理能力 | 无 | 有(CoT/RL) | 有(VLM 层) |
| 语言交互 | ✗ | ✓ | ✓(有限) |
| 可解释性 | 低 | 中 | 高 |
| 安全性保证 | 无 | 无(纯数据驱动) | 有(下层规划器兜底) |
| 延迟 | 低 | 高(大模型推理) | 中 |
| 落地难度 | 中 | 高 | 中 |
📊 代表性方法全景对比表(15 方法)
| 方法 | 年份 | 范式 | 动作头类型 | VLM 骨干 | 动作空间 | 训练方式 | 开环 L2 (m) | 闭环 PDMS | 开源 |
|---|---|---|---|---|---|---|---|---|---|
| DriveMLM | 2024 | E2E-Textual | 语言头 | LLaMA | 离散控制 | SFT | — | — | ✓ |
| GPT-Driver | 2024 | E2E-Textual | 文本提示 | GPT-3.5 | 离散轨迹点 | Prompt | 0.41 | — | ✓ |
| DriveGPT4 | 2024 | E2E-Textual | 语言头 | LLaVA | 文本+控制 | SFT | — | — | ✓ |
| RecogDrive | 2025 | E2E-Textual | 语言头 | InternVL2 | 文本决策 | SFT+CoT | — | — | ✗ |
| EMMA | 2025 | E2E-Numerical | 回归头 | Gemini | 连续轨迹 | MFT | 0.81 | — | ✗ |
| AutoVLA | 2025 | E2E-Numerical | 回归头 | InternVL2 | 连续轨迹 | SFT+GRPO | — | 78+ | ✓ |
| ORION | 2025 | E2E-Numerical | 回归头 | LLaVA | 连续轨迹 | SFT+ReLU | 0.50 | — | ✓ |
| SimLingo | 2025 | E2E-Numerical | 回归+语言 | LingoWhale-8B | 轨迹+语言 | MFT | — | — | ✓ |
| CoVLA | 2025 | E2E-Numerical | 扩散生成 | VLM+Diff. | 连续轨迹 | 扩散训练 | 0.49 | — | ✗ |
| DriveVLM | 2024 | Dual-Explicit | CoT 文本 | InternVL2 | 文本→轨迹 | SFT | — | — | ✓ |
| InsightDrive | 2025 | Dual-Explicit | 推理文本 | Qwen-VL | 意图→MPC | SFT | 0.42 | — | ✗ |
| VLP | 2025 | Dual-Implicit | token 解码 | CLIP+Trans. | 路径 token | 对比学习 | 0.46 | — | ✓ |
| Diff-VLA | 2025 | Dual-Implicit | 扩散+控制器 | InternLM | 语言引导轨迹 | 扩散+SFT | 0.38 | 80+ | ✓ |
| LMDrive | 2024 | Dual-Implicit | 自回归 | LLaMA | 语言+控制 | SFT+RL | — | — | ✓ |
| WCog-VLA | 2026 | 新范式 | 多模态 | InternVL2 | 世界认知+轨迹 | 世界模型+SFT | 0.35 | — | ✗ |
从表中可以清晰看出几个趋势:2024 年是 VLA 元年,从文本方法起步;2025 年是 VLA 爆发年,数值动作和双系统方法百花齐放。InternVL2 是最受欢迎的 VLM 骨干。GRPO 强化学习(AutoVLA)和扩散模型(Diff-VLA)是最新趋势。
💾 数据集与基准深度总结
主流数据集
| 数据集 | 类型 | 规模 | 传感器 | 语言标注 | 特点 |
|---|---|---|---|---|---|
| nuScenes | 开环规划 | 1000 场景 × 20s | 6 相机 + LiDAR + Radar | BDD-X 子集 | 自动驾驶评测标配 |
| Waymo Open Motion | 开环规划 | 57.6 万场景 | 5 相机 + LiDAR | ✗ | 大规模、高多样性 |
| NuPlan | 闭环规划 | 1282 小时 | 8 相机 | ✗ | 最长时域、含闭环 |
| NAVSIM | 闭环规划 | nuScenes 子集 | 6 相机 + BEV | ✗ | 标准化闭环评测 |
| Bench2Drive | 闭环规划 | 2000 场景 | 6 相机 | ✓ | 语言指令闭环评测 |
| BDD-X | 语言描述 | 1000 视频 | 1 相机 | ✓ | 最早的语言驾驶描述 |
| DRAMA | 语言问答 | 27K 场景 | 1 相机 | ✓ | 高风险场景问答 |
| CLAD | 对话驾驶 | 多种来源 | 1 相机 | ✓(人机对话) | 基于语言的闭环控制 |
评测体系三层次
| 层次 | 评测方式 | 代表基准 | 评估目标 |
|---|---|---|---|
| L1:感知-映射能力 | 开环 L2 / 碰撞率 | nuScenes, WOD | 模仿专家轨迹精度 |
| L2:闭环交互能力 | 闭环 PDMS / 碰撞率 | NAVSIM, Bench2Drive | 完整驾驶安全性 |
| L3:语言理解能力 | 指令忠实度 / QA 准确率 | Bench2Drive-IT, CLAD | 语言指令遵从度 |
🎯 训练范式深度分析
Level 1:VLM 预训练(基础能力)
所有 VLA 方法的起点都是大规模的 VLM 预训练。InternVL2、Qwen-VL、Gemini 等骨干在其通用数据集(图文对、视频、文档)上预训练,获得视觉-语言对齐的基本能力。
Level 2:驾驶指令微调(SFT for Driving)
在预训练 VLM 的基础上,使用驾驶数据集进行指令微调(Supervised Fine-Tuning)。关键设计点包括:
- 多模态输入对齐:将相机图像、LiDAR BEV、车辆状态等信息通过 adapter/projector 对齐到 VLM 的输入空间
- 动作输出对齐:根据动作头类型,将轨迹点/控制命令编码为语言 token 或通过回归头直接输出
- 思维链构建:构造"场景描述→推理→决策→动作"的 CoT 标注
EMMA 的 MFT(Multi-Function Tuning)是这类范式的代表:在 Gemini 的基础上,构造 5 个驾驶子任务的统一指令格式,多任务联合微调。
Level 3:强化学习对齐(RL for VLA)
AutoVLA 率先将 GRPO(Group Relative Policy Optimization) 引入 VLA:
$$\mathcal{J}_{\text{GRPO}} = \mathbb{E}_{(s, a) \sim \mathcal{D}} \left[ \min\left( \frac{\pi_{\theta}(a|s)}{\pi_{\text{old}}(a|s)} \hat{A}, \text{clip}\left(\frac{\pi_{\theta}(a|s)}{\pi_{\text{old}}(a|s)}, 1-\epsilon, 1+\epsilon\right) \hat{A} \right) - \beta \cdot \text{KL}(\pi_{\theta} \| \pi_{\text{ref}}) \right]$$GRPO 的核心价值在于:它让 VLA 能从闭环反馈中自我优化,而不只是模仿专家轨迹。
Level 4:世界模型联合训练(前沿方向)
WCog-VLA 代表了 VLA 与世界模型的融合方向:同时训练 VLM 做规划 + 世界模型做未来预测,两者共享视觉骨干:
$$\mathcal{L} = \mathcal{L}_{\text{plan}}(\tau, \tau_{gt}) + \lambda \cdot \mathcal{L}_{\text{wm}}(\hat{z}_{t+1}, z_{t+1})$$这个方向的潜力在于:世界模型让 VLA 拥有"想象"能力,在遇到长尾场景时可以用内部想象推演后果。
🔮 未来方向详细讨论
方向一:下一代统一范式——世界模型 + VLA
这是综述认为最有冲击力的方向。当前 VLA 的感知依赖实时传感器,没有"想象"能力。如果能将世界模型的前向预测能力与 VLM 的推理能力统一:
$$P(\tau | \textbf{x}) = \int P_{\text{wm}}(\textbf{z}_{t+1:T} | \textbf{x}, \tau) \cdot P_{\text{vla}}(\tau | \textbf{x}, \textbf{z}_{t+1:T}) \, d\textbf{z}$$就得到一个既懂推理、又能想象的驾驶智能体。WCog-VLA(2026)已在这一方向迈出第一步。
方向二:多模态输入的深度融合
当前 VLA 主要依赖相机和语言,对 LiDAR、毫米波雷达的融合远不如 UniAD/VAD 等纯视觉方法成熟。关键难点:将 3D 稀疏几何信息无损地注入 VLM 的 2D token 序列。
方向三:自适应进化与在线学习
VLA 通过 MLM 接口可以与人类在线交互(如乘客说"这里小心,常有电动车窜出"),这种交互式学习是传统端到端无法做到的。综述特别强调个性化驾驶风格的学习。
方向四:指令忠实度与安全对齐
综述提出的"指令忠实度(Instruction Fidelity)“概念值得关注:即使 VLM 正确理解了指令,也不意味着它会按指令执行。如何确保 VLA 的行为既安全、又忠实地服从人类指令,是核心挑战。
方向五:实时性与端侧部署
当前 VLA 的骨干 VLM 参数量 7B-76B,推理延迟 200ms+。可能路径包括模型压缩量化、Token 减少、投机解码。
方向六:标准化评测体系
综述呼吁建立统一评测标准,包括统一开环闭环协议、标准化语言指令评测、安全与指令忠实度的联合指标。
方向七:安全部署生态
从 Demo 到量产需要跨越的关键问题:OOD 检测、可审计推理链、冗余备份。
🌟 最终总结:VLA 的坐标系
这篇综述最重要的价值,是给 VLA 画了一张清晰的坐标系——横轴是"语言介入程度”(从无语言到全语言),纵轴是"系统耦合度"(从紧耦合到解耦)。在这张坐标系上:
| 位置 | 方法 | 特点 |
|---|---|---|
| 左下(无语言 + 紧耦合) | UniAD, VAD | 传统 VA,性能强但黑盒 |
| 右下(有语言 + 紧耦合) | EMMA, AutoVLA | 端到端 VLA,简洁但安全无保证 |
| 右上(有语言 + 解耦) | DriveVLM, InsightDrive | 双系统 VLA,安全可控但系统复杂 |
| 左上(无语言 + 解耦) | 传统模块化 | 已被淘汰 |
综述的结尾意味深长:“VLA for AD is not just about adding language to driving——it’s about building a new paradigm where cars can reason, communicate, and understand。“我的理解是:VLA 不是在驾驶管线上修修补补,而是重新定义了"什么是一个合格的自动驾驶系统”——能推理、能对话、能解释、能理解人类的意图,这些能力在 L4 时代不是锦上添花,而是安全可信的必要条件。
🧩 个人补充:综述没有细说的三件事
作为一篇 47 页的综述,覆盖面已经惊人。但有三件事值得额外讨论:
1. 数据与评估的巴别塔
nuScenes 开环 L2 0.35-0.50m 之间、NAVSIM PDMS 75-89 之间——这些分数之间几乎无法互相折算。更麻烦的是,大多数方法的"开源"并不意味着可复现——骨干 VLM 的版本、数据预处理 pipeline 的微小差异都会剧烈影响结果。社区急需一个类似 ImageNet 的"VLA 标准评测协议”。
2. 语言是接口,不是银弹
需要警惕"语言的幻觉":推理链的正确性并不保证输出的安全性。VLM 可能推理正确但输出错误轨迹。语言更多的是提供 debugging 入口和交互接口,而不是安全背书。双系统 VLA 之所以更落地,不是因为语言用得少,而是因为语言后面还有一层安全规划器。
3. VLA 的"成本泡沫"
当前 SOTA VLA 的训练成本(InternVL2-76B SFT + GRPO)保守估计在 $50K-$100K 范围。推理需要至少 2×A100 才能跑在 <100ms。对于量产车,这个成本结构尚不具备竞争力。但历史反复告诉我们:当一项技术的性能开始远超替代品时,成本曲线总会陡降——VLA 的量产化可能不需要五年。