JEPA 详解:LeCun 的联合嵌入预测架构与自动驾驶应用
JEPA 是 Yann LeCun 提出的自监督表征学习框架,核心思想是在嵌入空间做预测而非重建像素,避免了对决策无关细节的浪费。它采用双编码器加预测器的架构,配合 EMA 目标编码器与 stop-gradient 机制实现稳定训练。在自动驾驶世界模型中已成为生成式方法的重要替代方案。
JEPA 是 Yann LeCun 提出的自监督表征学习框架,核心思想是在嵌入空间做预测而非重建像素,避免了对决策无关细节的浪费。它采用双编码器加预测器的架构,配合 EMA 目标编码器与 stop-gradient 机制实现稳定训练。在自动驾驶世界模型中已成为生成式方法的重要替代方案。