1. 这不是“翻车”,是VLA模型第一次被真正照进现实的X光片
“VLA集体翻车”——这个标题在技术圈刷屏时,我正调试一个在仿真环境中成功率98.7%、一上真机就频繁抓空的机械臂策略。当时看到邱锡鹏教授团队发布的LIBERO-Plus报告,第一反应不是惊讶,而是松了口气:终于有人把我们每天在实验室里反复确认却不敢公开说破的事,用一套可复现、可量化、可归因的实验体系,端到了台面上。
这不是一次简单的benchmark升级,而是一次对当前VLA(视觉-语言-动作)建模范式的系统性“CT扫描”。过去两年,从OpenVLA到RT-2,从VoxPoser到FusionPolicy,几乎所有主流VLA模型都在LIBERO原始基准上跑出了90%+的“完美”成绩。但这些数字背后藏着一个心照不宣的默契:所有测试都在固定相机位、标准光照、预设初始姿态、干净背景、无干扰物、指令格式高度统一的理想沙盒中完成。就像让一个赛车手只在平整赛道、恒温车间、无风环境下练习漂移——他当然能做出教科书级动作,可一旦驶入真实山路、遭遇侧风、轮胎磨损,那套“完美动作”是否还成立?
LIBERO-Plus干了一件极其朴素却至关重要的事:它没去设计更难的任务,而是把现实世界里最基础、最无法回避的扰动,一条条拆解出来,变成可注入的变量。相机视角偏移5度?加。机器人关节初始角度误差±2°?加。目标物体位置微调3cm?加。指令里把“红色杯子”换成“蓝色杯子”?加。甚至把整个场景灯光调暗30%,或者在背景里贴一张无关的海报——全加。它不挑战模型的上限能力,而是检验模型的下限容错。结果很清晰:当扰动从“理想”滑向“现实”的那一小段距离,多数VLA模型的性能断崖式下跌。这不是模型“不行”,而是我们过去评估它的尺子,根本没刻上“现实”这一档。
关键词“VLA”“LIBERO-Plus”“视觉-语言-动作”在这里不是标签,而是三个相互咬合又彼此撕扯的齿轮。VLA本意是让模型像人一样,看(视觉)、听/读(语言)、做(动作)三者协同决策;LIBERO-Plus则像一把精密的卡尺,量出这三个齿轮在真实啮合时,到底有多少齿是虚咬、多少力是空转。它揭示的核心真相是:当前绝大多数VLA模型,并非真正实现了多模态融合,而是在特定数据分布下,训练出了一套高度依赖视觉线索的“条件反射”系统。语言信号很多时候只是个启动开关,而非决策依据;动作规划更多是回放记忆中的轨迹模板,而非实时理解任务意图并生成新策略。这解释了为什么“引望VLA”项目在工厂产线部署时,换一批同型号但摆放略有差异的工件,成功率就掉到60%;也解释了为什么“VLA模型在具身领域的应用”论文里漂亮的视频演示,往往需要精心布置的拍摄环境和脚本化指令。
如果你正在做机器人控制、多模态大模型落地,或是高校里带学生做VLA相关课题,这篇工作不是让你放弃VLA方向,而是给你一张真实的“能力地图”——上面清晰标出了哪些区域是坚实陆地,哪些是薄冰覆盖的湖面,哪些是尚未勘探的深谷。它不提供万能解药,但帮你避开最致命的幻觉:把沙上之塔的稳固,误认为是地基的牢靠。
2. 七维扰动不是炫技,是把实验室里的“隐形假设”全部显形
LIBERO-Plus最硬核的价值,在于它将VLA模型在真实世界部署时必然遭遇的“不可控变量”,提炼为七个可编程、可测量、可复现的扰动维度。这不是拍脑袋列出来的清单,而是团队在复现数十个SOTA模型、分析其失败案例后,逆向工程出的真实瓶颈。每一维都直指一个被长期忽略的“隐形假设”,而这些假设,恰恰是当前VLA训练范式默认成立、却从未被严格验证的基石。
2.1 相机视角与机器人初始姿态:空间几何理解的试金石
这是所有扰动中杀伤力最强的两维。实验数据显示,仅将第三人称相机视角水平旋转3°,或让机械臂末端执行器初始位姿在Z轴方向偏移1.5cm,主流VLA模型的平均成功率就暴跌35%以上。为什么?因为这直接挑战了模型对“自我-物体-环境”三维空间关系的建模能力。
传统VLA训练数据,几乎全部来自固定机位的仿真或录制视频。模型学到的,不是“杯子在桌子右侧30cm处”这一绝对空间关系,而是“在当前这个特定视角下,杯子像素出现在画面右半区某个固定坐标范围”。一旦视角变化,杯子的像素位置、形状、遮挡关系全变,模型赖以定位的视觉锚点瞬间失效。同样,初始姿态的微小偏差,意味着同样的关节指令会产生不同的末端位移,而模型若未内化运动学模型或缺乏在线反馈校正,就会沿着错误的轨迹一路执行下去。
提示:很多团队在调试时会下意识“调视角”来凑成功率,比如把相机架得更高、更正,让目标物始终居中。LIBERO-Plus的数据告诉你,这种做法只是在掩盖问题,而非解决问题。真正的鲁棒性,应体现在模型能主动补偿视角偏差,例如通过腕部摄像头的近距离信息,反推全局空间关系。
2.2 物体摆放与目标替换:语义泛化能力的终极拷问
“把红色杯子放到蓝色盘子里”——这条指令的成功,不应依赖于“红色杯子”在训练数据中恰好出现过1000次。LIBERO-Plus设计了两类关键测试:一是“添加干扰物体”(confounding),在场景中放入多个外观相似的物体(如红杯、蓝杯、红碗);二是“目标替换”(Displacement),直接将指令中的“红色杯子”替换成“蓝色杯子”,但场景中只放蓝色杯子。
结果令人警醒:当指令明确要求操作蓝色杯子,而场景中只有蓝色杯子时,部分模型成功率仍低于50%。它们的行为模式暴露无遗——不是在解析语言,而是在匹配视觉模板。模型内部可能有一个“红色杯子→抓取动作A”的强关联,但没有建立“[颜色]杯子→抓取动作A”的泛化规则。这解释了为什么“VLA模型端到端模型世界模型”这类宏大叙事,在具体任务切换时常常失灵:端到端不等于端到端的理解,它可能只是端到端的记忆回放。
2.3 语言指令扰动:表面鲁棒下的深层失语症
这是最反直觉的一维。数据显示,对指令进行同义替换(“请拿起杯子”→“把杯子拿起来”)、添加无关修饰词(“那个放在左边的红色杯子”→“那个放在左边、看起来有点旧的红色杯子”),甚至完全删除指令(输入空字符串),模型性能下降幅度竟然是所有扰动中最小的(平均仅-25.3%)。这绝非好事,而是“失语症”的典型症状。
团队做了两个决定性实验:一是“空白指令测试”,发现部分模型在无任何语言输入时,成功率与有指令时几乎持平;二是“目标替换测试”,将指令中的目标对象名替换,模型却依然执着地执行原任务轨迹。结论冰冷而明确:这些模型在决策链路中,语言模态的权重极低,甚至被完全旁路。它们本质上是VA(视觉-动作)模型,语言模块只是一个装饰性的“门面”。这直接戳破了“VLA=真正多模态智能”的泡沫。一个连基本指令跟随都做不到的系统,谈何“世界模型”?谈何“具身智能”?
2.4 光照、背景与传感器噪声:表层鲁棒性的陷阱
有趣的是,模型对光照变化、背景贴图更换、甚至加入高斯噪声,表现出异常的“鲁棒”。但这并非能力强大,而是暴露了其感知的浅层性。深入分析发现,模型的鲁棒性主要来源于腕部摄像头(first-person view)的稳定性。腕部视角紧贴操作区域,受全局光照和背景影响极小,它提供的始终是高对比度、高分辨率、几何结构清晰的近距离图像。而第三人称视角(third-person view)虽能提供全局信息,但在扰动下极易失效,模型却并未学会利用它来弥补腕部视角的不足。
注意:这种“伪鲁棒”极具欺骗性。在实验室恒光环境下,模型表现稳定;但一旦部署到自然光变化的仓库,或夜间低照度车间,仅靠腕部视角的局限性就会暴露——它看不到远处障碍物,无法预判长距离移动路径。LIBERO-Plus的“光照扰动”测试,正是为了逼出这种隐藏缺陷。
3. 组合泛化差距:现实世界从不只给你一道单选题
单维度扰动的测试,已经足够揭示VLA模型的脆弱性。但现实世界的残酷在于,它从不按套路出牌。你不会只遇到视角偏移,也不会只碰到目标物位置微调,更不会只面临光照变化——它们总是结伴而来。一个清晨的仓库,光线斜射造成桌面反光(光照扰动),叉车经过带来轻微震动导致机械臂初始姿态偏移(初始姿态扰动),同时你要操作的托盘因堆叠不齐而位置略高于标准(物体摆放扰动)。LIBERO-Plus将这种多因素并发的挑战,定义为“组合泛化差距”(Compositional Generalization Gap),并给出了一个精妙的量化公式。
这个差距的本质,是模型学到的表征存在严重“纠缠”(entanglement)。理想情况下,模型应学习到解耦的特征:一个代表“杯子”的语义概念,一个代表“抓取”的动作原语,一个代表“空间位置”的几何坐标。当多个扰动同时发生时,这些解耦特征应能独立响应、自由组合。但现实是,模型学到的往往是“在标准视角+标准光照+标准位置下,看到红色杯子→执行抓取A”的整体绑定模式。一旦其中任一条件改变,整个模式就崩塌;当多个条件同时改变,崩溃程度远超单个扰动的简单叠加,即出现了显著的负向交互效应。
LIBERO-Plus的热力图实验直观展示了这一点。例如,“相机视角偏移”与“机器人初始姿态偏移”这两个扰动,单独施加时,模型成功率分别下降30%和25%;但两者同时施加时,成功率并非下降55%,而是暴跌至不足10%。这意味着,模型不仅无法处理组合扰动,其内部表征的耦合程度,使得不同扰动之间产生了灾难性的放大效应。这解释了为什么很多在单扰动测试中表现尚可的模型,一到真实复杂场景就彻底失效——因为真实场景就是无数个微小扰动的混沌叠加。
这种组合泛化差距,是当前VLA架构的根本性瓶颈。Transformer-based的端到端模型,其强大的序列建模能力,在处理静态图像时游刃有余,但在处理需要持续在线感知、动态规划、多源信息融合的具身任务时,其注意力机制容易陷入局部最优,难以构建起跨时间步、跨模态、跨扰动的稳定表征。这也是为什么“复旦微ZYNQ”等边缘计算平台在部署VLA模型时,常遇到推理延迟突增、内存占用飙升的问题——模型在组合扰动下,不得不进行大量冗余计算来试图“猜”出正确策略,而非基于清晰表征进行高效推理。
4. LIBERO-Plus不只是评测工具,更是通往可靠VLA的施工蓝图
将LIBERO-Plus仅仅视为一个更难的benchmark,是对这项工作的最大误读。它本质上是一份详尽的“VLA模型可靠性施工指南”,其价值远超打分排名,而在于为后续研究与工程实践提供了清晰、可操作的改进路径。团队不仅指出了问题,更用开源的代码、数据、模型权重,搭建了一条从诊断到治疗的完整闭环。
4.1 数据层面:从“理想数据集”到“扰动增强数据集”
LIBERO-Plus最直接的产出,是一个包含10,030个扰动任务的大规模数据集。但它不是简单地“加噪”,而是遵循一套严谨的自动化生成流程:基于物理引擎的精确扰动注入、多视角一致性校验、任务可行性验证。这意味着,任何研究者都可以用这套数据,对自家模型进行“压力测试”,精准定位其脆弱点。
更重要的是,团队展示了如何利用这些数据进行有效训练。他们基于OpenVLA-OFT模型,在原始LIBERO数据与LIBERO-Plus扰动数据上进行混合微调。结果令人振奋:在LIBERO-Plus基准上,微调后模型平均成功率提升至79.6%,尤其在最棘手的“相机视角扰动”上,性能飙升37.2%。这证明,扰动数据不是毒药,而是疫苗。它不降低模型在理想条件下的性能,反而通过暴露弱点,强制模型学习更具不变性的特征表示。对于工业界用户,“VLA项目”的落地,完全可以将LIBERO-Plus数据作为必经的“出厂质检”环节,确保模型在交付前,已通过真实环境的“压力认证”。
4.2 模型架构层面:腕部视角是锚点,多视角融合是出路
实验数据清晰指向一个架构设计原则:腕部摄像头(first-person view)是VLA模型的“定海神针”。它在所有扰动下都展现出最强的稳定性,是模型最可靠的感知来源。然而,过度依赖单一视角,会牺牲全局观察能力。LIBERO-Plus的启示是,未来的VLA架构,必须将腕部视角作为核心锚点,但必须设计更智能的多视角融合机制。
例如,可以借鉴SLAM(即时定位与地图构建)的思想,让模型学习一个轻量级的“空间记忆”模块。该模块不存储高清地图,而是维护一个稀疏的、以腕部视角为中心的、带有置信度的空间关系图谱(如:“目标物在前方1m,左侧30cm;障碍物在右后方0.5m”)。当第三人称视角因扰动变得模糊时,模型能回溯并更新这个图谱,而非完全抛弃。这比简单地拼接两个视角的特征图,更能解决“组合泛化差距”。对于硬件选型,“25年复旦强基计算机专业试题”中涉及的嵌入式系统设计思想,恰恰与此呼应:在资源受限的边缘设备(如ZYNQ)上,如何用最小的计算开销,实现最关键的感知鲁棒性,是VLA落地的核心命题。
4.3 评估范式层面:从“刷榜”到“画能力雷达图”
LIBERO-Plus的双榜单系统(鲁棒性排行榜 + 原始LIBERO性能榜)是一个革命性的评估范式转变。它终结了“唯分数论”的单一维度评价。一个模型,可以在原始榜上排名第一(98%),却在鲁棒性榜上垫底(30%);另一个模型,原始榜中游(85%),但鲁棒性榜领先(75%)。后者,才是工业界真正需要的“可靠伙伴”。
这要求研究者和工程师,必须养成“画能力雷达图”的习惯。针对你的具体应用场景,圈定最关键的3-5个扰动维度(例如,对于仓储机器人,相机视角、初始姿态、光照是Top3),然后在这几个维度上分别测试模型性能。一张雷达图,比一个总分,更能告诉你这个模型是否真的适合你的产线。它迫使大家从“这个模型有多强”,转向“这个模型在哪种条件下可靠”。
5. 从“看起来聪明”到“真正可靠”:一位一线从业者的实操心得
作为一个在机器人公司负责VLA模型落地的工程师,我参与过三个不同VLA项目的部署,踩过的坑,几乎都能在LIBERO-Plus的报告里找到对应案例。这里分享几点血泪换来的、文档里不会写的实操心得,希望能帮后来者少走弯路。
第一,永远先做“空白指令测试”,再谈多模态。这是我现在给所有新同事的第一条铁律。在接入任何新模型前,先用空字符串指令跑一遍所有任务。如果成功率掉得不多,恭喜你,你拿到的很可能是一个“披着VLA外衣的VA模型”。这时,与其花大力气优化语言编码器,不如立刻转向强化学习微调,或者引入更鲁棒的视觉特征提取器(如DINOv2)。把基础感知打牢,比堆砌多模态模块更有效。
第二,腕部视角的标定,比模型训练本身更重要。我们曾在一个项目中,将模型在仿真中调到95%成功率,上真机后跌到40%。排查三天,最终发现是腕部摄像头的安装螺丝松动了0.5mm,导致其相对于机械臂末端的坐标系发生了微小偏移。LIBERO-Plus的“初始姿态扰动”数据,让我立刻意识到问题所在。现在,我们的标准流程是:每次部署前,用高精度标定板,对腕部视角进行亚毫米级标定,并将标定参数作为模型输入的一部分。这看似是工程细节,实则是VLA可靠性的物理基石。
第三,不要迷信“端到端”,要敢于“分而治之”。“VLA模型 端到端模型 世界模型”是当前最响亮的口号,但LIBERO-Plus揭示的脆弱性,恰恰源于端到端带来的黑箱化。我们在最新项目中,采用了“感知-规划-执行”三层解耦架构:底层用一个轻量级、专为腕部视角优化的YOLOv8变体做实时目标检测与位姿估计(这部分对扰动鲁棒性极高);中层用一个小型LLM,根据检测结果和语言指令,生成高层任务计划(如“先移动到A点,再抓取B”);上层用经典运动规划算法执行。结果是,整体成功率稳定在88%,且在各种扰动下波动极小。虽然失去了“端到端”的酷炫,但换来了可预测、可调试、可验证的可靠性。
最后想说的是,邱锡鹏教授团队的工作,其深远意义不在于否定了VLA方向,而在于为这个充满希望的领域,立下了一块坚实的界碑。它告诉我们,通向“真正可靠”的道路,不在更高的分数里,而在更深的洞察中;不在更炫的模型里,而在更实的测试中。当你下次看到一个VLA模型在视频里行云流水地完成任务时,不妨问问自己:它在LIBERO-Plus的七维考验下,能走多远?这个问题的答案,或许就是VLA从实验室走向千行百业的最后一道门槛。