简介
传统的视觉材料感知方法在视觉受损条件下常出现显著性能下降，这促使研究转向非视觉多模态材料感知。然而，现有方法通常采用简单的模态融合策略，忽视了三个关键挑战：模态特异性噪声、频繁的模态缺失问题，以及不同任务中模态重要性的动态变化。这些局限导致其在多个基准任务中表现欠佳。本文提出鲁棒多模态融合框架TouchFormer，通过模态自适应门控机制（MAG）与模态内外注意力机制实现跨模态特征的自适应集成，增强模型鲁棒性。进一步提出跨实例嵌入正则化策略（CER），以提升细粒度子类别材料识别任务的性能。实验结果表明：相较于现有非视觉方法，TouchFormer在SSMC和USMC任务上分别实现2.48%和6.83%的分类准确率提升。真实环境机器人实验验证了该框架能有效增强机器人对环境感知与解析的能力，为应急响应、工业自动化等安全关键场景的部署奠定基础。
研究背景与动机
材质感知是机器人与物体交互时的关键能力。传统的材质感知主要依赖视觉，但在火灾现场、浓雾、黑暗工厂等极端环境下，视觉方法往往会失效。因此，转向非视觉的多模态感知（如触觉+听觉）变得尤为重要。
然而，现有的非视觉多模态融合方法面临三大痛点：
1.数据非理想性：现实环境中的传感器数据常伴随背景噪声或传感器故障，导致数据被污染或缺失。
- 时间未对齐：不同模态（声音、力觉、加速度）的传感器采样率不同，导致天然的时间错位，难以对齐。
- 融合策略简单：现有方法通常简单地平均分配权重，忽略了不同模态在不同任务中的重要性差异。
为了解决这些问题，作者提出了TouchFormer框架，旨在实现鲁棒的多模态特征融合。
TouchFormer框架
TouchFormer是一个基于 Transformer 的多模态融合框架，它接收可能含有噪声或不完整的多模态序列作为输入（包括声音、法向力、摩擦力、加速度）。 该框架主要由三个核心模块组成：
1.模态自适应门控模块 (MAG)：从源头过滤噪声，动态加权。
2.模态内与模态间 Transformer 融合模块：解决时间未对齐问题，深度融合特征。
3.跨实例嵌入正则化(CER)：优化特征空间，提升细粒度分类能力。
图2：本文提出框架的整体结构。TouchFormer接收带有噪声或不完整的多模态序列作为输入，采用模态自适应门控机制（MAG）动态评估各模态数据质量，随后通过模态内与模态间注意力机制在潜在空间中自适应融合跨模态特征，无需显式对齐。最后，通过跨实例嵌入正则化（CER）增强表征空间的清晰度与区分度，从而提升表面材料分类的鲁棒性。
模态自适应门控模块 (MAG)
多模态数据本质上是有噪声的并且通常不完整，导致不同模态提供的信息质量存在显着差异。然而，传统方法通常平等对待所有模态，这会导致噪声模态污染整体特征 。MAG 模块通过计算每个模态的“门控权重”来解决这个问题，动态评估每个模态的质量，过滤掉“坏数据”。
对于每个模态输入 ，首先计算中间特征表示 ：
接着生成门控权重 ：
引入阈值 。如果某模态的权重 ，则视为噪声或无效信息被直接丢弃。最后通过 Softmax 归一化得到最终的重要性权重 ：
最终加权后的特征 为：
模态间与模态内 Transformer 融合
由于传感器采样率不同，手动对齐既耗时又容易出错。作者采用了双重注意力机制，在不进行显式时间对齐的情况下，融合多模态特征。
**Step 1: 模态间注意力 (Inter-modal Attention)**利用交叉注意力（Cross-Modal Attention），将源模态 的信息注入到目标模态 中 。
在此处，再次利用 MAG 计算出的权重 对注意力输出进行调制，以进一步抑制不可靠模态的影响：
**Step 2: 模态内注意力 (Intra-modal Attention)**将跨模态特征与原始特征融合后，进行自注意力计算，捕捉模态内部的时间动态：
最后，将所有处理后的模态特征拼接得到最终融合向量 。
跨实例嵌入正则化 (CER)
即使融合了多模态信息，模型仍可能出现分类模糊。CER 基于对比学习原理，利用全局监督信号约束嵌入空间，解决类间混淆和类内分散问题，提升细粒度分类效果。
损失函数： 构建跨实例对比损失 ，拉近同类样本的嵌入，推远不同类样本：
其中 是相似度矩阵， 是指示函数（仅正样本对为1）]。
总损失： 模型通过联合最小化分类损失 和 CER 损失 进行单阶段训练：
实验结果分析
数据集
- LMTHM：公开触觉数据集，包含193种材质 ]。
- FISHM (自建)：模拟火灾场景的数据集，包含7类日常物体，采集了声音、法向力、摩擦力和加速度。
性能对比 (SOTA)
在 LMTHM 数据集上，TouchFormer 表现优异：
- SSMC (已知材质分类)：准确率 95.19%，相比最佳基线提升 2.48%。
- USMC (未知材质分类)：准确率 94.38%，相比最佳基线提升6.83%。
- 值得注意的是，即便不使用视觉信息，TouchFormer 的表现也接近使用了视觉、触觉等8种模态的 MMUSR 方法 (97.2%)。
鲁棒性分析
当人为移除某一模态（如去掉声音或法向力）时，TouchFormer 的性能依然高于其他使用全模态的方法。在高斯噪声干扰实验中，TouchFormer 展现出了最佳的抗噪鲁棒性。
机器人真机实验
在模拟的“火灾场景”中（视觉被遮挡），机器人利用 TouchFormer 成功完成了对易燃物和不易燃物的分类与分拣。
如何学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
