一、本文介绍
本文给大家介绍EfficientViM新型轻量级视觉Mamba改进 RT-DETR 模型!“不需要安装mamba环境也可以运行!”。EfficientViM 模块通过减少计算复杂度、优化内存使用、提升目标检测精度和加速推理,显著改进了 RT-DETR 在目标检测中的表现。适应各种目标检测场景,特别是在实时检测任务中。具体怎么使用请看全文!
🔥欢迎订阅我的专栏、带你学习使用最新-最前沿-独家RT-DETR创新改进!🔥
🔥RT-DETR创新改进目录:全新RT-DETR 有效涨点改进目录 | 包含各种卷积、主干改进、各种注意力机制、Neck特征融合改进、损失函数、AIFI创新改进、独家创新、小目标检测、特殊场景检测等最全大论文及小论文必备创新改进点
🔥全新RT-DETR创新改进专栏地址:最全RT-DETR创新改进高效涨点+永久更新中(至少500+改进)+高效跑实验发论文
本文目录
一、本文介绍
二、EfficientViM 模块介绍
2.1 网络结构图
2.2 EfficientViM模块的作用
2.3 EfficientViM 模块的原理
2.4 EfficientViM模块的优势
三、完整核心代码
四、手把手教你配置模块和修改tasks.py文件
1.首先在ultralytics/nn/newsAddmodules创建一个.py文件
2.在ultralytics/nn/newsAddmodules/__init__.py中引用
3.修改tasks.py文件
五、创建涨点yaml配置文件
🚀 创新改进1🔥: rtdetr-l-EfficientViM.yaml
🚀 创新改进2🔥: rtdetr-l-HGBlock_EfficientViM.yaml
🚀 创新改进3🔥: rtdetr-l-ResNetLayer_EfficientViM.yaml
🚀 创新改进4🔥: rtdetr-r18-BasicBlock_EfficientViM.yaml
🚀 创新改进5🔥: rtdetr-r50-BottleNeck_EfficientViM.yaml
六、正常运行
二、EfficientViM 模块介绍
摘要:为了在资源受限的环境中部署神经网络,先前的工作构建了轻量级架构,利用卷积和注意力机制分别捕获局部和全局依赖关系。最近,状态空间模型 (state space model, SSM) 已经成为一种有效的全局交互操作,其优势在于在 tokens 数量上具有良好的线性计算成本。为了利用 SSM 的有效性,我们引入了 Efficient Vision Mamba (EfficientViM),这是一种基于 hidden state mixer-based state space duality (HSM-SSD) 的新型架构,它能有效地捕获全局依赖关系,并进一步降低计算成本。通过观察到 SSD 层的运行时间受输入序列上的线性投影驱动,我们重新设计了原始的 SSD 层,以在 HSM-SSD 层中的压缩隐藏状态内执行通道混合 (channel mixing) 操作。此外,我们提出了多阶段隐藏状态融合 (multi-stage hidden state fusion) ,以增强隐藏状态的表示能力,并提供设计来缓解由内存限制操作引起的瓶颈。因此,EfficientViM 系列在 ImageNet-1k 上实现了新的最先进的速度-精度权