news 2026/11/6 7:43:17

教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

在视觉场景中识别并分割任意物体的能力,是多模态人工智能的重要基础,可广泛应用于机器人、内容创作、增强现实、数据标注等领域。SAM(Segment Anything Model)是 Meta 于 2023 年 4 月发布的人工智能通用模型,提出了针对图像和视频的可提示分割任务,主要支持基于点、框或掩码的提示来分割单个目标。

已推出的 SAM、SAM 2 模型在图像分割领域取得了显著进展,但仍未实现在输入内容中自动寻找并分割某一概念的所有实例。为填补这一空白,Meta 推出最新迭代版本 SAM 3,新版本不仅显著超越了前代模型的可提示视觉分割(PVS)性能,更率先为可提示概念分割(PCS)任务确立了新标准。

SAM 3 在点击提示的视觉分割方面(左图)超越了 SAM 2 并引入了新的可提示概念分割功能(右图)

SAM 3 架构包含一个检测器(detector)与一个跟踪器(tracker),二者共享同一视觉编码器。检测器基于 DETR 框架构建,能够接收文本、几何信息或示例图像作为条件输入。为应对开放词汇概念检测的挑战,研究人员引入了一个独立的「存在头(presence head)」,以此解耦识别与定位过程。

跟踪器则沿用了 SAM 2 的 Transformer 编码器-解码器架构,支持视频分割与交互式优化。这种检测与跟踪分离的设计,有效避免了两项任务之间的冲突:检测器需要保持身份无关性,而跟踪器的核心目标正是在视频中区分并维持不同对象的身份。

SAM 3 架构图

SAM 3 在基准测试 SA-Co 的图像和视频 PCS 任务上取得了 SOTA 结果,性能是前代系统的 2 倍,且在 H200 GPU 上,新版本处理包含超 100 个检测对象的单张图像仅需 30 毫秒。模型还能扩展到 3D 重建领域,助力家装预览、创意视频编辑和科学研究等多场景应用,为计算机视觉的未来发展提供强大动力。

「SAM3:视觉分割模型」已上线至 OpenBayes 公共教程板块,快来开启你的创作之旅吧!

教程链接:

https://go.openbayes.com/pnzQk

查看论文:

https://arxiv.org/abs/2511.16719

Demo 运行

01 Demo 运行阶段

1.登录 http://OpenBayes.com,在「公共教程」页面,选择「SAM3:视觉分割模型」教程。

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

3.选择「NVIDIA GeForce RTX 5090」以及「PyTorch」镜像,按照需求选择「按量付费」或「包日/周/月」,点击「继续执行」。新用户使用下方邀请链接注册,可获得 4 小时 RTX 5090 + 5 小时 CPU 的免费时长!

小贝总专属邀请链接(直接复制到浏览器打开):

https://go.openbayes.com/9S6Dr

4.等待分配资源,首次克隆需等待 3 分钟左右的时间。当状态变为「运行中」后,点击「API 地址」旁边的跳转箭头,即可跳转至 Demo 页面。请注意,用户需在实名认证后才能使用 API 地址访问功能。

02 效果演示

Demo 运行页面提供 Image Segmentation、Video Text Prompting、Video Point/Box Prompting 三个功能,仅支持英文输入。本教程以 Video Text Prompting 为例。

将测试视频上传后,在「Text Prompt(s)」处输入需要识别分割的名词短语,依次点击「Apply Text Prompt(s)」「Propagate across video」以应用提示词,最后点击「Render MP4 for smooth playback」即可生成带有高亮识别目标的视频结果。

一起来看看小贝使用近期热映的《疯狂动物城2 》的预告片段进行的测试👇

教程链接:

https://go.openbayes.com/pnzQk

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/11/5 21:25:11

为什么你的图片选择器总是出问题?这5个预防技巧让Bug无处可逃

为什么你的图片选择器总是出问题?这5个预防技巧让Bug无处可逃 【免费下载链接】PictureSelector Picture Selector Library for Android or 图片选择器 项目地址: https://gitcode.com/gh_mirrors/pict/PictureSelector 你是否曾经遇到过这样的场景&#xff…

作者头像 李华
网站建设 2026/11/5 14:08:23

专业做PC耐力板的源头厂家哪个好

专业做PC耐力板的源头厂家哪个好?第一部分:痛点深度剖析我们团队在实践中发现,当前PC耐力板行业存在诸多技术困境。许多PC耐力板在使用一段时间后,会出现发黄、老化的现象,影响其美观和使用寿命。而且,一些…

作者头像 李华
网站建设 2026/11/6 6:51:26

Wan2.2-T2V-A14B生成丝绸之路历史变迁动态地图

Wan2.2-T2V-A14B生成丝绸之路历史变迁动态地图:技术深度解析 你有没有想过,一条横跨欧亚大陆的古老商路——丝绸之路,能被一段AI生成的视频“活”过来?不是静态地图,也不是教科书上的文字描述,而是从汉代张…

作者头像 李华
网站建设 2026/11/5 11:16:48

[Windows] 自动剪辑音频气口空隙工具

[Windows] 自动剪辑音频气口空隙工具 链接:https://pan.xunlei.com/s/VOgBhFrlYgGLmpB3TdVHnw5tA1?pwdsmes# [Windows] 自动剪辑音频气口空隙工具,常用于剪辑信息流的小伙伴可能会用到

作者头像 李华
网站建设 2026/11/5 19:09:39

ANTLR4 C++目标终极实战指南:从零构建高性能语法解析器

ANTLR4 C目标终极实战指南:从零构建高性能语法解析器 【免费下载链接】antlr4 ANTLR (ANother Tool for Language Recognition) is a powerful parser generator for reading, processing, executing, or translating structured text or binary files. 项目地址:…

作者头像 李华
网站建设 2026/11/5 20:46:19

小兔鲜儿UniApp微信小程序开发实战:从零到上线的完整指南

小兔鲜儿UniApp微信小程序开发实战:从零到上线的完整指南 【免费下载链接】uniapp-shop-vue3-ts 小兔鲜儿-vue3ts-uniapp 项目已上线,小程序搜索《小兔鲜儿》即可体验。🎉🎉🎉 配套项目接口文档,配套笔记。…

作者头像 李华