方案选型会开到一半,甲方负责人突然指着PPT问了一句:这套AI检测系统,是装在设备里,还是挂在设备外面?
我当时愣了一下,然后意识到这其实是整个项目里最该先回答的问题。市面上叫“工业AI”的方案很多,但落到部署层面,无非两条路线:内生AI和外挂AI。选错了,后续的数据链路、响应速度、运维成本、甚至团队分工全都会跟着别扭,项目推进到一半再回头改,代价非常大。
内生AI和外挂AI,说的不是“智能”的等级差异,而是整套技术架构的部署逻辑差异。内生AI把推理能力嵌进设备内部,数据在设备里闭环;外挂AI则在设备之外单独部署一套算力系统,靠数据接口跟产线对接。两者的成本结构、实施周期、运维模式、适用边界完全不同。这篇文章我就从这几个维度拆开讲,结合我做过的项目经验,给正在选型的朋友一个可以参考的决策框架。
1. 先把两个概念掰清楚:内生AI和外挂AI到底指什么
1.1 内生AI:智能长在设备里面
所谓内生AI,指AI模型的推理能力被直接封装在设备本身的控制器、传感器模组或者嵌入式边缘单元里。设备自己采集数据、自己跑模型、自己输出结果,整个过程不依赖外部服务器,也不需要把原始数据传出去。
举几个典型的例子:智能振动传感器内置了故障诊断模型,贴在电机上就能实时判断轴承是否出现早期损伤;带AI识别功能的工业相机,在相机内部完成缺陷分类;PLC或者设备控制器里嵌入了轻量级的预测模型,根据电流、温度、压力等参数实时推断设备健康状态。这些共同点是推理发生在“设备内部”,对外只输出结论。
内生AI在硬件上通常依赖MCU、DSP、NPU或者低功耗GPU这类嵌入式算力,算法模型必须是经过量化、剪枝处理的轻量级模型,因为它要适配有限的内存、功耗和算力。早些年这类方案很难做,芯片算力不够,模型小到没效果;现在边缘算力成本大幅下降,轻量级模型的精度也上来了,内生AI才真正变得可用。
1.2 外挂AI:智能放在设备外面
外挂AI则是一套独立于被监测设备的算力系统。它通过传感器、数据采集器、PLC通讯模块或者工业网关,把设备的数据采集出来,送到一台独立的工控机、服务器或者边缘计算节点上,在外部完成AI推理,再把结果通过网络、显示屏或者控制系统反馈回去。
典型的应用包括:单独部署的视觉质检工位,摄像头拍完照片,图像传到旁边一台带GPU的工控机做检测;基于历史数据的预测性维护平台,服务器定期分析设备数据并输出维护建议;整个车间的AI监控系统,所有设备的运行数据汇集到中心平台统一分析和展示。外挂AI的算力通常比内生AI大得多,可以跑复杂的目标检测网络、时序模型,甚至大语言模型。
外挂AI的核心特征是“数据要出门”。不管是通过网线、光纤还是工业无线,数据都得从设备端走到算法端,算完再走回来。这个“走一趟”的过程看起来简单,但决定了时延、带宽、数据安全、系统复杂度等一系列问题。
1.3 为什么这个话题最近被反复拿出来问
我最近连续参与了几个项目的前期调研,明显感觉“内生还是外挂”成了甲方问得最多的问题。原因有三个。
一是边缘算力成本下降,加上模型小型化技术成熟,原来只能放在服务器上的AI,现在确实能塞进设备里了。二是产线智能化进入规模落地阶段,前几年大家做试点,IT和OT各搞各的,现在要规模化复制,必须有一个明确的架构选型标准。三是数据安全法规和工厂数据管理要求越来越严,很多企业不希望工艺数据流出设备,内生AI因此有了更强的吸引力。
说白了,这个问题以前不存在,因为以前只有外挂一条路;现在两条路都走得通,才轮到企业做选择。这不是概念炒作,而是真实的决策需求。
2. 选型前必须想明白的三个底层差异
2.1 数据路径不一样,决定了时延和数据主权
内生AI和外挂AI最本质的差异,是数据路径完全不同。内生AI从采集到推理到响应,全部在设备内部完成,原始数据不出设备,输出的只是结论。外挂AI则必须经历“采集—传输—汇聚—推理—返回”这条完整链路。
这个差异带来的影响非常直接。首先是响应时延。内生AI的响应时间是确定性的,比如一个视觉传感器在内部完成检测,通常能做到几十毫秒以内,而且不受网络波动影响。外挂AI的时延是各个环节的叠加:数据采集周期、传输时间、服务器推理时间、结果下发时间,任何一环抖动都会影响整体响应速度。
其次是数据主权。有些工艺参数本身就是企业的核心机密,比如配方、工艺曲线、精密加工参数。外挂AI方案里,这些数据至少要传到厂内的服务器,如果走云,还要出园区。虽然可以做数据脱敏和加密传输,但甲方心理上总是不踏实。内生AI天然规避了这个问题——数据根本没离开设备。
用一个生活化的类比来说明:内生AI就像家庭医生上门看诊,人在现场,看完直接下结论;外挂AI就像远程会诊,你要先把病历、检查报告传过去,专家看完再给意见。远程会诊能调用更多专家资源,但前提是网络顺畅,而且你要愿意把资料传出去。
2.2 算力位置决定算法能力的上限
内生AI的算力以“够用”为标准。设备内部的嵌入式芯片要控制成本、功耗和体积,能承载的模型规模是有限的。哪怕是现在最新的边缘NPU,跑个几百MB的模型已经是上限,更别说还要考虑设备散热的物理限制。
这意味着选择内生AI,你的算法能力天花板是被硬件锁死的。你需要做模型量化、剪枝、蒸馏,把一个大网络压缩成设备能跑动的小模型。压缩的过程一定会损失一部分精度,你要做的是评估这个精度损失是否可以接受。
外挂AI没有这个限制。工控机里插两块GPU,或者直接用一台服务器,算力几乎可以按需扩展。复杂的目标检测网络、超大时序模型、多模态融合算法,只要能训练出来,基本就能找到硬件跑起来。而且后期算法升级时,外挂方案只需要更新软件,硬件一般不用动。
但这不代表外挂AI一定更优。算力大也意味着功耗大、发热大、占地面积大。工业现场很多地方环境很苛刻——高温、高湿、振动、粉尘,一台标准服务器往里一放,散热和防护做起来成本很高。内生AI虽然算力小,但嵌入式硬件往往针对工业环境做过加固设计,可靠性反而更高。
2.3 部署和维护的代价是两套完全不同的账
内生AI的部署相对简单。设备出厂时AI功能就已经集成好了,现场只需要安装、接线、简单配置。日常维护是“换模块”的逻辑:每一个设备都是一个自治单元,坏了换备件。如果支持远程模型更新,算法升级也只需要推送新模型包。
但内生AI也有自己的维护问题。首先是模型更新依赖整机或模块厂商,如果设备供应商不配合,算法升级会变得很困难。其次是单点维护成本:假设全厂有200台设备都装了内生AI,每台设备的模型版本、运行状态都要分别管理,运维工作量是随设备数量线性增长的。
外挂AI的部署则要复杂得多。你需要设计数据采集方案——设备有没有接口?通讯协议能不能打通?数据采出来怎么传输?这些工作非常琐碎,经常要协调设备厂商、自动化团队和IT团队。部署周期往往以月为单位计算。但外挂AI维护起来是集中式的,所有算法都在一个平台里,更新迭代非常灵活,问题排查也方便。
这里还有一个经常被忽视的点:团队技能的匹配。内生AI的维护更多依赖设备维护团队,他们懂机械、懂电气,但对AI模型几乎没有概念;外挂AI的维护需要IT团队参与,他们懂服务器和网络,但不一定懂产线。选型之前,一定要先想清楚你的团队有没有能力承接对应的运维模式。
3. 什么场景选内生,什么场景选外挂:我的判断逻辑
3.1 适合内生的典型场景
我在实际项目里总结出几类比较适合内生AI的场景,供参考。
第一类是高速产线的在线质量检测。比如冲压件表面缺陷检测、电子元器件的外观检测、药瓶的异物检测。这类场景要求检测速度跟上产线节拍,通常需要几十毫秒级别响应,而且来不及把每张图都传到服务器再等结果。视觉传感器在内部跑轻量模型,发现问题直接触发剔除机构,是典型的“内生逻辑”。
第二类是设备本体保护性控制。比如电机堵转、轴承过热、刀具异常磨损的实时判断。这类场景的特点是结论必须快——你不可能等数据传到服务器分析完再报警,那时候设备可能已经坏了。设备控制器里嵌一个轻量模型,实时看电流、温度、振动的变化趋势,一旦异常直接停机,这是内生AI非常合适的应用。
第三类是安装环境恶劣、网络条件不稳的现场。比如矿山、野外泵站、高温车间,这些地方要么没有稳定的网络,要么环境不适合放置精密服务器。把AI做进设备内部,设备本身自带判断能力,不依赖任何外部设施。
第四类是数据敏感度极高的工序。比如配方、特殊工艺参数这类数据,企业通常不愿意出设备,内生AI可以直接在设备端完成分析,只输出“正常/异常”这类结论,原始数据完全留在本地。
3.2 适合外挂的典型场景
外挂AI也有它不可替代的优势场景。
最典型的是存量设备改造。很多工厂有大量已经服役多年的设备,本身没有智能能力,也不可能整机替换。这时候外挂AI是唯一可行的方案——外接传感器,把数据采出来,送到外部服务器做分析。我们参与过一条老注塑产线的改造项目,20多台旧设备,加了振动传感器和电流采集器,数据全部汇到一台工控机里做预测性维护,效果很好,设备本身完全没动。
第二类是需要跨设备、跨产线做聚合分析的场景。比如OEE(设备综合效率)分析、全厂质量追溯、多设备联动的异常诊断。这些应用天然需要把多个设备的数据汇聚到一起,从全局视角找规律,显然不是单台设备内部能完成的。这种情况下外挂AI是必然选择。
第三类是算法模型比较重、精度要求极高的场景。比如深度学习视觉检测里的复杂缺陷分类,可能需要几十层乃至上百层的神经网络,设备内部根本塞不下。这时候外挂AI带GPU的算力优势就体现出来了。
第四类是模型需要频繁迭代的场景。AI应用上线后基本都要持续优化,产线换了物料、改了工艺,模型就要跟着调。外挂AI集中在平台上迭代训练、下发更新,整个流程效率高很多。内生AI虽然也能OTA更新,但更新频率受设备和供应商的配合程度限制。
3.3 别忽略混合架构:端侧抓紧急,中心侧做深度
我做过的大部分项目,最后落地的时候都是混合架构——设备内部做轻量级判断,外部系统做深度分析,两边协同工作。这个趋势其实已经非常明显了。
举一个包装产线的例子。视觉检测系统在每台包装机的相机内部跑一个轻量的“初筛模型”,能识别明显的缺件、破损等大问题,发现后直接剔除,保证产线不中断。同时,所有图片都会异步上传到边缘服务器,服务器跑一个更强大的模型做“复判”,把初筛拿不准的样本重新分析,定期把误判和漏判的结果反馈给设备端模型做更新。
这么做的好处是两头的好处都占了:响应快由内生兜底,精度高由外挂保障,模型迭代又能在中心侧灵活完成。事前选型的时候,如果一开始就抱着“非此即彼”的思路,就很容易忽略这种组合拳的打法。
我现在的习惯是,在给甲方做选型建议时,默认先把“内生能解决什么、外挂能解决什么、两边各承担什么角色”这个问题列出来,再决定投多少钱到哪一侧。“所有算力都塞设备里”和“所有数据都传服务器”这两种极端方案,通常都不是最优解。
4. 实操:给你一张可以直接用的选型决策清单
4.1 第一步:盘点现有产线的真实约束条件
选型不是从“AI功能”出发的,而是从“约束条件”出发的。先问自己下面这些基础问题,答案会直接决定你的技术路线。
设备现状是什么?设备本身有没有传感器、控制器、操作系统?是具备一定智能能力的新设备,还是完全“裸奔”的旧设备?如果是完全没有数据接口的老设备,内生AI基本无从谈起,因为设备内部就没有算力平台可以嵌入,你只能做外挂改造。
产线节拍有多快?对响应时间的要求是秒级、百毫秒级还是十毫秒级?AI系统的主要职能是控制还是辅助决策?如果AI的判断要直接触发执行机构,响应确定性要求会非常高,内生AI频率匹配度更好;如果AI只是给操作员一个提示,人再介入处理,外挂的延迟完全够用。
网络条件怎么样?厂区内有没有覆盖到位的有线网和无线网?设备安装地点有没有稳定的网络接入?你不可能在一个信号都飘忽不定的车间里,还指望着靠外挂AI做实时控制。
团队有什么技能储备?设备维护团队能不能接受“设备里有AI模块”这件事?IT团队有没有能力维护一套服务器和网络环境?如果两边团队都表示“这事我干不了”,再好的技术方案都落不了地。这一条我建议在决策表里单独列一个大权重,别被忽略。
4.2 第二步:把“智能需求”量化成可比较的指标
很多选型失败,是因为需求描述得太模糊。甲方说“我想让设备变智能”,这没法做决策。你需要把需求翻译成可测量、可比较的指标,然后逐项打分。
下面这个表格是我在项目里常用的评估模板,你可以直接拿来用。针对每个维度,给内生AI和外挂AI的表现打1到5分,最后加权求和。
| 评估维度 | 内生AI表现 | 外挂AI表现 | 说明 |
|---|---|---|---|
| 响应时延(≤50ms) | 5 | 2 | 内生确定性高,外挂链路长 |
| 算力上限 | 2 | 5 | 嵌入式算力受限,外挂可扩展 |
| 数据闭环 / 隐私保护 | 5 | 2 | 内生数据不出设备 |
| 多设备聚合分析能力 | 1 | 5 | 外挂天然支持全局视角 |
| 存量设备兼容性 | 2 | 5 | 老设备只能外挂改造 |
| 单点部署复杂度 | 4 | 3 | 内生即装即用,外挂牵涉链路 |
| 算法更新灵活性 | 2 | 5 | 外挂集中迭代更方便 |
| 单体硬件成本 | 4 | 2 | 内生单台便宜,外挂平台投入高 |
| 运维团队要求 | 3 | 2 | 外挂需要专门的IT/OT协作 |
打分之前一定要先把权重量清楚。比如你是做高速产线在线检测,响应时延和部署复杂度权重高;你是做旧产线改造,存量兼容性和多设备聚合分析权重高。权重不同,同样的分值得出的结论可能完全相反。
4.3 第三步:算一笔全生命周期的账,而不是只比采购价
选型时最容易踩的坑,是只对比硬件采购价。内生AI单价看起来低,但如果你有200台设备,每台增加的成本累计起来很可观;外挂AI平台看起来贵,但如果服务全厂50台设备,摊到每台身上可能反而便宜。
我建议用五年TCO(总拥有成本)的口径来算账。内生AI的成本项包括:单台设备的AI模块成本乘以设备数量、每年的模型维护和模块更换费用、可能的整机升级费用。外挂AI的成本项包括:服务器或工控机采购费用、网络改造费用、数据采集系统费用、软件平台授权费、机房和散热等基础设施费用,以及最容易被低估的——IT/OT团队的持续运维人力成本。
一个简单的算账场景:某车间30台设备需要加装AI预测性维护能力。内生方案,单台AI模块成本约3000元,30台共9万元,加上备件和年度维护预算约每年2万元,五年总成本19万元左右。外挂方案,一台工控机3万元、传感器和数据采集系统8万元、软件平台5万元、网络改造2万元,一次性投入18万元,加上每年约3万元的运维人力成本,五年总成本约33万元。看起来内生便宜,但如果你后续要上更多新的AI功能,外挂平台的扩展成本几乎为零,内生方案每新增一个功能都要看设备供应商的报价。
算完账之后,还有一个必须做的动作,就是小范围PoC验证。不要跳过这一步直接全厂铺开。选一条最典型的产线或一台最核心的设备,分别用内生和外挂两种方式做两周左右的概念验证,用真实的生产数据跑,记录误报率、漏报率、响应时间、维护工作量这些关键指标。PoC的数据比任何供应商的PPT都有说服力。
5. 常见误区与现场踩坑实录
5.1 误区一:以为AI“离设备越近”就越先进
我在交流中经常听到一种说法:“你们这个方案还要服务器?太落后了,人家都是设备内部跑AI。”这种判断其实是把技术路线和先进程度绑在了一起,实际并不是这样。
内生AI听上去比外挂AI前沿,但设备内部能跑的模型复杂度有限,很多需求它就是满足不了。我见过一个案例,某电子厂的AOI检测项目,一开始坚持用嵌入式智能相机在设备内部做全部检测,结果复杂的缺陷分类精度始终达不到客户要求。后来改成相机初筛加边缘服务器复判的混合方案,精度才达标。
反过来也一样,外挂AI并不意味着技术陈旧。它承载复杂模型、跨域分析的能力,恰恰是很多大型AI平台的核心价值。选型看的是适不适合你的场景,不是听起来高不高级。
5.2 误区二:低估数据治理的工作量
AI项目失败,最常见的原因不是算法不够好,而是数据没准备好。这个坑在两种架构下都有,只是表现形式不同。
内生AI的数据问题是“样本从哪来”。设备内部确实在产生数据,但设备厂商未必提供了数据导出接口,你需要通过调试端口或者通讯协议把原始数据挖出来,才能做样本标注和模型训练。有些设备厂商对此配合度不高,数据获取会变成一场拉锯战。另外,把标注好的数据集整理成模型训练格式,也需要专门的工具和人力。
外挂AI的数据问题则是“数据链路能跑通吗”。数据从设备到服务器的链路长,任何一环中断都会导致数据缺失。现场经常遇到好不容易改造完数据采集,结果发现时间同步有问题,或者通讯协议频繁掉线,最后采集到的数据根本没形成完整的时间序列。这个排查过程非常耗时。
无论选择哪种方案,我都建议把数据治理作为项目启动后的第一优先级任务来做,而不是等模型建好之后发现没数据可用再回头补救。
5.3 误区三:把选型当成纯技术题,忽略了组织和流程
有一次在某汽车零部件厂做方案交流,对方的技术负责人很专业,提了一堆模型精度和算力的问题,谈得很投入。但聊到落地阶段的时候,设备维护团队的负责人问了一句:“这套系统报警了,我们找谁?是找IT还是找供应商?”全场沉默了。
AI选型表面是选技术架构,实际上是选一个“之后谁干活”的协作模式。内生AI设备的模型维护由谁负责?外挂AI的服务器告警由哪边响应?数据标注和模型更新的工作由谁来牵头?这些问题如果不在选型阶段就明确下来,项目上线之后一定会变成扯皮现场。
我的建议是:选型讨论一定要让设备部门、IT部门、生产部门、采购部门一起参加,并且每个人都要有权对技术方案提出反对意见。技术方案可以反驳,但组织和工作流程的问题,在很多项目里才是真正决定成败的变量。
5.4 小技巧:PoC验证该怎么做才高效
最后分享一个做PoC验证的实用技巧。很多项目做PoC时习惯用供应商准备好的“演示数据”跑一遍,看效果不错就直接签合同,这其实非常容易踩坑。
演示数据通常已经过清洗、标注,模型对该数据的识别效果一定很好。但到了真实产线,光照变化、物料批次差异、设备振动干扰、数据采集不完整,各种意外情况全来了。所以做PoC一定要满足三个条件:用真实的生产数据、在真实的生产环境跑、让一线操作工参与评估。
PoC期间需要重点记录四组数字:漏报率(有问题的产品被放过去了)、误报率(正常产品被毙掉了)、响应时延(从采集到结论的时间)、人工干预次数(多少产品/场景需要人工确认)。前面三个好理解,第四个很容易被忽略——如果一个AI系统报警后总要人再去复核,说明它只是把问题从人转移给了人,并没有真正减少人的工作。
我见过一个项目,PoC测试时精度报告非常漂亮,但上线第一个月操作工被误报折腾得崩溃,天天有人要求关停系统。后来重新回炉,把误报问题解决了,系统才算真正被用起来。所以,让一线操作工参与评分这一点,务必在PoC方案里加上。
我的体会是,工业AI选型这件事,本质上是在算力位置、数据闭环、响应时延、成本结构之间做权衡,不存在一个放之四海皆准的标准答案。内生AI适合响应快、数据敏感、环境受限的场景,外挂AI适合存量改造、跨设备分析、重型模型的场景,而混合架构在多数情况下才是那个真正的平衡点。
最后分享一个很实用的小习惯:每次选型讨论会快结束的时候,我都会让设备维护团队和IT团队分别给方案打一个“长期维护信心分”,从1到10。往往就是这简简单单一个打分,能逼出很多前面PPT里看不出来的顾虑。分数低的那一方如果说不清楚原因,这个方案多半藏着还没暴露的问题。先把这个分聊明白,再谈买哪家的产品,项目后面的路会顺很多。