1. 为什么大型制造企业突然集体卡在“平台选型”这一步
先聊点实在的。制造业的AI智能化,这两年已经从“要不要做”变成了“怎么做、用什么做”。很多制造企业的CTO、信息化负责人、智能制造推进办,手里都捏着一份立项报告,却卡在最前面的一步:AI智能体平台,到底怎么选?
为什么偏偏是这一步卡住了?因为制造业和互联网行业的AI落地逻辑完全不一样。互联网公司可以今天上线一个应用,明天流量不够就扩容,模型效果不行就换版本。但制造企业面对的是动辄运行十年以上的产线、PLC和DCS里面跑着几十年的工艺逻辑、ERP/MES/WMS这些系统层层叠叠、数据格式千奇百怪。在这个底子上引入AI智能体,平台选型已经不是单纯的“技术选型”,而是一场牵动企业整体IT/OT架构的战略决策。
我见过太多失败的例子。有的企业看市场上跑出了几个热门平台,直接拿来用,结果发现和自家产线设备协议根本对不上;有的企业选了一个功能很强大的平台,但实施团队折腾了三个月,一线工段长和工艺工程师根本不会用,最后平台变成了IT部门自己维护的“电子黑板报”;还有的企业一上来就追求私有化大模型、千卡集群,投入几千万进去,最后跑通的场景不过两三个,ROI惨不忍睹。
所以,在拆解平台选型这件事之前,先把一个问题想清楚:大型制造企业部署AI智能体,平台在其中扮演的到底是什么角色?
答案很直接:平台是连接“业务场景”和“AI能力”的中间层。它向下要对接制造企业的数据源和系统(SCADA、MES、ERP、PLM、设备传感器、工控系统),向上要承载业务人员能直接使用的智能应用(智能排产助手、设备预测维护、质检视觉Agent、生产调度Copilot等),中间还得把大模型、小模型、知识库、工作流编排、Agent调度这些能力管起来。这个中间层一旦选错,下面连不通数据,上面跑不出效果,整个项目就会陷入“两头堵”的困境。
当前行业的另一个大背景是,AI智能体开发人才需求在飙升,一些招聘平台上相关岗位需求涨了超过240%。但制造业企业不能指望靠招聘来填补所有能力空缺,更多时候必须通过一个“低门槛、高上限”的平台,让既懂业务、又懂流程的老师傅和工程师也能参与到AI应用的建设中。这也是为什么平台选型如此重要:选对了平台,几个工艺专家加少量IT人员,就能持续产出价值;选错了,再牛的算法团队也救不回来。
接下来的内容,我会从平台类型、评估维度、选型步骤、组织配套、常见误区几个角度,把大型制造企业部署AI智能体平台的选型问题拆开揉碎来讲,每一部分都会给出可以直接落地的判断方法和参考标准。
2. 先看懂市场上的智能体平台分类,别被名词唬住
2.1 按部署模式分:公有云托管、私有化部署、混合架构
制造企业在看平台时,第一个要分清的就是部署模式。很多企业一上来就说“我们要私有化部署,数据不能出园区”,这当然没错,但也得看场景匹配度。
公有云托管模式:平台、算力、应用全部跑在云厂商侧,企业按需订阅。优点是上线快、无需自建算力设施、初期投入低,适合数据敏感度相对较低、网络条件好、场景偏管理和协同类的应用(如智能合同审核、跨部门知识问答、供应链协同助手)。缺点是数据会经过第三方平台,且长期订阅成本是持续性的。对高度敏感的工艺参数、新品研发数据,一般不建议放在公有云上。
私有化部署模式:平台软件部署在企业自己的机房或私有云环境,模型、数据、应用全部由企业自己掌控。这是目前大型制造企业的主流选择,尤其是有军工、航空航天、新能源、半导体等涉密或高保密要求的企业。优势是安全可控、合规性好,可以按需定制;劣势是前期投入大、需要自建运维能力、模型迭代依赖厂商支持。选私有化不是选个软件,而是选一个长期的技术合作伙伴,这一点后面会专门讲。
混合架构模式:核心数据和应用私有化,非敏感场景或弹性算力需求走公有云。比如,企业内部部署一个基础智能体平台,连接私有化知识库和数仓;需要大算力做模型微调或批量处理时,临时调用公有云的算力资源。这种架构比较灵活,也是目前许多大型制造集团在探索的方向,但对企业的架构能力和网络规划要求更高。
2.2 按平台定位分:底座型、应用型、场景型
除了部署模式,更关键的是看清平台的“定位”,这决定了你在上面长什么样、能走多远。
底座型平台(AI Infra / 大模型中间件):偏底层,主要提供模型训练、微调、部署、推理加速、算力调度、数据管理能力。代表思路类似于云厂商的AI平台或开源框架的商业发行版。这类平台适合哪些企业?自己养了比较强的AI算法团队,想从零打造企业自己的模型和智能体体系,不想被某个通用平台绑定。选择底座型平台,通常对团队技术能力要求很高,而且项目周期普遍偏长,不太适合“尽快看到几个场景落地见效”的企业。
应用型平台(智能体编排/Agent平台):就是这两年最热门的智能体开发平台,比如Dify这类开源智能体编排平台以及各家云厂商的一站式智能体平台。它们内置了大模型接入、知识库管理(RAG)、工作流编排、插件工具、多智能体协作、发布集成等模块。业务人员和技术人员可以在上面像搭积木一样把业务流程做成一个个智能体应用,例如做一个“设备故障分析助手”,只需要连接设备历史数据、故障知识库、维修手册,再编排一个“信息采集—原因分析—维修建议”的流程,就能快速上线。这类平台是目前制造企业用得最多、见效最快的类型。
场景型平台(垂直行业解决方案):直接面向某一个或几个具体场景,比如工业质检视觉平台、预测性维护平台、智能排产平台。它们通常已经封装好了行业Know-how和算法模型,企业采购后可以快速复制到同行业相似场景。好处是行业适配度高、交付快;坏处是扩展性有限,往往只能解决单点问题,难以覆盖企业多场景、长尾的AI需求。
2.3 一个关键判断:别用“单点场景”的逻辑替代“平台选型”
我看到很多制造企业犯的隐性错误是:立项写的是“AI平台选型”,实际执行却变成了“某个具体场景的工具采购”。比如本来要建一个“AI智能体平台”,结果因为产线质检急用,就先买了一个视觉质检软件,用了一阵后觉得不够,又买了一个排产优化工具,再后来又补了一个知识库问答系统……最后手里一堆“点状工具”,却始终没有形成一个统一的智能体平台底座。每个工具都有自己的账号体系、数据格式、运维方式,别说跨场景复用了,光日常维护就能拖垮IT团队。
真正意义上的平台选型,应该是先有一个“骨架”,再往上面长“器官和血肉”。这个骨架就是统一的AI基础设施:连接企业数据源、统一模型入口、统一Agent编排方式、统一权限审计、统一运维监控。有了这层骨架,具体场景的智能应用只是骨架上的插件。这也是为什么我建议大型制造企业在启动任何AI项目之前,先花时间把平台技术底座的方向定下来,哪怕先用开源版本搭一个MVP试跑。
3. 制造企业选平台最该盯住的四个能力域
平台类型有了概念之后,下一步就是拿具体的评估维度去卡。我在给企业做选型咨询时,经常把评估维度收敛为四大能力域:业务场景覆盖能力、数据与知识工程能力、模型与Agent调度能力、工程化与安全合规能力。这四个域基本覆盖了从“能不能用”到“用得久不久”的全链路。
3.1 业务场景覆盖能力:先看平台能接住多少种场景
制造业的业务场景极其碎片化。同样是“AI智能体”,一个设备维护场景和一个供应链调度场景对平台能力的需求截然不同。
评估业务场景覆盖能力,可以从几个角度入手:第一,平台是否提供丰富的“积木式”组件,帮助企业快速搭建不同场景的应用,比如知识问答、信息抽取、流程自动化、决策优化、视觉识别等类型的组件;第二,平台是否支持从“简单Prompt编排”到“复杂多智能体协作”的渐进式开发,不能只会做低代码拖拉拽,也得支持专业开发者写代码自定义Agent逻辑;第三,是否有行业模板或市场(Marketplace),可以直接复用同行业场景的成熟应用,比如“注塑机参数推荐”“PCB缺陷分类”“供应链库存预警”这类模板,有现成的比从零搭省太多事。
另外还要考虑到场景的“长尾效应”。大型制造企业的AI应用场景往往不是一两个,而是几十个甚至上百个,很多都是小场景、小投入、小团队。平台如果只能支持大型复杂项目的开发,而对“15天做出一个小场景”不友好,那AI整体推进速度就会被严重拖慢。那些主打“轻量、快捷、可复用”的平台,反倒在制造企业里杀出了一条路。
3.2 数据与知识工程能力:没有数据基础的Agent就是空中楼阁
很多制造企业选型时被模型能力、平台功能晃了眼,却忽略了最关键的数据底座。一个AI智能体,本质上是一个“基于数据的推理系统”:喂给它什么数据,它就有什么样的能力边界。而制造业的数据又特别复杂——有结构化数据(MES里的工单记录、ERP里的订单信息)、半结构化数据(SCADA的时序波形、设备日志)、非结构化数据(维修手册PDF、老工程师手写记录、质检图片)。
所以选型时要重点考察平台的几项能力:
多源数据接入能力:不能只连数据库,还得支持OPC-UA、Modbus、MQTT等工业协议,支持SAP、Oracle、用友、金蝶等常见企业管理系统的连接器。有些平台只擅长处理“干净的业务数据”,接到工业现场就抓瞎,这类平台直接Pass。
知识库管理能力(RAG工程化能力):企业级知识库不是拷几个PDF进去就完事。要能支持文档解析分块、向量化、多级知识目录、知识更新与权限隔离。更进阶一点的平台还支持知识库版本管理、问答效果评估、测试数据集管理。这是智能体问答质量的关键,很多企业做完一个演示Demo容易,但想保证“每次回答都准确、不胡说”,知识库工程质量才是决定因素。
数据安全与分级授权:制造业内部数据权限非常严格,比如工艺工程师能看到的工艺参数,普通操作工就看不到。平台必须具备细粒度的数据访问控制能力,能在Agent调用数据时动态执行权限校验,而不是把数据全部集中到一个“AI大脑”里后权限就失控了。
3.3 模型与Agent调度能力:能力再强的模型,也算不对你的工装寿命
平台对模型的管理能力,决定了企业未来的技术主动权。从实际需求看,大型制造企业一定不是只用某一家的大模型,而是会同时接入多个模型:通用对话用云端大模型,专业推理用行业小模型,涉及保密数据用私有化模型,甚至在某些弱网环境下用端侧模型。因此平台对多模型的统一接入、路由调度、灰度切换、成本控制能力非常重要。
另外一个很容易被忽略的点,是Agent的多步推理和“工具调用”能力。制造业场景里,Agent经常需要调用多种工具链完成任务,比如一个“智能质量分析Agent”可能要调用数据查询API、SPC分析工具、历史缺陷知识库、生成报告插件。如果平台的Agent只支持简单的“问答”,不支持复杂的任务拆解和工具编排,那它能解决的问题就非常有限。
3.4 工程化与安全合规能力:决定平台能不能真正“进车间”
可观测性:AI Agent在线上跑,必须有完整的日志、监控、链路追踪体系。哪个Agent调用失败?哪次回答质量不佳?哪个环节消耗了过多Token?这些问题都需要平台给出答案。如果没有可观测性,AI应用就是在“盲飞”,出了问题只能慢慢猜。
评测体系:这个被严重低估。选型时问问平台方:你们有没有AI测试的数据集设计方法论?支不支持自动评测/回归测试?好的平台,应该有一整套测试方案,包括基于真实业务场景构造测试集、评测模型生成质量、评估知识库召回效果等。制造企业不像互联网企业可以A/B测试快速迭代,所以AI应用上线前的评测能力至关重要。
审计与合规:Agent的决策过程要能被追溯。制造业中任何一个工艺参数推荐结论,都涉及到产品质量责任认定,所以必须保留完整的“Agent推理路径+依据数据源+操作记录”。平台的不支持追溯,后面出了问题就是大事故。
4. 大型制造企业选型实操路线图:从需求澄清到POC验证
4.1 第一步:需求澄清——别拍脑袋买平台,先画出业务场景全景图
在开始接触任何平台厂商之前,先在企业内部做一次系统性的需求盘点。具体做法是让各业务部门(生产、设备、质量、供应链、工艺、HSE)各自列出3-5个期望AI解决的业务痛点,按优先级排序。然后把这些需求归拢成一个“场景矩阵”,包含几类信息:场景名称、所属业务域、核心痛点、涉及的系统和数据、期望的交付周期、大概的预算区间。
这一步做完,你会得到一份非常有意思的“内部需求全景图”。通常你会发现,真正高价值的场景往往集中在一两个业务域,而不是平均分布。这时候选平台就有了明确靶点:优先满足这些高价值场景的需求,而不是追求大而全。
4.2 第二步:技术架构评估——对照现状,列出硬性约束条件
需求理清之后,再回到技术层面回答几个硬性问题:
- 数据安全等级:哪些数据绝对不允许出企业边界?这直接决定部署模式是私有化还是混合架构。
- 现有IT/OT环境:现有的数仓、ERP、MES、SCADA是哪几家?有没有统一的工业互联网平台/数据中台?数据接口开放的难度多大?
- 基础设施现状:现有GPU服务器规模多大?有没有AI算力池?网络条件是否支持模型推理的低延迟需求?
- 团队能力:企业现有IT团队和数据分析团队规模多大?有没有算法工程师?业务部门有没有低代码开发经验?
这些条件就是选型的技术“筛子”。比如企业已有成熟的工业互联网平台,那么选型时就要优先考虑能基于其底座进行扩展的平台;如果企业IT团队薄弱,就选那些支持低代码搭建的平台,降低交付依赖。
4.3 第三步:市场初筛——用“一票否决项”过滤掉不合适的平台
基于上述需求和硬性约束,可以建立一份平台初筛清单。我建议设置几个“一票否决项”来快速过滤,例如:
- 私有化产品是否成熟、是否有制造业落地案例?
- 是否支持与企业现有工业系统对接(OPC-UA、Modbus、SAP、MES等)?
- 有没有多智能体/工作流编排能力,还是只做知识问答?
- 是否支持非结构化数据知识库(RAG),且能处理PDF/图片/Excel等复杂格式?
- 是否具备完整的评测、日志、审计能力?
- 厂商是否有长期研发能力和生命线保障?
凡是在这些关键项上明显不满足的,直接淘汰,不浪费时间深度试用。
4.4 第四步:POC实测——用构建"测试数据集"的思路验证平台能力
POC(概念验证)是选型过程中最耗费时间、但也是最不可跳过的一步。很多企业在POC阶段容易犯的错误是,让厂商用他们自己的Demo演示,或者用一个极其简单的“天气预报问答”来验证,这完全测不出平台在制造场景下的真实水平。
正确的做法是,企业自己准备“制造场景测试集”。具体来说:
- 选取1-2个有代表性的真实业务场景,最好是那种既有结构化数据、又有非结构化知识的技术场景。比如“基于历史维修记录+设备参数,做故障原因分析”,或“根据工艺手册和MES数据,回答工艺参数调整问题”。
- 准备一批带标准答案的业务测试用例。比如准备50条真实出现过的故障记录,对应标准答案;准备30个工艺问题和标准答案。这批数据集本身就是企业宝贵的AI基础资产。
- 给厂商布置任务,让厂商在平台上搭建出对应的智能体应用,用同一套测试集跑结果。重点观察的不只是“准不准”,还有“搭建过程是否顺畅”“数据接入是否麻烦”“修改迭代是否灵活”。可以要求厂商实时演示,甚至让企业自己的工程师上手操作,感受平台的易用性。
- 另加恶意测试:输入明显偏题或者带诱导性的问题,看平台Agent能不能合理拒绝或引导回正轨,考察平台“安全性”和“边界识别能力”。
一次合格的POC,应该能清楚展示出平台从“数据接入—知识构建—Agent搭建—效果调优—上线集成”的完整链路。这一轮跑完,你对平台的评估基本就是实打实的“钢铁测试”,而不是看厂商包装的PPT。
4.5 第五步:商务与技术并重的综合评审
POC结束后,汇总技术评分、POC实测结果、商务条件(价格、实施周期、服务支持模式、后续升级策略)进行综合评审。需要注意,制造业采购AI平台,不能只看产品本身,更要看整个合作生态:
- 厂商有没有服务大型制造企业的实施经验?
- 能否提供贴身的技术支持,包括驻场、培训、二开服务?
- 平台的许可证模式是按年订阅还是买断授权?后续模型升级怎么计费?
- 厂商自身有没有可持续经营的基础(融资、产品迭代节奏、技术团队规模)?
这些商务和可持续性问题,往往比技术参数更能决定项目三年后的状态。
5. 平台选完只是开始:部署AI智能体时的组织与技术细节
5.1 先选试点场景,不要一上来就全面铺开
大型制造企业部署AI智能体平台,最忌讳“摊大饼”。第一年老老实实选2-3个场景深度打磨,比同时上10个场景但每个都是半成品好得多。试点场景的选择有几个标准:业务价值清晰可直接量化、数据基础较好无需大量治理、流程相对标准化、业务部门有强烈的改善意愿。设备预测维护、质量缺陷分类、工艺知识问答、安全巡检报告生成,都是比较合适的首批试点场景。
5.2 搭好“平台运营团队”,不是IT一个部门的事
平台选定了,谁负责日常运营?我强烈建议成立一个跨部门的“AI平台运营小组”,成员包括:IT负责人(管平台基础设施和权限)、数据工程师(管数据接入和知识库维护)、业务专家或关键用户(管场景定义和效果评估),外加一个项目推进协调人。这个小组的职责,不只是维护平台稳定性,更重要的是持续挖掘新场景、组织业务培训、评估上线效果、沉淀企业自己的AI方法论。回到前面提到的数据“ai智能体开发人才需求大涨244%”,如果选型时不规划内部人才培养矩阵,后期缺口会越发明显。
5.3 数据接入与知识治理要放在“平台上线”的第一优先级
平台部署完成后,最容易拖延进度的就是数据接入和知识治理。在平台选型阶段就应该敲定首批需要接入的数据源列表,开工第一周就让平台方和数据团队一起拉通PLC/SCADA/MES/ERP的接口联调。知识库的构建也要提前启动,把分散在各处的手册、SOP、工艺卡、维修记录收集起来,规划好解析、清洗、打标、分块的流程。这一块工作做得越扎实,后面Agent的准确性和可靠性就越有保障。
5.4 建立一套持续评测与迭代机制
AI应用不是上线就完事。要让它长期有效,必须配上评测反馈闭环。每季度从线上Agent中定期抽取一定量的问题,让领域专家打分;抽查问答记录,统计人工介入率、误答率;持续用新产生的故障案例、工艺知识扩充知识库。平台如果自带好用的测试集管理、评测报表功能,这一步就会轻松很多——这也是前面为什么反复强调平台评测能力的重要性。
6. 部署踩坑实录:那些PPT上不会写、但迟早会遇到的问题
关于部署和落地过程中的“坑”,我挑几个最有代表性的说一下,都是同行踩过或我亲眼见过的真实情况。
坑一:重模型,轻知识库。有些企业采购平台后,花大价钱去微调大模型,却连最基础的“工艺知识库”都没建好。模型调得再精细,回答问题时没有准确的数据支撑,照样胡编乱造。我见过一个案例:某工厂建了设备维修问答Agent,模型层面在排行榜上分数很高,但上线后一问到具体型号设备的故障,回答就乱套,因为知识库里根本没有该型号设备的维修手册和维修记录。后来团队老老实实花了两个月补知识库,效果立刻天翻地覆。别被模型的表面聪明迷惑,制造业AI应用的地基永远是知识。
坑二:跨部门数据协同不畅。制造业里部门墙严重,IT数据、OT数据、工艺数据分散在不同部门,甚至不同系统里。要接数据时才发现,某些传感器数据只存在某个老师傅的Excel里,还没有标准化。所以选型阶段就要让业务部门参与进来,明确数据共享责任。可以制定一份“数据接入责任清单”,把每类数据源对应到具体的责任部门和接口人。没有这个基础工作,平台技术再强也架不住数据进不来。
坑三:低估Agent编排的复杂性。很多人觉得平台有低代码编排工具就很省事,但制造业真实场景往往是多个Agent协同调用多个环节,这中间会有大量边界情况和异常场景。比如“智能排产Agent”需要协调订单、设备状态、人员排班、物料齐套等多方面信息,任何一个环节数据不对,输出结果就可能不靠谱。这个过程中,“Agent测试数据集怎么设计”就特别关键——必须真实覆盖正常场景、边界场景和异常输入,别只用几组“理想数据”做验证。
坑四:忽视“人”的变革管理。平台和企业生产系统打通后,最抵触的可能不是高层决策者,而是一线操作工和某些中层管理者。他们担心AI会替代自己的工作,也担心用不好新系统在领导面前丢脸。这方面没有捷径,只能通过充分沟通、针对性培训、让操作者参与Agent应用的效果评估、奖励使用新工具的团队等一系列动作,逐步建立信任。还要特别向员工说清楚,AI不是来替代人,而是把人从重复劳动里解放出来。彻底撒手不管,很容易导致“平台上线半年,一线不用”的尴尬局面。
坑五:忽略选了平台之后的升级和扩展成本。今天市场上智能体平台迭代速度非常快,版本升级、模型更新、底层架构调整都会发生。购买前一定要确认平台是否支持平滑升级、模型是否能随时替换、自定义应用能否兼容新版本。某些平台存在严重的“锁死”问题,一旦用了它的专有格式做应用,后期想迁移或升级就困难重重。选型时,开源核心、开放API、标准模型接口这些“可迁移性”特征,是加分项而不是额外负担。
7. 给决策者的一句话选型思路
写到这里,把核心脉络再收拢一遍。大型制造企业部署AI智能体,平台选型本质上问的是三个问题:
第一,我的业务到底需要什么样的AI能力?这一题通过内部需求盘点回答。第二,什么样的平台能在满足我安全合规要求的前提下,把最核心的场景快速做出来?这一题通过技术评估和POC测试回答。第三,这个平台和它的厂商,未来三年能不能陪着我的企业一步步把场景做深做广?这一题通过商务、生态和可持续性评估回答。
把这三大问题理清楚,再去谈厂商、谈版本、谈价格,你的判断标准就会非常清晰。同时始终记得,平台只是一个底座,AI智能体真正创造价值的环节,永远是“人+流程+数据+场景”的有机融合。选平台,其实是在选择一种制造企业AI化的路径和节奏。我的经验是:先想清楚业务场景,再谈平台技术;先用好开源或标准能力强但可集成的平台,再考虑自研或重定制;先让业务部门用起来、跑出价值,再谈规模复制。沿着这几条原则选平台,大方向一般不会错。