李阳阳
Elastic Stack 9.3 作为全量多模态数据底座,存储管理机器人仿真场景下所有结构化 / 非结构化 / 向量数据;AI Agent 串联【数据检索 - 3D 资产生成 - 仿真数据统计 - 资产迭代优化】全流程,解决具身开发中 3D 资产数据分散、检索困难、生成与业务数据割裂的行业痛点。
项目背景
用户界面
http://36.212.51.4:10045/
业务流程图
检索仿真日志,日志里发现 需要的glb没有,就自动生成,日志了发现之前的摩擦系数有问题,也自动生成
前期本地放多张图片供选择。
已经有的就不重新生成
知识谱图,检索
制作一些仿真日志,从日志结果去自动校正glb或者自动生成新的glb
核心技术栈
底层数据存储:阿里云 Elasticsearch 9.3
结构化索引:3D 物体物理参数、机器人交互日志、仿真失败记录、资产版本信息
向量索引:CLIP 图像向量(3D 模型渲染图)、文本描述向量、仿真场景语义向量,实现混合语义检索
开发核心工具:阿里云 ES AI Agent Builder
3D 生成能力:Meshy 开放 API
具身仿真配套:轻量 Unity/ROS2 仿真样例数据
演示前端:极简 Web 页面
技术路线图
智能体 1:3D 资产多模态数据检索 Agent(核心,体现 Elastic 数据能力)
用户输入自然语言查询(例:“找出所有机械臂抓取失败率高于 30% 的小型容器 3D 资产”)
Agent Builder 解析意图,自动组装 ES 混合查询语句:
向量相似度检索:匹配语义描述相似的 3D 资产
结构化条件过滤:筛选仿真失败率、尺寸、适用机器人型号等数值条件
ES 返回匹配资产列表,前端展示 3D 预览、关联历史仿真日志数据
底层数据逻辑:所有 3D 模型、图片、文本、时序日志统一存入 ES,实现一库管理多类型数据,紧扣比赛 “数据” 主题
智能体 2:缺失资产自动生成 & 自动数据入库 Agent
检索后 ES 无匹配资产,Agent 自动提取用户语义 Prompt
调用 Meshy 开放 API 远程生成标准 GLB 3D 模型
Agent 自动执行数据加工流水线:
多角度渲染 3D 模型生成预览图
CLIP 模型提取图片向量 + 文本描述向量
提取模型尺寸、碰撞体积等结构化物理参数
全部多模态数据(模型文件地址、向量、参数、描述)自动写入 Elasticsearch 建立索引,完成资产入库,无需人工操作
智能体 3:具身仿真数据优化分析 Agent(差异化亮点,绑定具身赛道)
读取 ES 存储的海量机器人交互时序日志(抓取、碰撞、滑落记录)
统计每一款 3D 资产的仿真故障指标,关联对应 3D 模型数据
Agent 生成优化指令:例如 “水杯底部摩擦系数过低,建议生成加厚防滑新版 3D 模型”
自动调用 Meshy API 生成优化后新版本资产,存入 ES 并标记版本迭代关系