news 2026/9/10 4:12:07

CANN/GE更新图特征内存基址API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/GE更新图特征内存基址API

UpdateGraphFeatureMemoryBase

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

头文件/库文件

  • 头文件:#include <ge/ge_api_v2.h>
  • 库文件:libge_runner_v2.so

功能说明

用于更新Graph的Feature内存基址。

在调用本接口前,必须先调用CompileGraph接口进行图编译;内存大小从GetCompiledGraphSummary>GetFeatureMemorySize接口中获取。

Feature内存指的是模型执行过程中所需要的中间内存(比如中间节点的输入输出等内存)。

函数原型

Status UpdateGraphFeatureMemoryBase(uint32_t graph_id, const void *const memory, size_t size)

参数说明

参数名输入/输出说明
graph_id输入Graph对应的ID。
memory输入设置的Feature内存基地址。
size输入设置的Feature内存大小。

返回值说明

参数名类型说明
-StatusSUCCESS:设置成功。
FAILED:设置失败。

约束说明

  • 调用CompileGraph完成图编译后,您可以通过GetCompiledGraphSummary接口获取Feature地址是否可刷新,只有Feature地址可刷新的图才支持重复调用本接口刷新Feature地址。
  • 该接口只适用于静态编译图,可以通过GetCompiledGraphSummary接口中的IsStatic接口获取图是否为静态编译。
  • 若使用了本接口,又配置了RegisterExternalAllocator接口,则RegisterExternalAllocator接口不生效。
  • 不能与SetGraphFixedFeatureMemoryBaseWithType接口入参为MEMORY_TYPE_DEFAULT同时使用。
  • 不能与UpdateGraphRefreshableFeatureMemoryBase同时使用。

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/10 4:11:19

基于YOLOv8和PyTorch的苹果成熟度检测实现指南

简介&#xff1a;一份基于PyTorch与YOLOv8的苹果成熟度检测完整项目&#xff0c;面向毕业设计、课程设计及项目开发者&#xff0c;解决从苹果图像采集标注、模型训练到推理部署的全流程需求&#xff0c;支持一键运行&#xff0c;适合快速搭建目标检测实验环境。压缩包共2000个文…

作者头像 李华
网站建设 2026/9/10 4:11:10

低延迟播放与YOLO实时目标检测:同管线融合方案详解

1. 项目拆析&#xff1a;播放、分析为什么必须放进同一条管线里SmartMediaKit 在我这边是一个偏工程向的媒体组件&#xff0c;主要负责低延迟播放、拉流、转封装、解码、渲染这一整条链路。YOLO 则是目前落地最广的实时目标检测模型&#xff0c;检测、分割、姿态估计都能做。把…

作者头像 李华
网站建设 2026/9/10 4:10:05

通义千问换帅背后:大模型战略失焦与商业化困局

1. 换帅不是导火索&#xff0c;是长期钝感的结算时刻大模型的牌桌上&#xff0c;没有人能靠一款产品吃遍天&#xff0c;但一旦连续几个回合让外界感觉“你找不到方向”&#xff0c;换人就是悬在头顶的必然结局。这次通义千问换帅&#xff0c;被很多人解读成阿里AI终于要踩油门了…

作者头像 李华