news 2026/7/31 12:40:56

181、NPU的编译器开发:内存泄漏检测

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
181、NPU的编译器开发:内存泄漏检测

181、NPU的编译器开发:内存泄漏检测

凌晨三点,服务器告警。NPU编译器在连续编译第37个模型时,内存占用从2.1G暴涨到14.7G,然后OOM被kill。我盯着监控面板上那条陡峭的上升曲线,心里清楚——又是内存泄漏。这不是第一次,也不会是最后一次。NPU编译器这种长期运行的服务进程,内存泄漏就像慢性病,不发作则已,一发作就是生产事故。

泄漏的源头:一个被遗忘的IR节点

先讲一个真实案例。我们的NPU编译器后端有一个Pass,负责将ONNX的BatchNormalization融合进卷积层。代码逻辑很简单:遍历计算图,找到BN节点,把它的权重参数合并到前一个Conv节点的bias中,然后删除BN节点。

问题出在“删除”这一步。当时写的代码是这样的:

// 别这样写!这是有问题的voidFoldBatchNorm(Graph*graph){
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/31 12:40:36

无惧潮湿盐雾,高频使用不锈钢防火门省心之选

在沿海建筑、地下车库、潮湿机房、食品医药车间等特殊场景中,普通钢制防火门极易受潮生锈、漆面脱落、门框变形,频繁出现启闭卡顿、密封失效等问题,不仅影响日常使用,还会埋下消防隐患。而不锈钢防火门针对性解决潮湿、盐雾腐蚀难…

作者头像 李华
网站建设 2026/7/31 12:40:10

Android 7.1模拟器安装Xposed框架实战:从环境搭建到故障排查

1. 项目背景与核心挑战最近在折腾一个老项目的逆向分析,目标应用只兼容Android 7.1(API 25)及以上版本,并且是64位的。为了动态调试和功能修改,Xposed框架是绕不开的神器。但问题来了:我手头没有真机&#…

作者头像 李华
网站建设 2026/7/31 12:36:24

自制简易函数信号发生器:从运放电路到PCB设计的完整实践

1. 项目缘起:从“买不起”到“自己做”的转变几年前,我在调试一个音频放大电路时,急需一个能产生特定频率和幅度的正弦波、方波信号源。当时手头只有一台笨重的台式信号发生器,每次搬动都费劲,而且功能复杂&#xff0c…

作者头像 李华
网站建设 2026/7/31 12:35:27

3步掌控你的ThinkPad风扇:告别噪音,拥抱静音办公

3步掌控你的ThinkPad风扇:告别噪音,拥抱静音办公 【免费下载链接】TPFanCtrl2 ThinkPad Fan Control 2 (Dual Fan) for Windows 10 and 11 项目地址: https://gitcode.com/gh_mirrors/tp/TPFanCtrl2 还在忍受ThinkPad风扇突然狂转的噪音吗&#x…

作者头像 李华