深度学习程序内存预测方法OA北大核心CSTPCD
深度学习程序在广泛领域取得了巨大成功,然而其内部错误可能导致严重的资源浪费,甚至引发灾难性故障。本文分析了导致程序在实际运行中出现任务执行失败的典型缺陷及其关键影响因素,提出基于静态分析与自注意力机制网络的深度学习程序内存预测方法,在程序内存估计任务上达到平均8.38%的相对预测误差,可以有效预防内存溢出问题、协助合理优化硬件资源配置。
刘晨;陆杰;李炼
中国科学院计算技术研究所处理器芯片全国重点实验室,北京100190 中国科学院大学,北京100049中国科学院计算技术研究所处理器芯片全国重点实验室,北京100190 中国科学院大学,北京100049中国科学院计算技术研究所处理器芯片全国重点实验室,北京100190 中国科学院大学,北京100049
计算机与自动化
深度学习静态分析内存预测
《高技术通讯》 2024 (10)
P.1036-1045,10
国家自然科学基金(62132020)资助项目。
评论