计算机工程与科学2021,Vol.43Issue(1):42-48,7.DOI:10.3969/j.issn.1007-130X.2021.01.006
面向混合异构架构的模型并行训练优化方法
A model parallel training optimization algorithm for hybrid heterogeneous platforms
摘要
关键词
混合异构/模型并行/微批次/设备差异分类
信息技术与安全科学引用本文复制引用
高开,郭振华,陈永芳,王丽,赵雅倩,赵坤..面向混合异构架构的模型并行训练优化方法[J].计算机工程与科学,2021,43(1):42-48,7.基金项目
山东省重点研发计划(重大科技创新工程)(2019JZZY011101) (重大科技创新工程)
山东省自然科学基金(ZR2018BF011) (ZR2018BF011)