数据与计算发展前沿(中英文)2025,Vol.7Issue(2):P.120-129,10.DOI:10.11871/jfdc.issn.2096-742X.2025.02.012
面向国产超算系统的大模型训练优化方法
摘要
关键词
大语言模型/分布式训练/集合通信/数据压缩分类
信息技术与安全科学引用本文复制引用
屈志勇,王晓光,周纯葆,史源香,乔嘉伟..面向国产超算系统的大模型训练优化方法[J].数据与计算发展前沿(中英文),2025,7(2):P.120-129,10.基金项目
山西省气象局揭榜挂帅项目(SXKJBGS202409) (SXKJBGS202409)
山西省档案科技项目共同资助(2024-SX-002) (2024-SX-002)
国家气象信息中心重点创新团队(NMIC-2024-ZD08)。 (NMIC-2024-ZD08)