软件导刊2019,Vol.18Issue(4):50-56,7.DOI:10.11907/rjdk.182282
浮点类型有效位数计算与应用分析
The Calculation About Number of Significant Digit and Application Analysis of Floating-point Type
摘要
关键词
浮点类型/有效位数/存储单元/数制转换/不精确表示分类
信息技术与安全科学引用本文复制引用
肖红德..浮点类型有效位数计算与应用分析[J].软件导刊,2019,18(4):50-56,7.基金项目
河南省高等学校重点科研项目(16A110010) (16A110010)
河南大学民生学院教学改革研究项目(MSJG2016042) (MSJG2016042)