混合精度谱变换方法的设计与实现
本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法。该方法对谱变换计算中精度敏感部分采用了64位高精度计算，精度不敏感部分采用用户指定精度计算的策略。数值试验表明：在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多。尤其在高分辨率时，混合方法计算比纯32位计算时间增加较小。混合方法在计算精度方面较纯32位计算时提高较大,可以满足精度要求。
天气预报 数值分析 谱变换计算
赵军 宋君强
国防科技大学计算机学院计算机研究所,410073
国内会议
辽宁大连
中文
197-200
2004-07-26（万方平台首次上网日期，不代表论文的发表时间）