“大数吃小数”相关论文
研究计算机内部二进制浮点数IEEE754存储规则及相加过程,给出数值计算中两同号规范化数相加发生“大数吃小数”现象的严格理论界限......
利用大量数值试验,得出机器单双精度下关于两同符号数相加时“大数吃小数”界限的数据.对试验数据进行分段线性拟合,给出“大数吃......
