机器精度相关论文
研究了常微分方程一般数值解法的误差传播规律, 提出理论收敛性、数值收敛性和真实收敛性3种收敛性概念, 详细讨论了浮点机上一般......
利用大量数值试验,得出机器单双精度下关于两同符号数相加时“大数吃小数”界限的数据.对试验数据进行分段线性拟合,给出“大数吃......
印刷过程往往受到温度、适度、机器精度、设备操作等各种因素干扰，印刷质量达不到既定要求，这就需要对印刷全流程进行检测控制。印刷......
平版胶印是通过网点传递油墨实现图文复制的,在印刷过程中,由于印刷压力、油墨性能、机器精度、滚筒包衬、橡皮布、纸张等因素的影......
循环三对角、循环Toeplitz三对角线性方程组的求解在科学与工程计算中有着广泛的应用. 运用矩阵分解给出此类方程组的直接解法; 通......
期刊
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础.论文全面研究了计算机浮点数算术运算的舍入误差的......
