无误差变换相关论文
在计算机技术高速发展的今天,多项式的函数值及其导数值评估在越来越多的领域发挥着重要作用,几乎所有的函数在计算机运算过程中都......
自从有了电子计算机,浮点数求和的方法和精度就是计算机和计算数学界关注的基本问题之一。由于数据在计算机上的存储、运算可能会......
针对航天测控系统高精度数控振荡器NCO实现需求,利用图形处理单元GPU的高灵活性和高效并行数据处理能力,设计了一种基于GPU的高效......
在许多大数据量、长时间数值计算中由于计算机无法通过浮点数完整的表示实数而产生截断误差导致误差不断变大,因此得到不精确的结......
随着科学工程计算大规模、高维数和长时程的特性越来越显著,浮点舍入误差的累积效应往往使得计算结果不可信,提高计算精度成为了并......
在大规模和长时程数值计算中,浮点运算的舍入误差的累积效应可能导致数值结果不可信。求和与点乘是浮点数值计算中最为基础的运算,......
在高性能计算中，大规模、大尺度、长时程数值计算由于浮点计算的舍入误差累积效应，常导致不可信的数值结果。针对这一难以解决的常见......
当前,通用处理器一般支持64位浮点运算,在大规模和长时程数值计算中,由于浮点运算的舍入误差累积效应,可能导致数值结果不可信。因......
