舍入误差相关论文
在计算机技术高速发展的今天,多项式的函数值及其导数值评估在越来越多的领域发挥着重要作用,几乎所有的函数在计算机运算过程中都......
随着超级计算机的迅猛发展,高性能计算技术面临着巨大的挑战。由于绝大部分计算机均使用浮点运算标准,在大规模问题中,减弱舍入误......
1 本文首先从一般并行计算理论出发，结合大气科学模式的特点，总结出一套对数值模式适用的并行化编程方案，并且提出了并行计算过程中应......
网络传输技术的快速发展,不仅为电子科技和人民生活带来革新,信息传输速度也发生了质的飞跃。但随之而来的信息传输安全问题也备受......
研究了8位数控衰减器的控制码规律和校准方法,分析了校准控制码步长与校准误差的关系,得到校准误差随控制码步长螺旋上升的结论,该......
波动率的建模和预测为管理风险、构建投资组合和定价衍生产品等问题提供了关键信息,波动率是描述金融价格不确定性、度量风险的重......
数值计算程序在科研及应用中都有着广泛的使用,它的计算准确和高效都是软件正确运行的重要保证,尤其是在安全要求条件高和计算资源......
二次特征值问题(QEP)特征值的导数在模型修正及破损诊断等方面有重要的应用价值.文献[1]中给出了QEP半单重特征值导数的计算公式,......
最小二乘问题不仅是许多数学分支的基本工具，而且在经济学、统计学、测量学、最优化、信息处理、自动控制、工程技术和运筹学等......
本文主要研究了舍入误差对若干参数模型的影响,所研究的模型包括秩集抽样(RSS)模型、多重秩集抽样(MRSS)模型和自回归(AR)模型。同......
浮点数求和与点积计算在科学计算,信号处理,图像处理等领域中广泛应用.对浮点和与点积计算的硬件结构进行了研究.在只有一次舍入误......
研究了常微分方程一般数值解法的误差传播规律, 提出理论收敛性、数值收敛性和真实收敛性3种收敛性概念, 详细讨论了浮点机上一般......
在大多数解初值问题的长时间数值积分计算中很少考虑由于机器的有限精度所导致的舍入误差.利用29种标准的数值方法,通过大量的数值......
基于离散余弦变换的水印嵌入技术存在变换过程中浮点数-整数转换而引入的舍入误差问题.文章采用微分演化算法修正了这类舍入误差,......
当报表的数据精度降低时,由传统四舍五入方法产生的某些行、列或整个报表的累计舍入误差可能超过可接受的范围.介绍了一种用于调整......
基于离散余弦变换的脆弱数字水印计算过程中,由于浮点数-整数转换过程舍入误差造成影像峰值信噪比（PSNR）降低,提取水印标准互相关相......
首先通过病态问题引入了研究数值计算误差的意义；接着介绍了计算误差的来源及分类；然后研究了何如运用稳定性分析来判断数值问题的优......
在螺杆压缩机作动室的压力脉动模拟分析中,针对采用的数值计算方法--Rouge_Kutta法可能由于计算舍入误差累积而造成计算发散,提出......
本文考察了如何适当地选择常系数线性差分方程的起始值以确定一个线性时不变系统。在实际应用中大多利用差分方程进行迭代计算．本文......
本文提出了整数剩余类环上的Walsh变换,它们与一般的Walsh变换相比用于CDMA通信中有着更加优越的性能.它们具有数据压缩的功能,提......
此文旨在研究气候数值模式的长期计算时受舍入误差的影响。通过对大气环流谱模式SAMIL采用不同CPU数计算时获得的长时间积分结果进......
利用Lu等人通过连分式修正更快收敛的欧拉常数数列及其相关余项式,进一步采用Levin变换进行二次加速,特别是在克服舍入误差的情况......
结合MonteCarlo法的虚拟仪器测量不确定度评定流程,提出两个方面的完善方案：根据虚拟仪器软件数学模型,使用区间分析法建立舍入误差......
DDFS系统中，由于波表容量的限制，带来了相位截断误差。同时，有限的数据宽度也会带来舍入误差。相位截断误差和舍入误差在频谱中的分布......
提升算法的推出使得离散小波变换硬件的快速实现成为可能。翻转结构在提升架构的基础上进一步提高运算速度。在此,对翻转结构的舍......
本文分别从舍入误差、截断误差、算法的稳定性等角度对恒等变换计算多项式的出错原因,进行了细致的分析。本文结果解释了在许多快......
采用单精度和双精度编译的大气环流模式对东亚以及西北太平洋气候进行集合模拟,分析舍入误差对大气环流模式在东亚和西北太平洋区......
提出了一种基于图像载体的文本信息隐藏算法。引入一种新的基于地址错位的随机发生器算法,对所嵌入信息进行置乱。根据置乱后信息......
本文在文[1]的基础上定义了关键因子的概念,提出了一次同余组的关键因子求解算法,并给出了解的舍入误差估计.通过实例说明了该算法......
介绍了多精度计算和区间分析的概念、方法及应用,使用多精度计算研究Lorenz非线性动力系统计算结果对计算精度、步长的敏感依赖关......
通过修正求解Chebyshev多项式的Clenshaw和Forsythe算法,提出了求解一般正交多项式的两种并行算法.并通过讨论这两种并行算法矩阵......
通过分析"四舍五入"法则与国家科技部舍入法则的一些问题,从而提出"舍入法则"的新建议.......
在高性能计算中，大规模、大尺度、长时程数值计算由于浮点计算的舍入误差累积效应，常导致不可信的数值结果。针对这一难以解决的常见......
MATLAB仿真时数据计算存在舍入误差，影响仿真精度，导致仿真结果与实际情况不符，是仿真过程中容易忽略的问题，且在欠缺理论推导的情况下......
实际的DDFS系统中,由于波表（WFT）宽度和深度的限制,会带来幅度上的舍入误差和相位上的截断误差。舍入误差在频谱中的接近白噪声,而相......
文章通过对误差的定量分析,得到数值计算中应遵循的一些原则,围绕着如何让学生学会运用这些基本原则去解决实际问题,开展了广泛的......
在基于PSWF的非正弦数字通信中,二进制定点数的截尾误差与舍入误差对系统的性能影响不容忽视.首先分析了二进制定点数产生有限字长......
详细分析了JPEG2000标准提升算法,对标准提升算法进行了改进。对小波系数进行翻转处理,并采用CSD编码,用移位加操作实现常系数乘法......
从有效数字的定义和微小误差准则出发，通过实例探讨了校准结果数据处理方法的三个基本原则，同时阐述了测量结果数据处理对计量校准工......
借助Edgeworth渐近展开技术,研究了具有显著舍入误差效应的金融数据的波动率估计问题,探究了估计量的统计性质,构建了波动率的置信......
讨论了采用预处理方法计算低速流动时遇到的参数选择、计算格式、舍入误差等问题，提出了一种适用于粘性计算的预处理参数计算方法。......
基于离散余弦变换的脆弱数字水印计算过程中，由于浮点数一整数转换过程舍入误差造成影像峰值信噪比（PSNR）降低，提取水印标准互相关相似......
主要分析了线性相位频率采样FIR滤波器中的量化噪声，并给出计算公式....
本文以椭圆型偏微分方程问题为背景研究三角形单元的有限元方法.随着计算机图形学的发展,三角形单元划分取得了巨大的成就,可以得......
对电力参数交流同步采样有效值测量的典型算法梯形法的截断误差进行了分析,给出了与采样点的关系:与采样点数N的平方成反比,N＞26, ......
我国煤炭资源储量大,煤种齐全,同时不同变质程度煤也相继取得了煤层气产量的突破,结合煤层气产出机理,进行不同变质程度煤的扩散规......
学位
