数值精度相关论文
机载雷达自适应数字波束形成（ADBF）处理过程中有高阶复矩阵求逆运算,由于有限字长效应会产生严重的误差积累,尤其是当回波信号的动态......
中文：翼型的气动性能数值模拟是翼型气动性能分析和气动优化设计的重要基础。研究表明翼型气动力系数和流场的计算精度受计算网格的......
摘 要：以苹果幼木为例，描述其树干周长随时间变化的Logistic 模型，并运用传统的非线性最小二乘法进行参数估计，在此基础上，构建非线性混......
梁、板、壳是结构工程常见的构件，其控制方程为微分方程的初边值问题。具有初、边值条件的常、偏微分方程的解析解一般无法通过理论......
本文讨论了Mathematica软件中的浮点计算精度问题,阐明了常量$MachineEpsilon的来历,有助于正确使用Mathematica进行科学计算.......
期刊
基于线性插值得到的高频段反应谱,存在不可忽视的误差。通过采用数字加速度荷载在Δt时段内按抛物线变化的反应谱精确计算方法,以......
首先分析了各类低阶和高阶差分格式,指出二阶精度格式具有综合优势.接着以二维对流扩散方程为例,推导出延迟修正的CDS格式,并定义......
项式插值和符号计算的思想,研究了Bernstein多项式函数复合问题,并将其应用于曲线曲面的情形.与两种已有方法相比,新方法具有速度......
运用待定系数法，对Crank-Nicolson格式进行了改进，得到一新的具有3阶精度的HAUC2格式。新格式有非保守型和保守型两种。对质量输移对......
通过将所研究的偏微分方程转化为常微分方程组，利用指数函数的Trotter积公式近似该常微分方程组的系数矩阵并分离成分块小矩阵，再利......
定性讨论了采用精确法和其它数值方法计算地震动反应谱的精度和与之相关的问题。认为综合考虑精度、稳定性和效率3个因素,精确法仍......
机载雷达多通道空时自适应处理（STAP）系统的实时实现的难点在于大数据流下的高精度实时处理，其中STAP权值计算有数据域和均方域2种方......
本文对三维罚平衡杂交元作了研究,建议选择分项罚数基本原则.数值实验表明,这一方法可以十分有效地改善畸变网格下的数值计算精度,......
格网DEM是目前数字高程模型生产与应用的主流数据模型，由于规则格网数据结构与生产技术的影响，DEM地形描述的准确性存在较大的区域性......
现代大型商业软件的仿真结果已经于实验结果非常接近,并且可以应用于很多无法或者很难展开现场试验的场合。随着航天、航空、武器......
针对井筒热损失常规算法存在的问题，设计了改进算法。该算法以热损失速度作为迭代变量，通过给定合理的迭代初值和变量修正策略，来提高......
高速层流翼型计算的敏感性在于转捩位置的判定与后缘压缩流的捕捉,其气动力系数和流场计算精度受计算网格影响很大。本文针对高速......
提出一种基于半导体器件漂移扩散模型并结合交替方向隐式时域有限差分(ADI-FDTD)法的新型全域FDTD法.该方法时间步长的选择取决于......
为了提高粒子法即移动粒子半隐式法(Moving Particle Semi-implicit method, MPS法)中自由表面粒子的识别精度,降低由粒子误判引起......
多次透射公式(multi-transmittingformula，MTF)是一种具有普适性的局部人工边界条件，但其在近场波动数值模拟中一般与有限元法结合.......
10 kV同步真空断路器的精度主要包括两个方面,一是测量数值精度,另一个是相位角的精度。电力系统采集装置测量精度问题,长期以来很......
针对Burgers方程在空间离散格式与时间离散格式方面的精度匹配问题,提出了一种时空耦合谱元方法,求解了一维Burgers方程。求解时在......
近年来,为了使时域有限差分(finite-difference time-domain,FDTD)算法的时间步长不再受Courant-Friedrichs-Lewy(CFL)稳定性条件......
提出平面区域内点集的新的自动生成法以及更加通用、健壮的任意平面区域的Delaunay三角剖分法 .前者同时保证新生成的点均位于域内......
