运算误差相关论文
采用QBASIC语言给出了一种实现多位数除法的算法.中间环节的运算误差为零,最后运算结果的误差为任意小的数,解决了一般微机中只能......
随着数字化变电站的迅猛发展,数字化电能计量将得到更广泛的应用。基于数字化计量体系下的有限字长效应会对测量结果产生误差,本文......
分析集成运算放大电路运算误差的表现形式,给出了如何恰当选择集成运算放大器外围元件参数,减小运算误差的合理途径和具体原则.......
本文从应用角度出发,对集成运算放大器主要参数引起的运算误差,进行了深入的研究。在分析方法上采用先研究单项参数对误差的影响,......