直值相关论文
针对目前误差理论尚不完善的现状,从误差和有效数字2个方面,对实验数据处理时容易产生混乱的几类问题作了详细分析,比较了传统误差......
介绍了机器数在数轴上的几何表示方法,并用此方法分析了补码运算的溢出问题....