单精度相关论文
时域有限差分算法(Finite-Difference Time-Domain,FDTD)在计算电磁学领域得到了广泛研究与应用,已经发展成为一种成熟的解决现代......
学位
本次设计包括定点乘法、定点除法、浮点乘法以及浮点除法四个运算单元,主要设计模块为乘法运算模块和除法运算模块.其中浮点运算模......
提出了一种模式可配置的单精度浮点乘法器设计方案。利用90 nm互补金属氧化物半导体(complementary metal oxide semiconductor,CM......
赛灵思公司(Xilinx,Inc.)推出具有全新功能的ISE13.3设计套件,可帮助DSP设计人员在面向无线、医疗、高性能计算和视频应用的设计中,轻松实......
分析了IEEE754标准浮点数的存储格式、在数轴上的分布、最大值、最大间隔以及有效数字,总结了浮点数使用时的原则.......
最简单的初等函数实现方法是查找表,但其只有与简单算术操作相结合才可实现单精度的函数近似;在介绍已有同类研究后,文章提出了一......
程序设计语言一般会出现浮点数精度丢失问题,这直接影响到程序执行结果的准确性和可靠性。以Java语言为例,从浮点数的存储结构上进......
浮点运算单元FPU(Floating-point Unit)在当前CPU的运算中地位越来越重要,论文中实现了一种基于FPGA的快速单精度浮点运算器.该运算......
总结了C语言中的单精度型(float)、双精度型(double)和长双精度(long double)浮点数的存储格式,并用简洁的C程序给出了验证;对其表示的十进......
浮点数是C语言中重要的一种数据类型,浮点数使用不当就会导致程序运行错误,浮点数的使用是C语言的一个难点.总结了C语言中浮点数的......
随着集成电路的迅速发展,人们对于处理器的性能要求也越来越高,尤其在数值计算方面,既要求能够保证足够的速度和精度,又希望能有效......
展示了一个Intel众核处理架构上优化的N体内核代码,该优化版本在传统处理器上也获得了性能提升;探讨如何快速为优化过程确定一个目......
针对分段二次多项式逼近初等函数需要较大的查找表面积和电路面积的问题, 提出基于极大极小分段三次多项式逼近单精度浮点初等函数......
提出一种基于分段二次插值的单精度浮点数初等函数逼近设计,以实现倒数、均方根、均方根倒数、指数、三角函数等多种函数运算。通......
近年来,面向人工智能领域的芯片快速发展,低精度和混合精度的乘加运算能力是人工智能芯片计算能力的核心指标,同时乘加部件也是人......
在3D图像处理等对运算要求高的领域,高效除法器已成为处理器内必不可少的部件。在分析除法器设计的泰勒级数展开算法基础上,提出了......
为了弥补图形处理器中浮点除法器占用资源大且适用范围小的不足,给出一种高速低功耗的浮点除法器设计方案。采用SRT算法,修改高阶除......