面向贝叶斯神经网络的概率计算电路设计

来源 :电子科技大学 | 被引量 : 1次 | 上传用户:clarinet1900
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络算法作为深度学习的基本组成部分之一,在过去数年间产生了显著影响并被广泛运用于各个领域。贝叶斯神经网络(BNNs)的不同之处在于,其权值和阈值以概率分布的形式表示,对比固定权值的神经网络,相当于引入不确定性而起到正则化的效果。分布式权值、阈值给BNNs带来一些优势,如有效地防止过拟合现象。但在工程应用中将BNNs应用于硬件时,对于传统的数字逻辑电路是不容易实现的,并会占用大量的硬件资源。因而寻找到一种合理的方式来表示贝叶斯神经网络的权值和阈值具有一定工程应用上的价值。为此,本文提出了一种巧妙利用概率计算固有噪声特性的尝试,进行面向贝叶斯神经网络的概率计算电路综合设计。论文所做的研究工作分为三个部分,其内容如下:(1)进行概率计算模块的设计。将概率计算过程中产生的误差引入贝叶斯神经网络,作为其权值、偏置来使用。这一过程分前向转换、概率计算、后向转换三部分完成。一方面,概率计算中使用逻辑门计算乘法和加法,与传统的二进制算法实现相比,可以显著减少功率和硬件占用;另一方面,概率计算方法具有精度不足的缺陷,运算得出的结果会以正确结果为期望波动。利用概率计算的固有误差特性,多次采集概率乘法器的输出,可以得到一个近似正态分布的结果,将作为贝叶斯神经网络的分布式权值使用。(2)基于概率计算的贝叶斯神经网络架构设计。在pycharm软件平台使用python语言以传统方式搭建贝叶斯神经网络,使用MNIST数据集对其进行训练,并提取权值、阈值参数。在使用网络进行预测时,利用概率计算的固有误差特性,产生所需的分布式权值。以概率计算单元为核心模块,对输入数据与权值做概率乘法,所得结果进行累加,完成单个神经元运算电路的设计。在此基础上,明确网络结构,完成整个概率计算贝叶斯神经网络的搭建。(3)进行概率计算神经元仿真验证。使用Verilog语言编写基于概率计算的权值生成模块和概率计算神经元,验证神经元设计在FPGA硬件平台上实现的可能性。仿真结果表明,使用概率计算方法产生的分布式权值能有效应用于贝叶斯神经网络,与传统方式相比能有效的降低硬件开销,其中主要的消耗资源类型LUT减少了86.23%。
其他文献
人口老龄化已经成为世界各国、各地区社会经济发展面临的重要问题。中国从2001年步入老龄化社会,提升老龄群体生活质量对于全面实现小康社会意义重大,也是促进中国城镇化健康
随着生物识别技术的发展,人脸识别技术已经在各行各业得到广泛应用,特别是在公共安全和生产中发挥着重要作用。与其他生物识别技术相比,人脸识别具有方便、便捷、高效、安全等优点,为其成功应用和普及奠定了基础,更是成为时下研究的热点。但人脸识别在实际应用场景中还是受光照、表情、姿态以及遮挡等因素的影响,这是人脸识别技术研究的重要之处,这使得人脸识别研究面临巨大的挑战,需要继续深入研究。多尺度几何分析的方式,
目的探讨胎儿脸面部三维超声成像的方法及其临床应用.方法采用表面成像方法对92例中晚期妊娠胎儿的脸面部进行三维超声成像.结果 92例孕妇中,90例均清楚显示胎儿脸面部的表面
当前中小企业融资问题阻碍了中小企业的日常经营和进一步发展。供应链金融模式,常通过应收账款质押、货权质押、订单融资等手段,能够满足中小企业对资金的需求,也能够在一定程度上的缓解广大中小企业融资难的局面,推动我国中小企业长远发展,提升他们的竞争力,维持供应链的稳定运行。供应链应收账款融资是中小企业借助于核心企业的大型规模和良好信誉为自身提供信誉加强,利用企业自身的应收账款向银行寻求融资。这一融资模式不
目的观察肝硬化门静脉高压患者和特发性血小板减少性紫癜(ITP)患者行脾动脉栓塞术前后脾脏及脾静脉血流动力学变化.方法应用彩色多普勒超声检查对22例肝硬化和12例ITP患者行
二十一世纪迎来了知识经济时代,教育现代化和数字化的发展关乎我国国际竞争力,信息化技术支持下的现代教育将为我国的人才输送提供强大动力。虽然我国的教育信息化发展至今取得了不俗的成绩,但是在教学资源的建设中仍然存在很多问题亟待解决。与此同时,科学技术的发展带动的生理数据测量技术的升级,逐渐受到研究者们的关注与研究。研究者们致力于探索现代化教育资源的开发与建设,并持续优化,努力将成果应用到实际教学场景中,
溶液结构的研究包括很多方面,单一的纯水溶液结构研究就已经非常困难,更不要提具体的二元、三元等多元的电解质溶液。电解质溶液中普遍存在离子缔合现象,溶液中离子对的存在
《高中语文新课程标准》中要求学生须具备的能力之一是鉴赏能力。但是在目前的古诗词学习中,学生的鉴赏能力还有待进一步提高,古诗词的教学效果也不明显。提升高中语文古诗词
分析了现有智能变电站通信网络存在的问题。基于智能变电站的网络通信发展需求,以以太无源光网络(Ethernet Passive Optical Network,EPON)技术为基础,研究高可靠性自适应网
对产品制造的关键工序进行质量控制是确保最终产品质量的重要措施。随着制造业的发展,工序质量控制常用的统计过程控制(SPC)方法难以与不断提高的制造复杂程度和自动化程度相