面向嵌入式系统的有限精度权值神经网络优化的研究

来源 :华东理工大学 | 被引量 : 0次 | 上传用户:lwy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文主要针对目前广泛使用的嵌入式系统具有实时性要求高、内存容量有限以及软硬件精简等特点,传统浮点数权值和连续激励函数的神经网络计算量及其所需存储空间较大,无法在精简硬件的嵌入式系统中的应用的问题,从精简优化神经网络的目的出发,对有限精度神经网络权值的范围、网络结构、训练算法、运行方法等开展研究,使得能在嵌入式系统中利用神经网络来解决实际问题。本文主要研究成果如下:   ⑴通过对分类问题的有限精度权值神经网络获得解的能力的分析,提出一种保证解决方案存在的神经网络有限精度权值范围和数量的计算方法。采用有限范围定点数或整数权值为提高神经网络的执行效率提供一条有效途径,因为有限范围的权值可以减少存储容量,且比浮点数计算的效率要高很多。但如果把权值的范围和精度下降得太多,会造成网络不收敛,得不到问题的解。因此必须针对不同的问题,分析计算并通过实验验证权值的范围和数量,确保所采用的权值范围及其神经网络能够在应用中取得良好效果。   ⑵研究将神经网络浮点数权值改为有限精度定点数或整数权值后,网络结构、网络训练算法、网络运行方式、激励函数等如何进行改进,使得神经网络能够满足要求的收敛性和实时性。采用改进的遗传算法来对有限精度定点数或整数权值进行学习训练,同时在神经网络训练过程和网络运行中均采用离散激励函数,加快网络的运行速度。   ⑶根据上述所描述的思想方法,采用这种改进遗传算法来优化有限精度的整数权值神经网络。针对传统的图像增强算法对嵌入式系统产品的不同类型的图像进行自适应增强所存在的问题,提出了一种基于有限精度神经网络的实时图像自适应增强算法,分别在软件和硬件平台上进行了仿真测试,并对实验结果进行了分析和比较,证明该整数权值神经网络具有好的实时图像增强效果。   ⑷目前触摸屏常用的几种校准方法,如二点法、三点法和四点法等都是通过比例计算来实现的。由于触摸屏的坐标系和液晶屏的坐标系是一种不规则的非线性关系。因此采用比例计算来校准触摸屏,存在着较大的误差。为了提供一种既能提高触摸屏校准精度,又适合嵌入式系统的触摸屏校准。结合触摸屏坐标系的非线性特性和神经网络的高度非线性映射能力,提出了一种定点数权值神经网络的触摸屏校准方法。该方法采用精度可调的比例数格式定点数表示神经网络的权值,用改进的遗传算法进行网络的训练,并对网络的非线性节点激励函数进行了线性离散化,进一步提高了计算效率。通过实验验证,采用该神经网络的触摸屏校准具有比传统校准法更高的定位精度,并且在嵌入式系统中运行时的效率有了很大的提高。   ⑸在分析研究现有数字识别方法的基础上,提出一种新的有限精度权值神经网络的数字识别方法。采用用逐步量化的Back-propagation(QBPSS)算法来训练神经网络的有限精度权值。同时提出了非线性激励函数按权值精度进行离散化的新方法,能更大地提高神经网络在嵌入式系统上的运行速度。将该优化的有限精度权值神经网络在ARM9嵌入式系统上进行数字识别检测,结果表明该有限精度权值神经网络比其他有限精度权值神经网络有更好的效果,在嵌入式系统的数字识别中比传统神经网络的效率提高了11倍。
其他文献
脑机接口的出现是由于脑科学、信号处理科学、计算机科学等一系列学科发展的结果,它可通过“脑-机器”这一通路直接控制外设,有着广泛的应用前景。本文针对自发脑电的左右手运
视频图像拼接是将视频中的帧图像进行配准拼接,从而生成包含视频序列所有信息的全景图。该技术在大面积静态场景观测、虚拟现实、视频检索、以及高分辨率图像获取等方面有着重
热镀锌板是以冷轧薄板为原料,在钢板表面包上镀锌层,达到增加耐腐蚀性,延长钢材使用寿命的目的。表面缺陷是影响镀锌带钢质量的一个重要因素,对镀锌板进行表面缺陷检测从而控制和
广播全台网是一种用来处理、交换音频信息的计算机系统,它是音频技术和计算机技术高度发展的产物,也是新一代数字化广播的基础。作为广播全台网的重要组成部分,全网总管理系
随着电子科技和计算机技术的飞速发展,电子产品数字化趋势越来越明显,数字系统尤其是数字总线系统模块化、智能化程度越来越高,功能越来越复杂,更新速度越来越快。传统的测试
脑机接口(Brain-Computer Interface,BCI)是从人脑采集到的电信号转换成控制命令直接传递给计算机或其他机器的一种新的人机交互系统,主要通过识别人的不同思维活动,以计算机为
随着计算机总线技术的发展,数据采集系统可以方便灵活地将采样数据传输到PC机上,利用CPU强大的运算能力来进行分析与处理,这大大降低了采集系统对高速数据处理的难题,在数据
生产调度是在生产任务给定的前提下,确定合理的市场决策,将有限的物质资源分配给不同的工作任务,使得预定的目标最优或者最大化近似最优的问题。随着近年来,市场竞争越来越激烈,企
驾驶分心是引起交通事故的一个重要原因,视线是判断驾驶员是否分心的关键因素。本文在广泛研究和大量参考国内外相关技术和文献的基础上,设计了一套基于DSP的、车载的、非接触
基于视频的多人体目标跟踪是机器视觉领域中一个非常重要的分支,有着非常广泛的实用价值,诸如智能监控、人机交互、交通导航等方面。人体视频分析主要包括三个基本步骤:(1)人体