论文部分内容阅读
本文主要针对目前广泛使用的嵌入式系统具有实时性要求高、内存容量有限以及软硬件精简等特点,传统浮点数权值和连续激励函数的神经网络计算量及其所需存储空间较大,无法在精简硬件的嵌入式系统中的应用的问题,从精简优化神经网络的目的出发,对有限精度神经网络权值的范围、网络结构、训练算法、运行方法等开展研究,使得能在嵌入式系统中利用神经网络来解决实际问题。本文主要研究成果如下:
⑴通过对分类问题的有限精度权值神经网络获得解的能力的分析,提出一种保证解决方案存在的神经网络有限精度权值范围和数量的计算方法。采用有限范围定点数或整数权值为提高神经网络的执行效率提供一条有效途径,因为有限范围的权值可以减少存储容量,且比浮点数计算的效率要高很多。但如果把权值的范围和精度下降得太多,会造成网络不收敛,得不到问题的解。因此必须针对不同的问题,分析计算并通过实验验证权值的范围和数量,确保所采用的权值范围及其神经网络能够在应用中取得良好效果。
⑵研究将神经网络浮点数权值改为有限精度定点数或整数权值后,网络结构、网络训练算法、网络运行方式、激励函数等如何进行改进,使得神经网络能够满足要求的收敛性和实时性。采用改进的遗传算法来对有限精度定点数或整数权值进行学习训练,同时在神经网络训练过程和网络运行中均采用离散激励函数,加快网络的运行速度。
⑶根据上述所描述的思想方法,采用这种改进遗传算法来优化有限精度的整数权值神经网络。针对传统的图像增强算法对嵌入式系统产品的不同类型的图像进行自适应增强所存在的问题,提出了一种基于有限精度神经网络的实时图像自适应增强算法,分别在软件和硬件平台上进行了仿真测试,并对实验结果进行了分析和比较,证明该整数权值神经网络具有好的实时图像增强效果。
⑷目前触摸屏常用的几种校准方法,如二点法、三点法和四点法等都是通过比例计算来实现的。由于触摸屏的坐标系和液晶屏的坐标系是一种不规则的非线性关系。因此采用比例计算来校准触摸屏,存在着较大的误差。为了提供一种既能提高触摸屏校准精度,又适合嵌入式系统的触摸屏校准。结合触摸屏坐标系的非线性特性和神经网络的高度非线性映射能力,提出了一种定点数权值神经网络的触摸屏校准方法。该方法采用精度可调的比例数格式定点数表示神经网络的权值,用改进的遗传算法进行网络的训练,并对网络的非线性节点激励函数进行了线性离散化,进一步提高了计算效率。通过实验验证,采用该神经网络的触摸屏校准具有比传统校准法更高的定位精度,并且在嵌入式系统中运行时的效率有了很大的提高。
⑸在分析研究现有数字识别方法的基础上,提出一种新的有限精度权值神经网络的数字识别方法。采用用逐步量化的Back-propagation(QBPSS)算法来训练神经网络的有限精度权值。同时提出了非线性激励函数按权值精度进行离散化的新方法,能更大地提高神经网络在嵌入式系统上的运行速度。将该优化的有限精度权值神经网络在ARM9嵌入式系统上进行数字识别检测,结果表明该有限精度权值神经网络比其他有限精度权值神经网络有更好的效果,在嵌入式系统的数字识别中比传统神经网络的效率提高了11倍。