【摘 要】
:
近年来,人工智能、类脑计算等信息技术的长足发展开启了新一轮智能化革命的序幕。人工神经网络便是脑科学与信息技术高度交叉和融合的产物,随着研究工作的不断推进,其在医学,经济,生物,自动控制,模式识别等领域均发挥出优秀的性能并且解决了众多人脑乃至现代计算机都无法解决的实际问题。作为经典的人工神经网络模型之一,径向基函数网络(RBF)拥有良好的泛化能力和逼近精度,其简洁的网络结构和出色的分类性能使其可以高
论文部分内容阅读
近年来,人工智能、类脑计算等信息技术的长足发展开启了新一轮智能化革命的序幕。人工神经网络便是脑科学与信息技术高度交叉和融合的产物,随着研究工作的不断推进,其在医学,经济,生物,自动控制,模式识别等领域均发挥出优秀的性能并且解决了众多人脑乃至现代计算机都无法解决的实际问题。作为经典的人工神经网络模型之一,径向基函数网络(RBF)拥有良好的泛化能力和逼近精度,其简洁的网络结构和出色的分类性能使其可以高效的完成分类任务,在图像处理、模式识别、联想记忆等方面有着巨大的应用潜力。然而根据的不同分类任务获取最佳网络参数且完成高性能的网络模型构建并非易事,因此需要采取一种更合理有效的解决方案来突破这些瓶颈。在人工神经网络飞速发展的同时,其对计算能力的需求也在不断增长,随着摩尔定律达到极限,提高芯片算力和降低能耗变得越来越困难。传统电路的运行和处理速度已经无法适配日益增长的算力需求,这就迫切的需要一场电路领域的革新。忆阻器正是这场科技浪潮中的亮点之一,这种纳米级尺寸的器件不仅具有非易失性,同时又兼备高集成、低功耗、读写快的特点。由其构成的忆阻电路在大规模存储电路、逻辑运算等领域有广泛的应用前景,对于新一代智能信息处理系统而言有着非常重大的意义,也有望取代传统电路元器件并开辟新型电路的时代。本文对神经网络和忆阻设备现有研究进行了归纳总结,并在基础之上做出了以下探索和创新:(1)根据RBF神经网络的机制和性能瓶颈,提出一种RBF-MLP网络。该网络模型借助多层感知器(MLP)反向传播调整RBF隐藏层内基函数参数,并通过遗传算法框架根据当前任务自动获取网络中隐藏层神经元的最佳数量,完成高鲁棒性网络模型的构建。根据实验数据分析,该网络在进行MNIST数据集分类任务时可以达到98.33%的准确度,在与其他高性能神经网络模型的对比实验中也验证该方案的有效性。(2)根据自旋忆阻器的电路特性和结构特点,基于RBF-MLP网络的结构提出一种由自旋忆阻阵列与差分放大电路共同构成的神经网络电路模型。通过外部施加的读信号、训练信号、偏置信号达到片上有监督学习,理论上可以实时模拟RBF-MLP网络的运行效果。(3)在现有忆阻电桥突触的研究成果基础之上,提出一种不依赖晶体管的自旋忆阻电桥突触电路。同时基于这种忆阻突触提出完整的RBF神经网络电路。通过低功耗、小体积并且具有阈值特性的自旋忆阻突触替代传统MOS管,可以大幅提升神经形态系统中权值处理和计算效率。最后,对本文的内容和工作进行了总结。同时根据研究中出现的问题和不足之处提出解决方向和规划,并对下一步需要进行的工作进行了展望。
其他文献
自适应滤波(AF,adaptive filter)器因能够根据外部未知环境的变化,自适应调整系统参数以匹配系统的特性,在信号处理、目标追踪与定位、时间序列预测等领域得到广泛应用。在实际应用场景中,因真实环境中所需处理的数据往往具备非线性的特征,线性模型的AF在处理此类非线性问题时表现不佳。核自适应滤波(KAF,kernel adaptive filter)算法通过将核方法引入AF,成为能够处理非线
非凸优化问题作为当前优化理论的研究热点之一,广泛地存在于机器学习、智能电网、无线传感器网络、模式识别等应用场景之中,在当下受到了密切的关注。虽然近年来学者们提出了大量的算法用于解决非凸优化问题,但是这些算法大多存在参数条件较多且复杂、全局寻优能力较差的问题,且在连续时间算法上的研究较少,这极大地限制了非凸优化算法的应用。神经动力学算法作为一种连续时间算法,具有并行计算、便于硬件实现、易于理论分析等
随着大数据产业的不断推进与发展,针对数据资料进行知识发现的重要性与日俱增。海量数据为诸多行业和领域带来“维数福音”的同时,大数据本身所具有的复杂多样性、不确定性以及模糊性等系列问题逐渐显露,使得传统意义下的数据挖掘与知识发现面临诸多挑战。如何从庞杂的数据中发掘有价值的信息与知识显得异常重要。近年来,粒计算理论逐步成为大数据和人工智能领域中一项重要的信息处理工具,通过粒化复杂问题到多个简单的子块,可
人工神经元作为人工神经网络中信息处理的基本单元,在人工神经网络的应用中起着关键的作用。众所周知,人工神经元是通过模拟生物神经元而提出的。研究生物神经元的模型及动力学行为能够帮助我们更好地设计人工神经元。为了研究生物神经元,许多神经元数学模型被提出。这些神经元数学模型可以模拟生物神经元丰富的动力学行为特性,如周期性簇放电、混沌簇放电、周期性尖峰放电和混沌尖峰放电等。研究表明,神经元的放电特性与神经元
随着无线移动通信技术的快速发展,呈爆炸性增长的移动数据量对频谱效率的要求不断提高,非正交多址接入(Non-Orthogonal Multiple Access,NOMA)凭借高频谱效率和大规模接入能力,成为了第五代通信系统的关键技术。尤其是在具有大规模接入需求的无线传感器网络中,NOMA技术可以发挥重要作用。然而,另一方面,无线传感器设备电池容量有限的问题也逐渐凸显,如何持续可靠地为设备提供能量成
近年来,随着互联网和大数据技术的发展,需要计算处理的数据量急剧攀升。而摩尔定律发展的放缓,以及冯诺依曼架构中的“内存墙”等问题,导致传统电子计算解决方案的高能耗,低速率问题越来越显著。另一方面,人类在集成光学领域的技术发展迅速,这为开发新型的光子神经元,并进一步发展光子神经网络系统提供了一个新机会和技术可能。相比于生物神经网络,光子神经网络的运行速度可以快百万倍。在目前的学术研究中,多种光子神经网
面部表情作为一种与生俱来的交流方式,传递着丰富的情感信息。心理学研究表明,除了常见的宏表情,还有一种真实度更高且不受自主控制的面部表情——微表情。微表情是人在高风险、高压力的环境下抑制其真实情绪失败时发生的即时非自愿的面部动作。作为一种自发式的情感表达,微表情能反映人的真实情绪,因此在谎言识别、面部情绪表达障碍诊疗等领域具有重要意义。长视频微表情自动检测,是利用计算机技术从长视频中定位出微表情的发
利用基于高光谱成像(Hyperspectral Imaging,HSI)技术提取的面部组织氧饱和度(Tissue Oxygen Saturation,StO2)来检测人类心理与生理压力,是一种利用生理信号的非接触式压力识别技术,是情感计算领域的一项重要研究内容。高光谱图像能够提供丰富的光谱、图像信息,但这也会造成数据冗余问题。正确处理高光谱图像中的高维数据是当前进行实时压力检测的关键。本文以实现S
人工神经网络作为当今最火热的研究领域,已经引起了工业界和学术界极大的研究兴趣,同时也产生了显著的社会影响。在视觉识别,自动驾驶,语音助手,游戏等不同的应用中,人工神经网络表现出的能力超过了人类。目前,常用的几种人工神经网络硬件计算单元有中央处理单元、图像处理单元、谷歌的张量处理单元等,这类加速器都是基于CMOS工艺制备的“冯诺依曼”架构数字计算单元,其特点是存储单元和计算单元分开。然而,随着信息技
人工智能和机器学习技术的飞速发展,极大地促进了金融、工程、自然语言处理等领域的进步,但同时也使得需要处理的时序信息快速增长。静态数据在很大程度上相互独立,而时间数据之间有相当大的相关性,选择恰当的分析工具是极其重要的。储备池计算是一种改进的递归神经网络,可以有效地处理时序数据,同时具备高性能和低功耗的优势。近年来,忆阻器和储备池计算的结合给储备池计算带来了新的机遇,并受到了极大的关注。纳米忆阻器是