【摘 要】
:
提出了一种基于随机特征映射的四层神经网络(FRMFNN)及其增量学习算法。FRMFNN首先把原始输入特征通过特定的随机映射算法转化为随机映射特征存储于第一层隐藏层节点中,再经过激活函数对随机映射特征进行非线性转化生成第二层隐藏节点,最后将第二层隐藏层通过输出权重连接到输出层。由于第一层和第二层隐藏层的权重是根据任意连续采样分布概率随机生成的而不需要训练更新,且输出层的权重可以用岭回归算法快速求解,从而避免了传统反向传播神经网络耗时的训练过程。当FRMFNN没有达到期望精度时,借助于快速的增量算法可以持续改
【基金项目】
:
国家自然科学基金(61572236)。
论文部分内容阅读
提出了一种基于随机特征映射的四层神经网络(FRMFNN)及其增量学习算法。FRMFNN首先把原始输入特征通过特定的随机映射算法转化为随机映射特征存储于第一层隐藏层节点中,再经过激活函数对随机映射特征进行非线性转化生成第二层隐藏节点,最后将第二层隐藏层通过输出权重连接到输出层。由于第一层和第二层隐藏层的权重是根据任意连续采样分布概率随机生成的而不需要训练更新,且输出层的权重可以用岭回归算法快速求解,从而避免了传统反向传播神经网络耗时的训练过程。当FRMFNN没有达到期望精度时,借助于快速的增量算法可以持续改
其他文献
尽管神经机器翻译已经成为目前机器翻译研究应用中的主流方法与范式,然而同时也存在译文流利但不够忠实、罕见词处理困难、低资源语言表现不佳、跨领域适应性差、先验知识利用率低等问题。受统计机器翻译研究启发,在神经机器翻译模型中融入语言学信息,利用已有的语言学知识,缓解神经机器翻译面临的固有困境,提升翻译质量,成为神经机器翻译研究领域的一个热门话题。根据语法单位分类体系,可以将这方面的研究分为三类:融合字词结构信息的神经机器翻译、融合短语结构的神经机器翻译和融合句法结构信息的神经机器翻译。目前的研究主要集中在这三方
当前出库货位优化研究对货物生产日期的考虑大多数仅仅是简单地使用先进先出原则,如何更合理考虑货物生产日期对货位优化的影响,是亟待解决的问题。针对此问题,提出以出库代价和货物剩余价值率为优化因素的货位优化模型,并采用基于自适应算子、精英策略和灾变算子的改进遗传算法结合基于仓库繁忙度的自适应优化权重对出库货位优化模型进行求解。采用企业实际生产数据进行验证,实验结果表明采用改进遗传算法的出库货位优化算法效果更优,并且使用基于仓库繁忙度的自适应优化权重,能够有效降低货物因过久存放而造成货物价值下降的风险同时又能在仓
形式概念分析能够使用概念格和(属性)蕴涵来对知识进行可视化和表示。决策蕴涵是一种特殊的蕴涵,而决策蕴涵的研究就是在蕴涵中建立并研究一个/多个封闭的子系统(包括决策蕴涵子系统及相应的语义和语构子系统)。为了进一步厘清蕴涵和决策蕴涵之间的关系,对由决策蕴涵子系统能不能得到整个蕴涵系统进行了研究。事实上,如果蕴涵可以由决策蕴涵推出,那么关于蕴涵和规范基的研究就可以转化为决策蕴涵和决策蕴涵规范基的研究。首先给出了蕴涵可以由决策蕴涵表示的充要条件;接着通过实例表明,存在一些蕴涵不可由决策蕴涵表示,因此进一步区分了直
K最近邻(KNN)算法作为目前使用最广泛的有监督分类算法,在大规模、多维度数据的处理方面往往是低效的,因此提出了一种适用于高维度大数据量处理的改进KNN算法.首先采用深度神
为了能够更好地预测股票的走向趋势,解决在大量特征和大数据下预测精度低的问题,在随机森林的基础上提出了一种基于Pearson系数的随机森林新的组合模型方法。利用Pearson系数进行相关性检验删除无关特征;使用改进的网格搜索法对决策树参数调优;利用随机森林将剩余特征进行建模回归预测,并得出最终结论。实验结果表明:改进后的随机森林在预测值的平均绝对误差(MAE)、均方误差(MSE)都得到了较大的提高。其中今世缘改进后的随机森林比传统随机森林的MSE值降低了56%,MAE值降低了37.3%,其他两只股票预测效果
为了追求精度,深度学习模型框架的结构越来越复杂,网络越来越深。参数量的增加意味着训练模型需要更多的数据。然而人工标注数据的成本是高昂的,且受客观原因所限,实际应用时可能难以获得特定领域的数据,数据不足问题非常常见。数据增强通过人为地生成新的数据增加数据量来缓解这一问题。数据增强方法在计算机视觉领域大放异彩,让人们开始关注类似方法能否应用在序列数据上。除了翻转、裁剪等在时间域进行增强的方法外,也描述
下雨是一种常见的天气现象,而滞留在图像上的雨条纹降低了图像的清晰度以及影响了基于该图像的后续图像处理。从图像中去除雨的关键是如何准确、鲁棒地识别图像中的雨区域。使用导向滤波器和Haar小波变换组成的雨线提取模块来增强雨条纹特征提取,然后通过空间关注模块生成雨线注意力图,以准确定位雨条纹的位置。两者结合后,获得降雨条纹的前景信息再通过生成对抗网络训练机制中相互博弈的特征,可以增强雨条位置识别能力,并
情感分析是指利用计算机自动分析确定人们所要表达的情感,其在人机交互和刑侦破案等领域都能发挥重大作用。深度学习和传统特征提取算法的进步为利用多种模态进行情感分析提供了条件。结合多种模态进行情感分析可以弥补单模态情感分析的不稳定性以及局限性等缺点,能够有效提高准确度。近年来,研究者多用面部表情信息、文本信息以及语音信息三种模态进行情感分析。主要从这三种模态对多模态情感分析技术进行综述:首先对多模态情感分析的基本概念以及研究现状进行简要介绍;其次总结了常用的多模态情感分析数据集;然后分别对现有的基于面部表情信息
近年来,国家电网积极推动泛在电力物联网的建设,以实现电力系统的万物互联与优化管理。其中,射频识别技术(RFID)作为泛在电力物联网建设的核心技术,凭其价格低廉、无需电源、非视距通信、远距离通信等特点,被广泛应用于电力仓储物资管理、电力巡检等应用场景。为了盘点电力设备仓库中的物品,需要快速识别粘贴在物品上的标签,然而由于仓库中存在大量标签,在通信过程中容易产生标签信号冲突。针对当前商用RFID系统普
基于深度学习网络在医学图像分割方面取得了很多成果。由于类圆形的肺结节不同于血管和大部分肺部结构呈扁平状,因此通过对U-Net进行扩展,提出一种带有多视图密集卷积的双向LSTM U-Net网络来消除血管和肺内组织结构以检测结节。与U-Net在跳跃连接中进行级联不同,改进双向LSTM网络将编码路径中提取特征图与解码卷积层进行非线性结合。为了加强特征传播和鼓励特征复用,在编码路径的最后一个卷积层采用密集