【摘 要】
:
将递归神经网络(RNN)应用于意图检测和槽填充已实现较好的识别效果。传统Slot-Gated模型旨在将意图特征融入槽位识别中,但未能将文本标签信息作为模型先验知识传入模型参与训练。在Slot-Gated模型的基础上,通过意图标签信息构建一种基于注意力机制的意图列表查询模块,并通过全局优化的方法提升模型意图识别以及意图与槽填充联合准确率。通过与Slot-Gated模型进行对比实验,该方法在ATIS数据集上的意图及联合准确率分别提升了1.1%和1.5%;在Snips数据集上,意图及联合准确率分别提升了0.3%
论文部分内容阅读
将递归神经网络(RNN)应用于意图检测和槽填充已实现较好的识别效果。传统Slot-Gated模型旨在将意图特征融入槽位识别中,但未能将文本标签信息作为模型先验知识传入模型参与训练。在Slot-Gated模型的基础上,通过意图标签信息构建一种基于注意力机制的意图列表查询模块,并通过全局优化的方法提升模型意图识别以及意图与槽填充联合准确率。通过与Slot-Gated模型进行对比实验,该方法在ATIS数据集上的意图及联合准确率分别提升了1.1%和1.5%;在Snips数据集上,意图及联合准确率分别提升了0.3%
其他文献
为改善非平稳金融市场环境下在线投资组合策略无法实时动态调整的缺点,提出一种OGDMAR策略。基于在线梯度下降(OGD)算法,对在线移动平均反转策略的预测模型进行改进,使预测模型的系数在每次迭代时都可重新调整。在4个经典数据集上进行数值实验,结果表明,与原策略的累积收益相比,改进策略在4个数据集上分别提升了111%、134%、32%和48%,并且在不同的交易成本条件下累积的收益更高。OGDMAR策略具有应对非平稳环境的能力,不仅在累积收益方面有显著提升,而且具有更强的交易成本承受能力。
由于工作压力大和饮食不健康等原因,心脏病发病年龄不断提前。同时,各地区存在医疗资源不充分、发展不平衡问题。因此,通过患者身体状况快速预测和诊断心脏病具有重要现实意义。提出一个KPCA-LightGBM模型,通过KPCA算法对数据集进行降维,使用LightGBM算法对降维后的数据集进行训练,然后使用训练好的模型预测心脏病。实验表明,KPCA-LighGBM模型预测准确率可达90.1%,较传统方法提升4.6%。KPCALighGBM模型可以有效帮助医生对心脏病进行辅助诊断,提高医疗资源利用率。
针对多工序产品过程质量数据多特征、多噪声特性,提出一种基于收缩自编码器—深度神经网络的多工序产品质量预测方法。为了减少质量预测模型对噪声数据的敏感性,首先基于收缩自编码器的特征提取模型,完成预训练;然后将预训练网络的权重和偏置参数传递至多尺度卷积神经网络,作为预测模型的初始化参数,并增加批量归一化层、Dropout和L2正则化,优化神经网络结构,减少过拟合。以天池智能制造质量预测数据为例进行实验验证,结果表明该混合模型算法相较于AE-DNN、DNN、PCA-BP和PCA-SVR,MSE值分别降低了27.6
为提升BP神经网络对PM2.5浓度预测的准确度,提出一种基于遗传算法的多因子PM2.5浓度预测模型。利用遗传算法的全局搜索特性,得到最优的BP神经网络的初始权值和阈值,针对网络结构设置3个隐含层,提高特征学习能力,更大程度拟合非线性函数,并将模型用于预测。实验结果表明,该方法对于PM2.5浓度的预测精度达到98.5%,比传统方法提高3.6%,具有较高应用价值。
A/B检验主要用于考察相对于原方案A,改进方案B是否更优。重点研究新旧版本网页点击率的贝叶斯A/B检验问题,通过建立起二项分布下的二元Logistic回归模型,结合拉普拉斯近似及重要性抽样技术,成功计算出边际似然并最终得到贝叶斯因子。而贝叶斯因子是贝叶斯A/B检验的核心,经典的A/B检验仅考虑A、B方案是否相等,基于此进一步考虑两者谁更优的问题。研究结果表明,对网页的改版并不能有效地增加用户点击率。
大数据在高效驱动教育管理与教学改革的同时也带来了数据管理及有效应用问题。区块链技术作为一种新兴的去中心化底层数据治理技术,为教育数据的管理及应用提供了新的思路与方法。从区块链技术在教育数据治理应用中的理念逻辑、技术逻辑和应用逻辑出发,借鉴巴西区块链技术在高等教育学位和学分治理中的经验,探讨了区块链技术在教育行政治理、高考综合素质评价治理、学术研究治理和在线教育治理中的应用路径。
组合优化(CO)是运筹学的关键部分之一,近年来引起了学术界的极大兴趣。常见的解决此类问题的方法多数涉及到人工设计的启发式方法。因此,如何利用强化学习(RL)的决策过程生成CO问题的可行解,以及RL能否代替传统方法也是当前研究的重点。主要介绍CO与RL的基本定义、CO与RL框架之间协同作用的分类,最后探讨将CO与RL相结合的研究前景。
“中国制造2025”战略推动智能制造快速发展,面对由此带来的科技革命和控制系统网络化浪潮,设计了一款嵌入式以太网串口服务器。基于STM32系列芯片、RS232/RS485电平转换芯片和以太网控制芯片,以轻量化IP/TCP协议LwIP协议栈为基础,实现串口服务器的软件设计。该嵌入式以太网串口服务器将RS232和RS485串口通讯与以太网连接,通过自动化软件进行统一管理,与传统的以太串口服务器相比具有成本低廉程序简明之特点。
为了解决压缩采样匹配追踪(CoSaMP)算法在观测值固定时重构概率随着稀疏度的增加急剧下降问题,基于最优选择思想和回溯思想设计一种最优选择的压缩采样匹配追踪(OSCoSaMP)算法。在每次迭代过程中,从支撑集中选出最优的支撑,同时采用回溯思想剔除错误原子,分别测试不同稀疏度和不同观测值下的重构概率。仿真结果表明,该算法重构概率与OMP和CoSaMP算法相比有所提升。OSCoSaMP算法在稀疏度50时的重构概率保持在90%以上,当观测值大于70时重构概率在90%以上。OSCoSaMP算法能够有效提高一维信号
转向架作为地铁整车部件中最重要的部件之一,其性能好坏决定了列车的运行安全,因此对转向架进行故障监测具有重要的工程意义。提出基于粒子群算法(PSO)优化深度置信网络(DBN)结构的模型即PSODBN,采用连续性变量构造个体的方式,结合粒子群算法进行迭代训练,做到降低输入层特征维数和各隐藏层神经元数目优化设置。在MNIST手写体数据集上进行实验,结果表明,相较于传统结构,PSO-DBN在错误率和训练时间上分别降低了0.83%、37.08s,验证了PSO-DBN模型的优越性。将PSO-DBN引入到地铁转向架故障