【摘 要】
:
通过引入BERT(Bidirectional Encoder Representation from Transformers)词向量和胶囊神经网络架构,建立期刊文本自动分类模型.选取三个不同规模的Web of Science数据集,以期刊领域的文本分类作为研究任务.在分析文本的基础上,对论文摘要进行多种深度学习算法训练.利用向量化的胶囊神经元和动态路由机制获取文本的局部-整体关系,最终实现更加精准的文本分类模型.实验结果表明,在该数据集上,基于胶囊神经网络的文本分类器的准确率、精准率、召回率和F1值等多
【机 构】
:
中国科学院计算技术研究所厦门数据智能研究院,厦门,361000;厦门大学外文学院,厦门,361005;厦门大学信息学院,厦门,361005
论文部分内容阅读
通过引入BERT(Bidirectional Encoder Representation from Transformers)词向量和胶囊神经网络架构,建立期刊文本自动分类模型.选取三个不同规模的Web of Science数据集,以期刊领域的文本分类作为研究任务.在分析文本的基础上,对论文摘要进行多种深度学习算法训练.利用向量化的胶囊神经元和动态路由机制获取文本的局部-整体关系,最终实现更加精准的文本分类模型.实验结果表明,在该数据集上,基于胶囊神经网络的文本分类器的准确率、精准率、召回率和F1值等多项指标均领先于其他基线算法,同时动态路由的迭代次数需要综合考虑模型的损失与训练速度.
其他文献
以废弃杨木屑(YWC)和膨润土(BT)为基底,丙烯酸(AA)、2-丙烯酰胺-2-甲基丙磺酸(AMPS)为单体,过硫酸钾(KPS)为引发剂,N-N亚甲基双丙烯酰胺(MBA)为交联剂,通过溶液聚合法制备了杨木-膨润土环保型复合高吸水树脂.探究了单体比例、中和度、引发剂用量、交联剂用量、膨润土用量等因素对树脂性能的影响,得出较优单体配比为m(YWC):m(AA):m(AMPS):m(KPS):m(MBA):m(BT)=2.0:5.0:4.0:0.04:0.012:0.25、中和度为65%时,制得吸水倍率为539
大气压等离子体射流在诸多领域具有非常广泛的应用.为了提高大面积材料的处理效率,通常需要将多个射流排列为射流阵列,但由于阵列中等离子体羽间的相互作用,实际上很难产生大面积均匀等离子体羽.针对于此,本文利用直流电压激励单电极氩气射流阵列,产生了大面积均匀等离子体羽.研究发现,在低电压下放电为分立的等离子体羽,而高电压下为均匀片状等离子体羽.片状等离子体羽随着电压、氩气流量及空气流量的增加而变长.电学和光学测量结果表明,分立等离子体羽的放电电流和发光信号均为频率很高的小脉冲.片状等离子体羽的电流和发光信号为频率
采用紫外、荧光和圆二色光谱法并结合分子模拟技术研究了欧前胡素对酪氨酸酶的抑制作用及其机制.结果表明,欧前胡素是一种可逆的混合型抑制剂,半数抑制浓度(IC50)为7.90×10-5 mol?L-1.欧前胡素通过静态型方式猝灭酪氨酸酶的内源性荧光,两者有一个结合位点.25℃时结合常数为2.90×103 L?mol-1,疏水作用力是驱动两者结合的主要作用力.同步荧光和圆二色谱分析表明,欧前胡素对酪氨酸酶中酪氨酸和色氨酸残基周围的微环境几乎不产生影响,但导致酪氨酸酶二级结构变得松散.分子模拟显示,欧前胡素占据酪氨
为解决陶瓷膜在废水处理应用中的膜污染问题,本研究使用自制的光催化剂负载型黏土材料进行了膜表面改性,通过对改性膜膜组件在甲基橙模拟有机废水过滤中膜通量衰减情况、出水水质变化和膜面形态结构变化的对比分析,探究改性陶瓷膜的抗污染性能.结果显示:用于膜修饰的涂布液的最佳参数是在PVA浓度为4%,TCM固含量为1%,pH值调整为3.00的条件下,选择直接浸涂法作为修饰方法.以未改性膜作对比,将改性膜用于合成纺织废水的处理.结果表明:改性膜在不同污染物浓度下均具有较好的性能.改性膜在膜污染控制和有机污染物去除率方面取
由国防科技大学与西安卫星测控中心联合主办的第十一届国际空间轨道设计大赛于2021年11月落下帷幕,这是中国队伍首次主办该赛事.本届赛题借鉴了著名物理学家弗里曼·戴森于1960年提出的“戴森球”概念,提出了100年后的人类利用先进推进技术,进行小行星捕获与转移,建造初级戴森球的任务场景.全球共有94支队伍参加本次竞赛,经过激烈的四周比拼,最终清华大学联队、欧洲航天局联队、奥克兰大学联队位列前三名.本文简要总结了竞赛题目和结果排名情况.
利用多变量Nevanlinna值分布理论与差分模拟结果,讨论了两类广义Fermat型偏微-差分方程的解的性质,得到了含一个,二个偏微分以及差分的方程有限级超越整函数解的存在性条件以及解的形式,并举例说明了解的形式是正确的.
深度学习技术往往需要大量的标记训练样本,然而真实环境中获得大量标记样本的代价昂贵,甚至难以获得.提出一种新的深度主动识别框架,借鉴人类逐步学习并获取新知识的认知过程,在基于少量样本分析模型认知错误的基础上首先定义认知错误转化,得到相应的知识来主动增强模型的认知信息.基于认知知识,选取敏感样本对模型进行在线微调,同时为了避免遗忘先前学习的知识选取先前的训练样本作为刷新样本.在通用数据集上的实验表明,敏感样本有利于提高目标识别能力,提出的认知学习机制能有效提高深度模型的性能;认知信息的特征化能有效抑制其他样本
雷达在探测运动目标时,能够通过目标运动产生的多普勒频移估计目标的径向速度,但目标的横向速度难以估计.提出一种基于扩展卡尔曼滤波的横向速度估计方法,该方法基于毫米波波段的线性调频连续波雷达和MIMO(Multiple Input Multiple Output)天线,将回波信号与本振信号混频得到差频信号.对差频信号进行傅里叶变换得到快时间维的距离数据.重复发射、接收和处理得到慢时间维数据.对快时间维和慢时间维数据进行扩展卡尔曼滤波,估计目标在笛卡儿坐标系下的位置、速度和速度矢量与雷达观测方向的夹角,计算得到
从监测端挖掘多监测站点间电磁信息隐含的时空关联对掌握电磁频谱资源分布和使用状况、支撑电磁频谱资源精细化管理具有重要意义.目前的方法孤立地对各监测站点采集的海量数据进行预测分析,没有有效挖掘多个站点间的电磁信息变化规律,没有考虑人类活动规律的周期性,更难以利用站点间的时域、空域关联给出多站点的电磁强度信息联合预测,不能结合GIS系统给出直观、实时可视化的频谱态势地图.针对以上问题,将多个监测站点建模为图结构,提出一种基于多站点、多时间注意力机制的图神经网络MMGCN (Multi-site and Mult
从分子水平、细胞水平、蛋白水平对不同剂量丙烯酰胺诱导的小鼠肠道屏障损伤进行评估.通过不同浓度下丙烯酰胺小鼠染毒模型,观察了丙烯酰胺剂量与肠道屏障损伤的关系,结果表明10~30 mg?kg-1?bw剂量范围内丙烯酰胺连续灌胃30天均会对小鼠小肠屏障造成不同程度的损伤.此研究为丙烯酰胺的日常防控、生产抑制和膳食预防提供了理论基础和研究依据.