基于改进BERT的中文文本分类

来源 :工业控制计算机 | 被引量 : 0次 | 上传用户:tokyo55
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
BERT是近两年提出的最为综合性的语言模型,在各项自然语言处理任务中都有不俗的表现。Softmax分类算法也是最为常用的分类算法,传统的softmax算法在学习同类和不同类样本时,用的是同一种格式,从而学习到的特征的类内和类间的可区分性不强。而A-softmax算法在学习同类样本时,增加了同类学习的难度,这样的区别对待会使得特征的可区分性更强。基于此,提出利用A-softmax来替代传统的softmax,从而使BERT模型更好地应用于中文文本分类任务中。并进一步提出将BERT与SVM结合,来探讨深度学习中
其他文献
4月17日,中国人民银行行长周小川表示,目前人民币加入国际货币基金组织(IMF)特别提款权(SDR)货币篮子的评估正在有序进行,中国也会加快自身改革推动这一进程。周小川表示,人民币加入
针对瓦斯发电量的预测,提出一种间接预测方法。该方法首先通过对瓦斯涌出量的预测,得到煤矿瓦斯的涌出量,再根据经验公式,实现了对瓦斯发电量的预测。为了得到瓦斯涌出量的精
随着计算机技术的发展,体感控制系统逐渐成为研究的热点。为了提高其应用效果,设计了体感控制系统的整体方案,系统包括信息采集单元和显示控制单元两部分,通过ADXL345加速度传感器和Kinect体感设备完成人体信息采集。传感器采集数据信息之后,对数据进行融合处理,FPGA模块对数据的采集过程进行控制,最后通过无线网络将信息传输到主控计算机。对系统应用进行测试,结果表明:该系统可以精确采集人体信息。
'十二五'期间,我国机床工业应实现从代工向自主生产模式的转变;从低价格竞争优势向差异化竞争战略的转变;从模仿向创新的转变;从低端制造向大规模生产的转变;从末道
期刊
9月19日,美股股市整体收跌,但苹果股价却逆势大涨,创下411.63美元的历史最高收盘价,盘中最高涨至413.23美元。显然,尽管苹果进入“后乔布斯”时代,但其创造的一系列辉煌依然在延续。
精深加工是农产品有效提升附加值、丰富产品形态和拓宽市场渠道的一个重要环节。近年来,云南通过健全体系、强化科技创新、金融助力等方式,不断提高农产品精深加工水平,助力
血氧饱和度是反映呼吸、循环功能的一个重要生理参数,是临床应用中评估和监测患者生理健康的重要指标。然而,不同类型的血氧计在测试基准方面存在一定的差异。因此,急需一个
以无骨雨刮簧片的成型过程为研究对象,基于三辊辊弯和四辊辊弯的理论分析及对比研究,考虑无骨雨刮簧片的弹塑性本构关系、几何大变形特征及簧片与成型辊之间的摩擦接触关系,
期刊
为了更好地核算反映金融资产以及与国际会计准则持续趋同,财政部于2017年3月对第22号准则(2006年颁布,以下简称旧准则)进行了修订,并于2018年6月发布了《关于修订印发2018年