【摘 要】
：
近年来,随着胶囊网络的广泛研究,其在图像、语言等领域取得了重大进展.但胶囊网络存在参数多、训练时间长的缺点.分组反馈路由机制是一种称为分组路由的监督路由策略,该策略将胶囊平均地分成若干组,胶囊局部共享转换权重,从而减少路由参数和计算复杂度,在图像分类领域取得较好效果.本文将胶囊分组方法运用于文本分类任务中,再引入胶囊压缩、静态路由机制,提出了一种新的文本分类模型CapsNet-GSR.该模型通过胶囊分组在提取文本局部信息的同时减少参数,利用胶囊压缩和静态路由机制,进一步提高胶囊质量、降低参数数量.在20
【机 构】
：
四川大学计算机学院,成都610065
论文部分内容阅读
近年来,随着胶囊网络的广泛研究,其在图像、语言等领域取得了重大进展.但胶囊网络存在参数多、训练时间长的缺点.分组反馈路由机制是一种称为分组路由的监督路由策略,该策略将胶囊平均地分成若干组,胶囊局部共享转换权重,从而减少路由参数和计算复杂度,在图像分类领域取得较好效果.本文将胶囊分组方法运用于文本分类任务中,再引入胶囊压缩、静态路由机制,提出了一种新的文本分类模型CapsNet-GSR.该模型通过胶囊分组在提取文本局部信息的同时减少参数,利用胶囊压缩和静态路由机制,进一步提高胶囊质量、降低参数数量.在20 news文本分类数据集上的实验证明,其在参数数量和训练时间上有明显减少.在AG\'s news、TREC和20 news数据集上的实验表明,该模型在准确率上也有所提高.
其他文献
创新引领发展.作为中国第一代空间X射线天文卫星,“慧眼-HXMT”(以下简称“慧眼”卫星),从设计到运行、从探测到获得重要成果,贯穿其中的创新将其铸造成为中国空间天文领域的一个传奇.rn卫星诞生源于新方法迭代创新rn“慧眼”卫星的官方全称是硬X射线调制望远镜,它的起源可以追溯到20世纪90年代,而该项目的提出则是源于更早时间“慧眼”项目前首席科学家李惕碚院士和吴枚研究员提出的直接解调方法.20世纪80年代,李惕碚和吴枚在分析欧洲天文卫星COS-B的观测数据时,发现传统的伽马射线成像分析方法存在缺陷,进而创
暗物质湮灭或衰变通常会产生等量的正、反粒子,在宇宙空间内的恒星、脉冲星、超新星遗迹、吸积中的黑洞等天体也可产生并加速这些粒子.这些粒子在星际中传播时会与星际介质发生碰撞,产生更多种类的次级粒子,再叠加到普通的宇宙线本底上.一般情况下,经上述过程后产生的能谱不同于宇宙线本底的能谱,因此通过高灵敏度的实验,科学家或许能够探测到这样的信号.
浩瀚宇宙,渺渺星空,无数的恒星和星云构成了我们眼中的宇宙.在空荡荡的星际空间,有许多肉眼不可见的微观高能粒子在以接近光速飞行.平均而言,这些粒子可以在银河系内飞行百万年,其中有极少部分粒子与地球不期而遇,成为地球上神秘的“天外来客”.
13年前,“光谱之王”LAMOST横空出世;6年前,暗物质粒子探测卫星“悟空”号划破苍穹;2021年,中国天眼FAST面向全球开放供不应求.未来,冷湖天文观测基地、空间站巡天望远镜将给我们带来更多的惊喜……rn在国家高速发展的时代背景下,中国天文迎来了历史最好的发展机遇.中国天文如何抓住机遇实现领跑?“悟空”号、“慧眼”号等飞向太空的望远镜将看到哪些精彩绝伦的景象?“留守”地球的LAMOST、FAST等又如何发挥光学、射电的“家族”优势实现突破?在与《前沿科学》的对话中,中国科学院院士、中国科学院国家天文
广袤宇宙,千姿百态的天体带给人们无限的遐想.自天文学家伽利略于1609年制作出第一台天文望远镜以来,望远镜就成为了天文学家认识宇宙最重要的工具.到了1776年,“恒星天文学之父”赫歇尔首次使用光学望远镜对恒星进行了巡天观测.rn进入20世纪后,技术的发展带来探测能力提升,让天文学家可以逐渐展开各个波段的巡天观测.可以说,正是通过天文学家们孜孜不倦的巡天普查,才使得人们能够系统地了解各类天体的分布和运动、物理化学性质以及它们的起源演化规律.
磁场是自然界中非常神秘的一种物质,它看不见摸不着,但正由于受到地球磁场的保护,人类和其他动物才得以生存和繁衍.rn地球是目前已知的太阳系内唯一有生命的行星.太阳作为距离我们最近的一颗恒星,在“控制”地球的同时,也在为地球提供源源不断的光和热,为地球生命提供能量.但是,太阳也有脾气暴躁的一面.特别是在高度依赖电子科技的今天,太阳上剧烈的爆发活动会直接影响到人类的生产生活.
20世纪90年代,第一颗太阳系外行星的发现掀开了一场系外行星探测的天文学革命.时至今日,人们已用多种方法发现了4000多颗系外行星(如图1所示),为理解行星系统的起源这个天体物理的基本问题提供了极其重要的观测依据,使其不再局限于太阳系这个“孤本”,也为探索地外生命迈出了重要的一步.
2021年7月1日,人类历史上一项超级大科学工程——平方公里阵(Square Kilometre Array,SKA)射电望远镜正式开工建设.全面建成后,SKA有望成为全球迄今规模最大的一套科学设施.这是我国参加的首个从项目酝酿与发起、国际组织创建、基本规则制定,一直到项目管理和项目建设,均全程参与并扮演重要角色的国际大科学工程,也是我国继ITER(即“人造太阳”计划)之后参加的第二大国际大科学工程.
高斯分布又叫正态分布,在数学、统计学、物理及工程等领域有重要应用.与高斯分布相关的不等式一直吸引着众多学者的关注,其中一个著名的例子是“高斯最小值猜想”:如果n≥2,(Xi,1≤i≤n)为中心化高斯随机向量,则不等式E(min1≤i≤n|Xi|)≥E(min1≤i≤n|Yi |)成立,其中Y1,…,Yn为相互独立的中心化高斯随机向量,满足E(X2i)=E(Y2i),i=1,…,n.本文证明该猜测成立当且仅当n=2.“,”Gaussian distribution,also called normal di