基于实体连通差异和目标导向的注意力网络研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:iceqi77
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
知识图谱作为当前社会人工智能发展基石,具有十分重要的作用和地位。随着数据规模和自动化技术的发展,知识图谱的规模已经得到了飞跃式的增长,但是其距离知识完备这一理想目标仍相距甚远。为了实现这一目标,链接预测任务应运而生,其旨在利用知识图谱中已有的知识推断缺失的事实,从而对知识图谱进行完善和补全。研究者们针对该任务已经做出了许多研究,近两年来基于表示学习的方法因其效率高能力强的优点获得了国内外学者的广泛关注。经过调研发现,虽然知识图谱嵌入模型已经取得了不错的成绩,但现有模型大多忽视了实体本身的连通差异且在注意力分配策略实现上较为粗糙,导致网络聚合邻域信息的能力和效率均有较大的局限,模型预测能力较差。针对上述问题,本文在端到端的结构感知卷积网络模型(End-to-End StructureAware Convolutional Networks for Knowledge Base Completion,SACN)的基础上做出改进,针对链接预测任务提出了基于实体连通差异和目标导向的注意力网络(EntityConnectivity-Difference-Aware and Target-Oriented Attention Network for Link Prediction,ETAN)。ETAN通过对实体连通分布进行统计并将知识图谱中的实体分为三类:偏僻实体、普通实体以及过饱和实体。对于偏僻实体使用规则进行邻域补全,对于过饱和实体则基于注意力进行邻域排序截断以完善实体邻域结构。此外,通过对邻域实体和邻域关系的交互作用进行建模,为中心实体的嵌入学习提供更多有效的信息。最后,将链接预测任务的预测链接融入到邻域交互作用体中,实现了完整的目标导向注意力分配策略,为网络高效高质地聚合邻域信息提供了强有力的支撑。本文在标准的FB15K-237和WN18RR数据集上进行了对比实验并以链接预测任务的通用评估指标对模型能力进行了评估。相对于基础模型SACN而言,ETAN在MRR和Hit@N等指标上均有极大的提升,且在现有用于链接预测任务的知识图谱嵌入模型中达到了较高水准。此外,我们也针对模型的每一个核心组件进行了消融实验,进一步分析验证了各个组件对模型能力的影响以及重要程度。
其他文献
线段检测是目标识别的重要内容,在航空航天、工业检测等诸多实时性要求较高的领域有着广泛应用。本文在研究分析多种线段检测算法及其实现的基础上,选取具有较好抗干扰性和良好检测效果的Hough变换作为研究对象,设计目标为检测64*64-1024*1024大小,70fps序列图像中5条共线点最多的线段。由于检测过程计算量大、计算复杂等,软件实现难以满足嵌入式系统使用要求,硬件加速是必要选择。Hough变换是
碳烟颗粒作为超细颗粒物的重要组成部分,给环境和人体带来了严重的危害。目前,国内外学者对燃油、燃气等小分子碳氢燃料燃烧生成碳烟的物化性质、生成规律和生成机理进行了深入的研究,对清洁高效燃烧技术的开发起到了重要指导作用。然而,煤和生物质作为碳烟颗粒的主要排放源之一,对于其燃烧火焰中碳烟的演化和理化特性研究得还比较少,需要对煤和生物质燃烧过程中碳烟的生成和演化特性做进一步研究,这对揭示碳烟的生成机理、抑
阿霉素(Doxorubicin,DOX)是一种广谱化疗药物,目前上市的制剂均为注射剂。口服给药途径与静脉注射途径相比具有一定的优势,体现在较低的患者物理损伤和心理创伤、较好的患者顺应性和较低的医疗资源消耗。然而,阿霉素等化疗药物口服面临肠上皮细胞层P-糖蛋白外排等吸收屏障,导致其口服生物利用度较低。使用维生素E聚乙二醇琥珀酸酯(D-α-Tocopherol polyethylene glycol
超声成像具有无创、无放射性、廉价且实时的优点,已被广泛用于疾病诊断和手术导航等领域。然而,超声图像中固有的斑点噪声会降低图像的质量,影响疾病诊断的准确性和手术导航的精度。因此,研究超声图像实时降噪算法,对疾病的准确诊断和精准的手术导航具有重要价值。传统的去斑方法不仅耗时,而且很难在充分地去除斑点噪声的同时有效地保留图像中的细节信息,现有的深度学习降噪算法通常将斑点噪声视为单纯的乘性噪声,而超声图像
等离子体的破裂可能会对大型托卡马克装置(如ITER)造成严重损害。通过快速关断等离子体(如注入大量杂质),提高等离子体内能辐射消耗比例,可以缓解破裂带来的危害。大量杂质气体注入(Massive Gas Injection,MGI)能够很好地缓解热、电磁力负荷的危害。但是目前MGI破裂缓解实验以及逃逸电流实验大多是基于恒定等离子体电子温度条件下进行,对于电子温度升高对破裂期间杂质与等离子体相互作用的
脉动热管(pulsating heat pipe,PHP)因其结构简单,无毛细芯,具有很高的导热性能、热流密度大和适应性强等优点,在微电子邻域有着极大的研究前景。目前针对脉动热管的研究主要集中于等管径结构,通过实验研究发现,部分变截面脉动热管可以通过提高工质的自激励性从而提高其换热性能,但目前相关的理论研究较少。为分析变截面结构对脉动热管换热性能的影响,本文提出了一种两管径式脉动热管,发展了适用的
扫描磁铁是扫描治疗头的核心部件,它通过改变笔形束扫描的束流轨迹使其准确照射到目标肿瘤区域。在已有等气隙扫描磁铁研究与分析的基础上,本文对可以减小慢扫描磁铁电流的锥形气隙扫描磁铁进行了电磁热与束流分析。根据扫描治疗头的性能要求,开展了基于霍尔探头的扫描磁铁磁极边缘磁场的在线监测方法研究,最后根据扫描电源参数开展了扫描路径优化的研究。本文结合对等气隙扫描磁铁的计算与仿真,进一步将慢扫描磁铁的气隙形状设
生物质作为唯一一种全生命周期内呈碳中性的清洁能源,可以作为一种理想的可再生能源。生物质热解,是一种常用的、能量利用率高且产物丰富的生物质转换手段。将聚光太阳能与生物质热解技术相结合,能大大提升生物质能与太阳能的应用潜力。本文针对聚光太阳能直接驱动微型流化床中生物质三组分热解进行了实验和模拟研究,明晰了生物质原料特性对聚光太阳能驱动热解过程的影响。主要内容如下:在反应温度为400℃,500℃,600
作为能够有效提高无线通信传输效率的技术之一,多用户多入多出(MU-MIMO)技术通过在空间中构建多条独立衰落的传输信道,有潜力大幅提升Wi-Fi系统的信道容量。影响MU-MIMO传输最终性能的一个重要指标是信道矩阵的条件数:条件数越小,表明信道矢量之间的正交性越好,从而数据流之间的干扰越弱,系统的传输速率越高。然而,在实际Wi-Fi系统中,MU-MIMO传输所对应信道矩阵的条件数往往不太理想,这主
随着全球各地的交流日益增多,海洋贸易日益繁荣,海洋的复杂波浪环境也日益受到人们的关注。海洋的波浪可以分为风浪、涌浪与混合浪,不同的波浪环境对船舶运动的影响也不同。目前已经有很多学者对海洋环境中的不规则波开展了深入研究,但针对混合浪的研究较少,对船舶在混合浪下运动响应的研究也较少。但是混合浪作为风浪与涌浪叠加而成的海浪,研究其具体特性非常重要。因此本文将利用自研CFD求解器HUST-Ship,对各个