基于图划分抽样算法的图表示学习

来源 :清华大学 | 被引量 : 0次 | 上传用户:liuye1111111
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图上的机器学习是一类很重要也很普遍的任务,从微信的好友关系预测到生物蛋白质相似性判断。在这类领域,图的稀疏性是必须解决的问题。常用的做法是将图的结构进行编码,使其更加容易被机器学习算法使用。传统的做法非常依赖手工设计算法对图的结构进行编码,进而提取图的特征信息。手工设计策略的办法,首先面临的问题是成本较高,需要深入理解图的结构以及应用场景;其次就是不够灵活,图结构的任何变动可能需要对算法重新设计,并再次对图结构进行编码。近些年来,算法自动学习,将图的结构映射、编码到低纬度的向量空间,逐渐受到关注。该类方法主要基于深度学习,矩阵分解或者非线性的降维。基于深度学习的方法通过引入节点属性向量,使得图的向量表示更加准确。但是在该场景下,节点维度变高、图的规模变大,节点属性的访问会成为训练瓶颈。本文旨在基于图划分的方法对已有算法进行优化。保证在不降低训练性能的前提下,充分发挥深度学习算子以及节点属性向量的优势。本文的主要贡献如下:·本文充分调研了图表示学习算法,发现在基于深度学习的方法中,很少有算法关注图结构的稀疏性对深度学习框架性能的影响。本文使用图划分的方法,结合图的幂律分布特性与抽样算法的特点,对现有算法进行优化。·本文基于图的划分算法,使用粗粒度和细粒度相结合的抽样方法,控制显存中特征矩阵的大小;设计显存缓存池来缓存特征矩阵块,降低特征矩阵的访问开销;使用分层负样本采样的方法,降低划分场景下负采样算法时间复杂度。·本文结合图计算与图表示学习算法,实现了基于图划分的表示学习算法,并通过实验证明了本文优化的效果以及算法的正确性。实验表明,在不同规模的真实数据集上,本文算法的训练性能相比于对照算法,在均值算子上能提高4到7倍,在其他算子上能提高1.5到1.7倍。同时,在下游的分类任务中,本文算法的最好表现与对照算法的最好表现基本一致。
其他文献
三维重建技术是图形学与虚拟现实的研究热点,并且在农业领域得到了广泛的关注和应用。在该技术中主要通过扫描设备获取植株的表面信息,并重建其三维模型,以便于研究植株的生
工业无线通信技术的发展,使得无线人机交互(Human-Machine Interaction,HMI)逐步在工业现场得以应用,并具有操作灵活、功能强、效率高等优点。但在与机器设备进行交互前,工程
随着MEMS和嵌入式技术的快速发展,小型四轴飞行器在专业航拍、植保等领域已经被广泛使用。近些年来,伴随着人工智能和自动驾驶技术的发展,各种AI芯片的相继推出,促进了小型四
随着移动数据流量在未来几年的显著增长,60GHz毫米波(mm-wave)通信在高吞吐量网络中显示出巨大的潜力,可以满足这一需求。60GHz无线通信中的定向传输推动了空间共享研究(SPSH)。IEEE 802.11ad作为一种被广泛认可的60GHz系统协议,支持网络内的空间共享。此外,不同的网络是在网络非重叠时段进行传输,以减轻网络间干扰,这在实际系统中很难应用,例如流量负载较重的时刻。然而,在IE
国有企业作为我国重要的经济支柱和社会支柱,其发展一直都得到我国社会各方人士的重视,但长期以来国有企业自身一直存在着一些问题,如运营效率偏低,公司法人治理结构不健全,
AVS2(Audio Video Standard II)是继AVS1/AVS+等系列后推出的新一代数字音视频编解码标准,其中AVS2-P2即《信息技术高效多媒体编码》为视频部分。其性能与同期的H.265/HEVC标准基本相当,但与上一代标准AVS1相比,其编码压缩效率提高一倍以上。作为面向于高清、超高清、高动态范围的视频压缩标准,其推动了我国信息产业的发展。AVS2获得更好的压缩效率的同时,采用
随着云计算与互联网技术的不断发展,云网融合不断深入,数据中心资源呈现异构化特点。由于应用服务类型及用户需求的复杂多样化,云环境中的负载也呈现出多样性,如何在异构环境
随着互联网规模的迅速发展,对海量的文本数据的有效处理已经成为当今社会亟待解决的任务,文本分类、情感分析等自然语言处理任务应运而生。本文致力于更有效地使用深度学习模
LCD面板生产线工程作为电子信息行业,其生产过程涉及的危险化学品虽然储存量小,但种类繁多,毒性大,生产过程中污染物排放源多,且电子信息行业一般位于居民聚集区,工程运行过
目的:探讨肺动脉成形术治疗非小细胞肺癌的安全性及有效性。总结手术操作技巧以及围术期管理和相关并发症的防治措施。方法:回顾性统计分析,收集2013年4月至2018年4月期间就诊于我科的非小细胞肺癌患者的临床资料,根据手术方式分为肺动脉成形组和全肺切除术,其中肺动脉成形组220例,全肺切除组共235例。结果:肺动脉成形组和全肺切除术组术前一般资料结果无明显统计学差异。肺动脉成形组发生术后并发症86例,