基于低秩分解的网络测量数据推断方法

来源 :湖南大学 | 被引量 : 0次 | 上传用户:aniu88
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机技术的快速发展,计算机网络也随之大规模的飞速发展。在大规模网络中,网络的性能状况越来越被引起重视,如果对网络进行全网测量来获得网络性能状态,一方面会给网络带来额外的负担,影响本身的网络环境,另外一方面,对大规模网络进行全网测量消耗的时间会很长,使得很难快速掌握全网状况。基于稀疏表征的填充技术利用网络本身有的冗余性,使得仅仅需要通过测量部分数据,就能推断出全网数据。本文基于稀疏表征技术,从精度和速度两方面来解决通过少部分已知数据来获得全网数据的问题,主要的研究成果为:1、基于GPU的网络测量数据的并行矩阵填充方法在网络中,全面了解端到端网络性能对于网络的管理和以及网络服务都十分重要。在端到端的网络中通常需要对路径进行主动探测,主动探测会使得开销随着网络节点数量的增加而成倍增加。为了减少测量开销,最近一些研究提出了利用矩阵填充技术来获得全网数据,即仅通过测量一小部分路径来预测所有节点对之间的端到端网络性能。尽管矩阵填充技术十分有效,但用矩阵填充来恢复丢失的数据时,往往恢复精度不高而且恢复时间长。为了解决这些问题,本文提出基于GPU的并行矩阵填充方法(MC-GPU),利用GPU来实现并行矩阵分解,以实现高速和高精度的矩阵填充,从而获得全网数据。为了充分利用GPU的特殊体系结构,使得并行执行时在任务和数据方面都没有冲突,MC-GPU方法主要包括下面几个方面:利用局部敏感哈希函数将相似的OD(原始节点-目标节点)对进行重新排序;平衡的矩阵划分方法;并行矩阵填充。本文在GPU平台上实现了MC-GPU,并使用真实的数据集来对性能进行评估,通过实验结果表明MC-GPU可以在提高的数据恢复精度的同时提高计算速度。2、基于GPU的网络测量数据的并行张量填充方法由于网络数据的本身应该是有多维属性的,而矩阵无法充分表达出网络的高维信息,从而丢失了数据中蕴含的内部结构信息。因此,张量填充能够利用多维度的数据信息,从而能够更准确的恢复出缺失的数据。然后,由于维度的增多,使得数据的计算复开销增大,这在大量数据的存在下阻止了常规张量填充算法在实际中的应用。本文主要将算法在GPU上进行执行,以实现高速和高精度的张量填充的方法。提出了基于GPU加速的并行张量填充方法(GPU-TC),用于准确,快速地恢复丢失的数据。在方法中,为了提高数据的恢复准确性和速度,通过三个方法来将GPU与张量分解的过程结合:基于网格的张量分区;基于洗牌算法的独立任务分配;基于球形的内存调度策略。将算法在真是数据集上进行试验,并将GPU-TC与经典的张量填充算法以及矩阵填充算法进行了比较。实验结果表明,GPU-TC在错误率指标和计算时间方法都有显著的提高。3、基于相似度敏感的子张量填充方法张量填充可以用于恢复丢失的数据,这对于许多数据不完整的数据应用程序都是有用的。为了推断丢失的数据,现有的张量填充算法通常假定张量数据具有全局低秩结构,并通过全局优化应用单个模型来拟合整体观测数据。但是,数据之间往往存在不同的相关级别,因此某些子张量的秩甚至可能比大张量的秩更低。将单个模型拟合到所有数据将损害数据恢复的精度。为了提高丢失数据恢复的准确性,提出局部张量填充方法(Local-TC),从子张量中恢复数据,每个子张量都包含相关性更高的数据。由于张量数据仅是按逻辑顺序存放的,因此很难一目了然的确定数据之间的关系。利用局部敏感哈希函数(LSH)快速重新组织张量数据,提取子张量,并利用投影数据来执行相似性敏感数据融合。通过实验来说明Local-TC的效果,使用两个真实流量数据集Abilene和G`EANT来比较Local-TC和几种经典的张量填充算法(CP-als,CP-opt,CP-wopt以及TK als)的效果。实验结果表明,Local-TC在提高恢复精度方面非常有效,且在张量框架下是一种通用的算法。4、基于负载均衡的局部并行子张量填充算法现在越来越多的应用使用张量填充来对缺失的数据进行恢复。但是现存的一些技术往往都忽略了张量内部的局部相似性,张量内部的局部子张量有更强的相关性,对局部子张量填充,会使得张量填充的效果更加好。针对局部子张量,每个子张量都能够单独的进行各自的计算,可以进行并行计算。但是当张量被分割成一个个小的局部子张量之后,现有算法往往没有考虑计算的负载均衡问题,使得并行计算不能最有效的进行。为了提高缺失数据的的恢复准确性,以及计算时间,提出了一种新的并行局部张量填充算法Local-TCP。本方法首先使用局部敏感哈希函数将张量进行三个维度的切分,使得形成有局部相似性的子张量,然后使用热导流的数据平衡方法,将每个子张量中的计算任务都进行有效的均衡,使得算法能够更有效的进行并行计算,进行完子张量数据平衡后,将算法扩展到GPU上进行计算,得到最终的填充结果。将算法与经典的CP-als,CP-opt,CP-wopt和TK-als在网络流量数据集(Abilene,G`EANT)上进行比较,从实验结果可以得到,在数据集上,算法Local-TCP无论在精确度还是在计算时间上都有所提高。
其他文献
将对异戊二烯聚合具有高选择性的稀土催化剂1~5,在助催化剂有机硼盐和烷基铝的作用下,用于催化硅烷基保护的极性共轭双烯单体IP-OTBS均聚合,制得了顺式1,4-结构单元含量最高为98.5%和3,4-结构含量最高达82.2%的聚(IP-OTBS). PNP-型稀土钇催化剂2催化IP-OTBS与1,3-丁二烯(BD)、异戊二烯(IP)无规共聚合,制备出了极性基团含量分别为10.2%和16.7%的顺丁橡
随着双碳经济的提出,智能电网正朝着节能减排的方向发展,而用户的异常用电造成电力资源严重流失。针对传统异常用电检测方法精度低、运行效率慢等问题,提出了一种将LightGBM模型与改进的长短期记忆网模型相结合用于异常用电检测。通过采样和Lightgbm模型相结合进行异常检测,并通过改进长短期记忆网模型给出异常用电类别。通过试验分析了所提方法的优点。结果表明,与传统的检测方法相比,该方法能够快速有效地检
经济法的学习内容相对枯燥,为了让学生对知识点理解得更加透彻,需要教师适当引入相关案例,为学生搭建分析问题和解决问题的平台,从而避免填鸭式的理论教学,增强学生的法律理解与应用能力。本文通过分析案例教学法的优点,阐述了案例分析法在经济法教学中的应用方法。
目的 研究减重活动平板联合PNF技术对偏瘫儿童步态训练中平衡功能的影响,为临床上的偏瘫儿童提供参考,以改善偏瘫儿童的步态训练。方法 选取2017年1月—2020年1月昆明市儿童医院收治的偏瘫患儿200例,按照完全随机法分为PNF技术组和联合组各100例。PNF技术组患儿使用PNF技术训练,联合组患儿使用减重活动平板联合PNF技术训练,评价患儿步态训练参数值、偏瘫侧膝关节位置觉、运动觉、GMFM-8
细胞是生命体形态结构和功能活动的基本单元,实现着物质代谢、能量转换和信息传递等一系列生命过程。原始细胞模型(Protocell)是一种人造细胞,是人们对地球最原始生命的设想,拥有最简单、最原始的腔室结构。原始细胞具有制备相对简单、结构相对稳定等优势,有望代替功能障碍的真实细胞,在细胞生物学、化学生物学和生物医学方面具有潜在的应用前景,并且原始细胞研究将为生命起源提供理论与实验依据。然而目前原始细胞
近年来,资源描述框架RDF(Resource Data Framework)已被广泛应用于各种网络资源标记应用中。在RDF模型中,现实世界中事实都被表示成三元组形式。一个RDF数据集天然地可以被视为一个图,也就是知识图谱,其中主体和宾语是顶点,每条三元组是一条边,而谓语就是这条边上的标签。随着RDF模型被广泛地应用,现有知识图谱数据集规模也越来越大。于是,如何利用各种分布式计算环境对大规模知识图谱
日益突出的能源短缺和环境污染问题严重制约着人类的可持续发展。光催化析氢技术通过将太阳能转化为化学能是缓解能源危机的有效途径之一。石墨相氮化碳(g-C3N4)由于其独特的电子、能带结构和化学稳定性,被认为是最具有前景的光催化析氢材料之一。然而,g-C3N4由于其比表面积小、光生载流子易于复合、可见光利用率不高和表面活性位点数量不足等问题,导致光催化效率低。针对这些问题,本文通过构建异质结结构、掺杂异
社会主义核心价值观,承载着中华民族和国家的精神追求,是实现中华民族文明进步、推动国家发展壮大最持久最深沉的力量。公民是弘扬和践行社会主义核心价值观的历史主体与基本力量。如何培育契合国家和社会需求的公民核心价值观念,是值得研究的大问题、真问题。作为公民层面的社会主义核心价值观,“爱国、敬业、诚信、友善”为每个社会公民提供了基本的道德规范和行为导向。榜样文化作为社会主义先进文化的重要组成部分,是公民层
水稻作为我国第一大粮食作物,土壤的盐渍化是近年来威胁水稻产量的重大因素。土壤盐渍化对植物带来的伤害最主要是由于高浓度的盐分带来的渗透胁迫、离子胁迫、以及伴随的氧化胁迫,如果能开发和创制耐受盐胁迫的水稻新品种,就可以利用盐碱化的土地。根据结构域分析,植物中的类受体蛋白激酶(Receptor-like kinases,RLKs)是具有胞外配体结合结构域、跨膜结构域和kinase激酶域组成是酶偶联受体,
电涡流阻尼是一种利用电磁感应现象产生的新型非接触式阻尼,相较于传统的粘滞阻尼和摩擦阻尼,电涡流阻尼具有无工作流体、维护少、寿命长、灵敏、可靠等优点,在振动控制领域具有广阔的应用前景,但土木工程结构振动具有速度低、质量大等特点,需提高电涡流阻尼的耗能效率。齿轮和齿条的组合可对电涡流阻尼的耗能效率进行有效放大,且为成熟的工业产品,性价比高、可靠性好,同时可根据实际需求输出惯性力,为结构振动控制提供新的