基于遗忘特性的数据流概要结构及其应用研究

被引量 : 5次 | 上传用户:zdb_zhang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机网络和各类电子设备应用的越来越广泛,越来越多的数据以连续的流的形式出现,如网络路由信息,传感器网络采集的实时信号,证券交易、信用卡交易、商场购物交易等的实时记录,因特网网站点击流,电信网络的电话呼叫业务记录,聊天室、短信等的实时文本流等,均产生连续不断的各类数据。这些数据被称为流数据或数据流。因为数据流和传统数据库等系统中处理的数据的巨大差别,迫使研究人员对数据流模型和处理方法进行深入研究。数据流处理的关键是应用单趟数据扫描算法,建立流数据的概要结构,以便随时能根据该结构提供数据流的近似处理结果。数据遗忘是数据流的一种重要特性,在数据流概要结构构造中应充分考虑这种遗忘特性。本文工作利用这种遗忘特性,提出了一种基于数据流遗忘特性的概要结构的框架,称为分层遗忘概要(Hierarchical AmnesicSynopses,简称HAS)。应用HAS结构,可将原来不考虑遗忘特性的概要结构构造方法改造为结合了数据流遗忘特性的方法。本文工作将HAS结构应用于直方图、抽样、小波、sketch、随机投影等主要的数据流概要结构中,并给出了几个典型应用。本文主要贡献包括:(1)提出了一种数据流概要结构的通用框架,HAS结构。该框架嵌入了数据流的遗忘特性,并且具有遗忘速度和重构误差控制的能力。利用该框架,可将现有的多种典型数据流概要结构改造成具有数据流遗忘特性处理能力。(2)实现了基于小波数据压缩的HAS结构(W-HAS),提出了小波概要的归并方法,并讨论了在基于误差平方和(sse)和基于最大绝对误差(max_abs)两种误差度量标准下的W-HAS,以及如何进行W-HAS中的重构误差控制的方法。(3)讨论了基于加权随机抽样的HAS结构(WS-HAS),分别对有放回和无放回加权随机抽样设计了WS-HAS概要结构的维护算法。(4)提出了结合HAS结构和直方图数据压缩方法的H-HAS结构,讨论了等宽直方图下的H-HAS结构的实现,用动态规划方法实现了最优直方图下的H-HAS结构。(5)基于数据流的W-HAS结构,讨论了数据流之间的近似距离和聚类中心的计算,并进而提出了适合并行多数据流的K-means聚类方法:W-HAS-clustering。同时,利用数据流的遗忘特性,应用随机投影,构造了基于随机投影的数据流分层概要结构RP-HAS,并设计了规范化后数据流的RP-HAS结构维护的方法。提出了基于RP-HAS结构的适合并行多数据流的聚类方法RP-HAS-clustering。(6)讨论了高维数据流中HAS结构的实现,并将其应用到数据流的分类和聚类中。(7)提出了一种基于sketch的数据流概要结构EFM sketch,并用EFM sketch来估算集合的相似度。在HAS结构的基础上,应用EFM sketch分析数据流上数据的相似度和演化。
其他文献
目的:探讨翻转课堂教学模式在临床医学专业教学中的优劣.方法:选取五年制临床医学专业平行班级学生共157人,A班采用传统教学法(对照组),B班采用翻转课堂教学法(实验组).经过
综述了嵌入式系统的定义、发展历程、技术特点、发展方向和在后PC时代的市场前景,着重阐述了嵌入式系统的核心硬件和实时操作系统技术,并讨论了发展和应用我国自主的嵌入式系
小额诉讼程序是世界各国在民事纠纷解决中普遍实行的一种区别于普通民事程序和一般简易程序的制度。它作为一种保障国民基本程序权利的司法大众化途径,在提高审判效率、减轻
宪法是国家的根本法。将习近平新时代中国特色社会主义思想写入宪法体现了宪法指导思想的创新发展,彰显了宪法在国家政治和社会生活中的指导地位,夯实了全国人民在新时代坚持
本文的研究目的在于提出一种服务于制造企业流程管理的绩.效.评.价.系.统.(Performance Measurement System,PMS)。本文的研究主要包括以下内容:(1)分别从PMS的功能、缺陷、
广东大鹏液化天然气站线工程作为国家第一个引进液化天然气的试点项目,从设计到施工,从建设到运营,始终贯穿着节能的理念。通过采取提高功率因数、提高泵的效率、节约海水量、节
面对经济全球化的冲击,中国改革开放以来开始越来越多地参与到世界经济体系当中,成为国际贸易、国际投资、世界生产体系以及国际劳动力市场的重要参与者,因此“全球化”视角
随着社会文明的进步,学校教育中惩罚的合法地位和作用受到人们的质疑。面对各种不合理、不合法的教育惩罚现象,社会各界普遍声讨,激烈反对不当惩罚的同时也不同程度上否定了
本文主要通过对上市公司赤天化股份有限公司(600227),包括2000年度到2008年度中期报表以及相关公司公告的解读,并结合参照系公司泸天化(000912),四川美丰(000731),云天化(600
对浙江省灯光罩网的渔具结构、操作方法、作业方式、主要捕捞对象等方面进行调查研究,得出以下结论:(1)灯光罩网是利用鱼类趋光的习性,用灯光将鱼类诱集到渔船附近,使用撑杆将网