高可靠数据增量同步系统的设计与实现

来源 :山东大学 | 被引量 : 1次 | 上传用户:gaoyyop
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着社会信息化程度的提高,企业和社会机构在日常生产和运营过程中产生越来越多的数据,同时企业和社会机构也越来越重视对数据的管理和保护。在这样的背景下,数据同步服务的市场需求与日俱增,在数据容灾、数据迁移、数据抽取等诸多场景,数据同步都被视为一项必不可少的技术。本文介绍的高可靠数据增量同步系统,是山大地纬软件股份有限公司数据库基础架构的重要组成部分,为公司的智慧政务、智慧医保医疗等业务提供数据同步服务。为保障业务信息的安全性,本文在数据同步的各阶段,结合企业的业务特点,设计出一套完整可行的技术方案。本系统在数据抽取阶段可以支持MySQL数据库和Oracle两种数据库,在抽取出增量数据后,将增量数据存储在消息中间件中。系统采用事务分析技术,将增量数据解析成数据库事务对象,通过分析事务对象信息,可以判断事务类型,能够根据业务需求过滤特定类型的事务。通过分析事务对象间的关系,可以规划出正确的事务并发重做顺序,提高事务重做效率,有效解决数据增量同步系统在数据变更重做环节的性能瓶颈。本系统能够准确记录数据增量同步进度,监控系统各环节的工作状况,能够应对网络故障、存储故障、数据库元信息错误等不确定因素,充分保证数据同步的可靠性。本系统被应用于多个城市的智慧医保、社保系统中,运行平稳稳定,持续提供给高可靠的数据增量同步服务。本文介绍了数据同步的背景和相关研究,分析数据同步的功能和非功能性需求,介绍了高可靠数据增量同步系统的设计和实现。系统主要包含日志处理模块、事务信息存储模块、事务分析模块、事务重做模块、系统管理模块、系统监控模块共六个模块。本文详细介绍了各功能模块的工作机制,以及如何保障服务可靠性。
其他文献
在如核电运行维护、大飞机生产制造等工业领域中,存在大量操作流程复杂、工作强度大、灵活性要求高、难以实现机械化与自动化的工作任务,执行这些任务只能依靠人为操作。在作业执行过程中,作业人员的工作效率与人身安全难以保证。因此,能够与人协同运动,实现部分作业任务自动化的外肢体辅助机器人成为解决上述问题的新型技术手段。外肢体辅助机器人是一个多工况、多任务空间的高维系统,针对该系统的多任务运动规划与控制方法是
当今时代,随着计算机软件技术的飞速发展,人们越来越依赖于各种计算机软件来方便的处理事务,各种各样的软件也是不断地推陈出新。在软件开发过程中,开发人员经常会重复使用大量第三方库函数。对于逆向分析工作来说,准确地识别在软件中复用的库函数具有重要意义,例如检测已知漏洞、对恶意软件进行反向分析等。如果能够使用自动化的方法有效标记出各种复用的库函数,就可以显著提高软件逆向分析的效率,减轻逆向分析人员负担,并
当今社会,随着互联网的迅速发展,来自互联网、工业生产、企业内部的数据成为了一项重要资产,迸发出巨大的商业价值,而企业需要掌控这些数据来赢得机遇、抢占商机。因此,它们迫切需要运用大数据分析技术挖掘其背后的规律并加以利用,从而为企业提供更有价值的信息,以便在市场竞争中夺得先机。同时,企业对数据分析应用的多样性需求,为数据分析平台的快速开发、重构与即时运维技术带来了巨大挑战,需要针对不同数据分析的应用层
基于卷积神经网络(CNNs)的多任务学习方法在计算机视觉的各种应用中取得了显著的成功,是目前重点关注的研究方向之一。多任务卷积神经网络是在单任务模型结构保持不变的情况下,学习多个任务的共享表示,该共享表示适用于不同但相关任务的训练目标,使多任务模型更具有泛化能力。随之各任务分支拟合各自输出,从而完成多个任务的联合预测,并取得整体性能的提升。对于有效的多任务卷积神经网络方法,最近的研究均是通过自动学
为满足空间大轨道转移任务要求,基于电推进系统液氪低温推进剂在轨长期贮存的应用需求,从低温推进剂贮箱壳体材料、贮箱热防护技术、微重力环境下贮箱内气液分离和流体管理等四方面入手,聚焦于国内外相关研究进展,总结了关键技术的发展现状,结合氪工质贮存要求进行了分析,旨在为电推进系统液氪贮箱设计提供参考。
根据单张图像估计深度信息是计算机视觉领域的经典问题,也是一项具有挑战的难题。在传统的计算机视觉中,由于单目图像的尺度不确定性,导致根据单目图像无法计算深度值,仅能通过双目图像计算出稀疏深度值。目前,基于深度学习技术的单目深度估计方法成为了研究热点。基于监督学习的单目深度估计方法通常需要依赖大量的真实深度标签用于模型训练,然而获取真实深度的成本是非常高昂的。基于无监督学习的单目深度估计通常根据双目图
图像分辨率越高通常意味着图像拥有更多的细节,更高的清晰度以及更好的视觉感受。高分辨率的医学图像有助于医生的诊断;高分辨率的监控图像有利于犯罪行为的识别和追踪;高分辨率的视频可以带来良好的观影体验。但是图像的分辨率往往受到设备精度、环境、信息传输效率等因素的制约。如何在这些因素的制约下获得高分辨率图像有着重要的意义。这类通过模糊的低分辨率图像恢复高分辨率图像的算法统称为图像超分辨率算法,其难点在于图
头部姿态估计(确定人体头部相对于摄像机视图的方向)的研究在计算机视觉领域是一项长期的研究课题,头部姿态估计在视线估计、注意力建模、三维模型与视频的拟合、人脸定位等方面有着广泛的应用。在过去的二十年中,头部姿态的研究推动了三维重建的视觉技术以及多媒体内容操作的发展,在与用户交互方面发挥了重要作用。它广泛应用于注意力检测模型,司机行驶监控,课堂智能管理与人脸识别等领域。本文研究的主要问题是对于头部姿态
近年来,拍摄设备的日渐普及,图片的采集途径也变得简单,图像中包含大量信息,数据传输存储的方式由过去的文本格式逐渐向转图像、视频等新型媒体格式转换,图像中的信息通过像素的方式展示,用户理解更加直观,而对于计算机而言,去理解图像中所包含的内容有着重要的意义,图像中出现文本内容具有高度的标识性,与图像所示内容具有强关联度,文本信息包含的高层语义信息对于图像的理解有重要作用。人工智能算法的发展,需要大量数
在新技术不断涌现,文化市场愈加繁荣的背景下,如何更好地通过法律保护著作权,打击侵权行为,维护好个人利益与社会公共利益的平衡是亟待解决的问题。作品相似侵权现象是该问题的集中体现之一。侵权类案件的重要环节之一是对于行为性质的判定。对于著作权侵权行为的认定历来是司法实践中的难点,原因在于案件本身所涉作品的复杂性、当前立法缺乏具体判定规则以及个人利益与社会公共利益的平衡把握。在长期的学理研究与司法实践中,