支持数据仓库国际化的ETL技术中若干关键问题研究和实践

被引量 : 0次 | 上传用户:xinxinde1986
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
伴随着数据仓库的深入应用和中国企业国际化进程的深化,如何对来自国内外的客户数据的进行有效的管理和应用已经成为关系到成长中的中国跨国企业进一步推进自身信息化建设的重要关键问题,本文开展支持数据仓库系统国际化的一系列关键技术研究,一方面探索数据分析和应用过程中需要解决的一系列技术难题,如数据抽取和存储过程中常见的多国语言字符集兼容性,构建健壮性的数据装载体系,如何对多数据源ETL加载数据的过程进行统一控制和事后审计处理等问题,另一方面本论文选择了目前比较流行的商务智能产品Informatica、Oracle、Teradata为基础平台构建一个原型库,希望以其为切入点,可以进一步推进数据仓库技术的相关理论和应用研究,有助于推广该技术从而满足企业全球化进程中面向客户需求和切入国际市场的要求。为有兴趣部署和实施类似系统的单位/组织提供一个技术实践。本论文开展支持数据仓库系统国际化的一系列关键技术研究,主要取得了以下几个方面的主要成果:第一、为解决源数据和目标数据库的字符集转换的问题,本论文特别提出了将多语言字符集数据装载技术(MEETL)应用于数据库和装载工具的数据流加工,将该方法引向新的重要领域从而在国际上占有一席之地;第二、对源和目标数据库以及装载工具之间的字符集转换的问题进行探索;在MEETL技术的基础上提出并证明了正确移动数据条件下的ETL字符集兼容性定理(Character Set Conversion Compatible Theorem,简称CSCCT)和代码页兼容性定理(Code Page Compatible Theorem简称CPCT)。第三、提出改进的UTF-8与编码Unicode转换算法UTF8DecodeUnicode,并通过引入自定义UTF字符集转换函数的办法,绕过Teradata数据库自身的字符集转换机制,从而解决了从Oracle源数据到Teradata目标数据仓库ETL过程中在处理某些非兼容性Unicode字符时产生6705错误的问题。第四、通过实现一个具体的应用模型系统,完成了多数据源ETL加载数据的控制处理。本文提出了三种数据处理控制技术:过程同步控制(Process Synchronization Control,简称PSC)、时间范围控制(Time Range Control,简称TRC)和通用审计控制(Common Audit Control,简称CAC)。它们能够优化ETL架构、提高数据装载的效率、并且定义审计规则和保存审计历史数据用于日后分析和跟踪调错,防止错误数据载入数据仓库的情况发生。第五、建立具有高处理能力和高扩展能力的数据仓库平台,以适应处理装载日益庞大市场数据的要求。这就要求有一套能够缩短生产系统的运行时间和占用更少的系统资源的数据装载体系架构。现有的大部分数据仓库系统所有的生产程序使用相同的目标数据库用户名/密码,这样不仅系统安全性会有问题,同时由于用户名相同,不同的生产程序对系统资源的占用也存在相同的优先级。新的设计思路是不同主题域的生产程序运行时可以使用与该主题域相对应的账户,减少生产程序之间运行过程的相互依赖性反过来也就保证了生产系统加载过程的稳定性。
其他文献
调查研究是马克思主义中国化的根本进路,是弥补建党之初理论准备不足的弱点及实践的需要,是马克思主义与中国实际相结合的需要,是中国革命取得胜利的根本保证,也是中国建设、
研究目的:通过问卷调查了解杭州市职业病患者生存质量,分析职业病患者生存质量的影响因素,为提高职业病患者生存质量提供科学的建议和措施。研究方法:1、研究对象的选择:通过分层抽样,从杭州市职业病防治院登记在册的职业病患者中,选择符合条件的调查对象。按照诊断年龄1年内,5年以内,5年以上进行分层,以方便抽样方式抽取这三类群体,有效调查职业病患者共303名。2、调查方法与内容:采用现场调查和电话调查相结合
利用垃圾焚烧发电的技术,在国外发达国家已经比较成熟;我国则刚刚兴起发展态势,虽然已经兴建了一些垃圾发电厂,但工艺技术还在探索研究,尤其是垃圾焚烧产生的烟气净化环节。本课题
银行事后监督作为会计核算的最后一道防火墙,它的监督模式与风险管理对全行的风险防控起着至关重要的作用。是规范银行各项业务工作的基础和重要保证;是防范金融风险的重要举
党的十九大报告中明确指出:“深化国防科技工业改革,形成军民融合深度发展格局,构建一体化的国家战略体系和能力。”这标志着随着时代的发展,我们将要实现从“军民结合”向“
21世纪以来,随着信息技术的发展和城镇化进程的推进,我国产业结构面临调整和升级。人们对于城市个性化的需求也越来越高,单一化的发展模式已经无法满足需要,打造城市品牌和城
图像是信息的主要载体,人们所获得的信息70%以上是通过视觉得到的,而视频采集作为视频信号处理与传输的基础成为视频系统中一个重要组成部分。随着计算机技术和多媒体技术、
印象管理/自我呈现是自我的社会认知研究的核心关注点。自从Goffman(1959)的开创性工作以来,有关印象管理的研究在社会心理学领域积累了大量资料。着重探讨了个体在社会环境
研究目的:通过调查分析,了解南京市居民的健康水平、对医疗服务需求与利用的状况,以及影响居民对医疗服务利用的主要因素,探索通过资源配置满足居民医疗服务需求、提高居民医
火山灰是火山喷发时随同熔岩一起喷发的大量熔岩碎屑和粉尘沉积在地表面或水中形成松散或轻度胶结的物质。全球火山灰资源十分丰富,尤其是我国东北及西部地区,火山灰材料分布