证券企业数据中心构建中数据采集子系统的研究与开发

来源 :北京航空航天大学 | 被引量 : 0次 | 上传用户:blueskyjava
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
企业数据中心(EDC)构建的理论基础是数据仓库(DW)技术.该文通过对证券行业应用系统现状的分析,指出证券企业建立数据中心的重要性.然后介绍了数据仓库技术和ETL(在证券行业中被称为数据采集)技术的发展、现状以及国内数据仓库建设存在的问题,并说明采用手工编程实现数据采集的原因.数据采集(Data Collection)是企业数据中心建设过程中必不可少的、最重要的环节.数据采集包括数据的抽取、转换、装载三个过程.通过对证券企业中传统的采集模式的分析,指出了这种模式存在的弊病:抽取的数据不够完整、准确,数据装载的效率很低.作者提出了组件化的采集方式,通过增加中间层——采集机,在中间层进行数据抽取、转换和发送,降低了对数据源、数据中心两个数据库的压力;使用连接池、线程池、批量装载等技术提升了数据装载的效率;使用几种改进的数据抽取方法,保证了数据抽取的准确性和完整性.结合广东证券的需求,在确定了深圳金证公司的数据中心系统的体系结构之后,介绍了各个子系统的功能和设计,尤其深入介绍了数据采集子系统的设计.然后详述了数据采集子系统的具体实现过程,包括数据库表的设计、数据抽取方法、数据装载的具体实现,数据源端和中心端的业务处理流程等.最后,通过测试数据证实了组件化的采集模式的确可以提高数据采集的性能.
其他文献
亚轨道飞行器作为当今先进飞行器的代表,具有巨大的军事和商业价值,其相关技术的发展受到各国高度重视。论文以亚轨道飞行器为研究对象,为提高其总体设计水平,系统研究了多学
2019年下半年,河南省组织190个审计调查组、1600余名审计人员,对全省“放管服”改革政策措施落实情况进行全覆盖审计调查.rn一是做好审前调查,扎实开展试点,精心制订方案.派
期刊
该文研究复杂结构动力学模型的参数型修正方法和满足响应要求的结构再设计方法.模型修正方法解决理论分析与实验测试的不一致性问题;再设计方法寻求满足预期性能指标的设计方
该文主要研究工作如下:首先,在对己有空间碎片环境模型进行分类研究的基础之上,对空间碎片环境建模常用的两种模式—工程模式和演化模式的建模思想、方法进行了研究,对两种建
随着中国民航事业的发展,航空公司逐步壮大和市场化,航材积压的现象日益突显.维修是继飞机、燃油之后的第三大成本,而航材在维修成本中占了很大比例.如何有效进行库存控制也
目的 探讨儿茶酚氧位甲基转移酶基因Val/Met、Ala22/72Ser多态性对无抽搐电休克治疗精神分裂症患者认知功能的影响.方法 检测50例精神分裂症患者的基线儿茶酚氧位甲基转移酶
螺纹在工业生产、机械传动、汽车、航空航天等领域内应用非常广泛,根据外径大小和材质的不同,螺纹起到的作用也不相同。螺纹起到的作用主要分为:机械传动、紧固设备、连接设
紫外光通信是自由空间光通信的一种新型方式。它具有保密性好、抗干扰能力强以及非直视通信的独特优势,非常适合战略战场中各种复杂环境对通信的要求。   一、分析大气传输
超低轨道航天器是指轨道高度在120-300千米范围内的航天器。由于轨道高度极低,超低轨道航天器在对地观测等方面具有明显优势。在超低轨道上存在大量气体分子,气动力作用明显,
该文基于自校正控制策略,讨论了自校正控制起落架的实时控制问题.通过建立自校正控制起落架的非线性模型和系统的ARMAX模型,对控制器进行了设计,并结合系统结构和参数的辨识,