论文部分内容阅读
摘要:对分布异构环境下的数据集中备份系统建设进行了详细调研和规划,对各个重要环节的进行了详细分析,根据自身需求特点组织实施了异构环境下的备份系统,取得了一定的效果。对其中设施及相关知识点进行了一定的深入了解。
关键词:异构环境 集中备份 VTL D2D2T
1 建设目标及选型
1.1 现状
无锡广电现有三套系统数据需要备份,其中办公自动化系统采用的是Lotus Domino数据库;财务采用的是SQL Server数据库;电视广告管理系统采用的是Oracle数据库。虽已采用一定的备份手段,但备份数据分散各个不同服务器上,备份的成功与失败难以得到统一的监看和管理,备份时间较长,恢复难度较大。
1.2 建设目标
对备份系统的需求必须满足能兼容Lotus、SQL Server、Oracle三种数据库模式,在不影响应用系统的正常使用的情况下进行高速备份,并能在意外情况发生下能快速恢复到指定时间点的数据。具体需求如下:
①备份系统能支持各种类型的数据库备份。②实现各套应用系统数据的全自动备份,能根据制定的策略自动进行备份而不需要人为干预。③在不影响应用系统的正常运行下进行高速备份。④对介质的有效管理,对数据形成分门别类的介质存储,自动校验介质,确保介质上的数据安全无误,能方便扩充介质的容量。⑤实现数据的集中管理。⑥实现数据的自动恢复,通过管理控制台能很方便地指定所需恢复的某次备份并能确保正确恢复。
1.3 系统选型
传统的备份系统采用的是物理磁带库,但是磁带具有诸多的问题-速度慢、可靠度低,但是,磁带可以离线保存,所以还是需要保留。随着硬盘容量的增大,成本的不断降低由于硬盘的存取速度快,加上在RAID保护之下,可靠度也相当高,所以在一定程度上利用硬盘取代磁带成为必然的趋势,各厂商纷纷推出各种基于磁盘的备份解决方案,虚拟磁带库(Virtual Tape Library,简称VTL)是其中之一。
虚拟磁带的技术原理并不复杂,实质就是运用储存虚拟软件,将备份服务器连接至磁盘空间的SCSI讯号,仿真成磁带机的表述格式,“欺骗”操作系统和备份软件,误以为连接到的是一部实体的磁带装置。虚拟磁带库能兼容各种存储、备份管理软件,采用传统备份策略。
在多方的比较之下,决定采用D2D2T(磁盘到磁盘到磁带)技术,磁盘虚拟磁带库和物理磁带库相结合的备份方式。把快速的在线磁盘备份方式与慢速的磁带备份方式结合起来,可以利用现有的存储区域网络(SAN),结合LAN-Free备份方式,可以将数据首先快速备份到磁盘备份设备上,再通过SCSI线将备份磁盘上的数据迁移到离线的真实磁带库上,实现数据的快速备份,减小了对业务系统的影响;同时实现了多个备份作业副本。虚拟带库不仅可作为写入磁带库之前的缓冲备份,同时也可以将其中的数据快速的进行恢复。虚拟磁带库和物理磁带库特性比较各有所长,互相补充。把数据先快速的备份到硬盘虚拟磁带库中,在其他指定时间再将数据自动备份/迁移到真正的磁带库磁带上,这样可大幅度缩短备份/恢复时间,同时减少高峰期对网络资源的占用。
2 建设及实施
结合磁盘、磁带的优点,充分考虑了系统的现状,遵循经济性和实用性相结合的原则,我们利用BakBone公司的NetVault备份软件,对现有应用系统数据建立一个集中管理的、自动化的、高速有效的备份系统,实现LAN-Free和D2D2T高效备份。
2.1 系统架构
利用原有的存储局域网的资源,将虚拟带库技术直接用作备份介质,提高了备份任务执行的效率,可以利用虚拟带库定制多驱动器的特点,让尽可能多的任务同时执行。利用NetVault的Smart Client技术实现LAN-Free高效备份,SAN上的数据都可以通过SAN的架构,共享使用磁带库中的磁带机并且将数据直接备份到光纤通道所连接的磁带设备上,也实现了真正的LAN-free的备份模式,备份数据流不占用生产LAN的带宽,由于SAN的高速,在同样的备份窗口完成更多的备份任务。
2.2 软件系统特点
首先基于先进的层次化集中管理结构,适应跨平台的复杂IT环境,实现统一备份,集中管理。其次,利用虚拟带库的高读写性能在备份窗口时间备份工作,在非备份窗口时间将全备份转移到磁带库的磁带介质中,实现重要备份档案的归档储存;标准的CPIO备份格式,易于数据分发,交换;第三、支持SAN环境下和LAN环境下的备份;实现数据库的在线备份和恢复,无需编写Microsoft SQL Server脚本,全部图形界面管理。
2.3 硬件系统
光纤存储设备:虚拟带库作为统一数据备份中心,选用了DELL|EMC的CX3-10光纤阵列柜作为备份中心,该阵列良好的性能和容错能力对数据安全提供了强有力的保证。
2.4 备份策略 根据所规划的备份资源,将开放系统备份的策略以及实测的一些数据统计阐述如下,如表1示。
2.5 功能及特色
首先,是利用原先SAN网络,设备投入小, 应用服务器不需做任何改动。光纤的SAN存储区域网络,不占用应用的带宽,同時保证备份服务器到备份设备数据的高速传输,也很大程度地提高了备份设备的扩展性。其次,在恢复时,利用虚拟带库中的最新备份数据进行恢复,有加载磁带快,寻找备份数据快的优势。第三、在跨平台的集中备份中,支持UNIX/Windows/Linux等各种操作系统和DB2/MS SQL/Oracle/Sybase/MySQL/Lotus Domino等各种数据库平台,统一管理数据的备份和恢复。对SQL和Oracle数据库进行在线备份/恢复。针对SQL和Oracle数据库恢复可直接采用NetVault恢复界面直接恢复。第四,利用磁盘阵列上建立的虚拟带库,备份最新的全备和平时的增量,提高备份窗口时间的备份性能。配置磁带库作为集中备份的设备,实现在非备份窗口归档老的备份,和虚拟带库配合实现D2D2T备份。最后、所有备份客户端不需要分别考虑备份硬件设备,只需通过增加Smart Client License,连接集中备份设备所在的SAN环境既可实现LAN-Free高速备份。实现所有备份数据走SAN,大大减轻备份对网络造成的影响。
3 实施效果
通过两年的实际使用和演练,该备份系统符合设计需求。
3.1 实现了高速备份与恢复,以前担心备份窗口的问题得到解决,虚拟磁带库将备份的速度提高30%-60%,数据恢复速度比磁带快90%。
3.2 可靠性提高,磁盘阵列不会发生磁带库和磁带机的机械故障,也没有磁带失效的问题,备份的成功率明显提升。
4 展望
目前所有备份设备均在应用系统本地,未实现异地容灾。随着无锡广电传媒中心建设,将采用异地备份的方式,即把备份存储介质和应用数据库存储介质分别存放在两地,提高数据的高可用性。
关键词:异构环境 集中备份 VTL D2D2T
1 建设目标及选型
1.1 现状
无锡广电现有三套系统数据需要备份,其中办公自动化系统采用的是Lotus Domino数据库;财务采用的是SQL Server数据库;电视广告管理系统采用的是Oracle数据库。虽已采用一定的备份手段,但备份数据分散各个不同服务器上,备份的成功与失败难以得到统一的监看和管理,备份时间较长,恢复难度较大。
1.2 建设目标
对备份系统的需求必须满足能兼容Lotus、SQL Server、Oracle三种数据库模式,在不影响应用系统的正常使用的情况下进行高速备份,并能在意外情况发生下能快速恢复到指定时间点的数据。具体需求如下:
①备份系统能支持各种类型的数据库备份。②实现各套应用系统数据的全自动备份,能根据制定的策略自动进行备份而不需要人为干预。③在不影响应用系统的正常运行下进行高速备份。④对介质的有效管理,对数据形成分门别类的介质存储,自动校验介质,确保介质上的数据安全无误,能方便扩充介质的容量。⑤实现数据的集中管理。⑥实现数据的自动恢复,通过管理控制台能很方便地指定所需恢复的某次备份并能确保正确恢复。
1.3 系统选型
传统的备份系统采用的是物理磁带库,但是磁带具有诸多的问题-速度慢、可靠度低,但是,磁带可以离线保存,所以还是需要保留。随着硬盘容量的增大,成本的不断降低由于硬盘的存取速度快,加上在RAID保护之下,可靠度也相当高,所以在一定程度上利用硬盘取代磁带成为必然的趋势,各厂商纷纷推出各种基于磁盘的备份解决方案,虚拟磁带库(Virtual Tape Library,简称VTL)是其中之一。
虚拟磁带的技术原理并不复杂,实质就是运用储存虚拟软件,将备份服务器连接至磁盘空间的SCSI讯号,仿真成磁带机的表述格式,“欺骗”操作系统和备份软件,误以为连接到的是一部实体的磁带装置。虚拟磁带库能兼容各种存储、备份管理软件,采用传统备份策略。
在多方的比较之下,决定采用D2D2T(磁盘到磁盘到磁带)技术,磁盘虚拟磁带库和物理磁带库相结合的备份方式。把快速的在线磁盘备份方式与慢速的磁带备份方式结合起来,可以利用现有的存储区域网络(SAN),结合LAN-Free备份方式,可以将数据首先快速备份到磁盘备份设备上,再通过SCSI线将备份磁盘上的数据迁移到离线的真实磁带库上,实现数据的快速备份,减小了对业务系统的影响;同时实现了多个备份作业副本。虚拟带库不仅可作为写入磁带库之前的缓冲备份,同时也可以将其中的数据快速的进行恢复。虚拟磁带库和物理磁带库特性比较各有所长,互相补充。把数据先快速的备份到硬盘虚拟磁带库中,在其他指定时间再将数据自动备份/迁移到真正的磁带库磁带上,这样可大幅度缩短备份/恢复时间,同时减少高峰期对网络资源的占用。
2 建设及实施
结合磁盘、磁带的优点,充分考虑了系统的现状,遵循经济性和实用性相结合的原则,我们利用BakBone公司的NetVault备份软件,对现有应用系统数据建立一个集中管理的、自动化的、高速有效的备份系统,实现LAN-Free和D2D2T高效备份。
2.1 系统架构
利用原有的存储局域网的资源,将虚拟带库技术直接用作备份介质,提高了备份任务执行的效率,可以利用虚拟带库定制多驱动器的特点,让尽可能多的任务同时执行。利用NetVault的Smart Client技术实现LAN-Free高效备份,SAN上的数据都可以通过SAN的架构,共享使用磁带库中的磁带机并且将数据直接备份到光纤通道所连接的磁带设备上,也实现了真正的LAN-free的备份模式,备份数据流不占用生产LAN的带宽,由于SAN的高速,在同样的备份窗口完成更多的备份任务。
2.2 软件系统特点
首先基于先进的层次化集中管理结构,适应跨平台的复杂IT环境,实现统一备份,集中管理。其次,利用虚拟带库的高读写性能在备份窗口时间备份工作,在非备份窗口时间将全备份转移到磁带库的磁带介质中,实现重要备份档案的归档储存;标准的CPIO备份格式,易于数据分发,交换;第三、支持SAN环境下和LAN环境下的备份;实现数据库的在线备份和恢复,无需编写Microsoft SQL Server脚本,全部图形界面管理。
2.3 硬件系统
光纤存储设备:虚拟带库作为统一数据备份中心,选用了DELL|EMC的CX3-10光纤阵列柜作为备份中心,该阵列良好的性能和容错能力对数据安全提供了强有力的保证。
2.4 备份策略 根据所规划的备份资源,将开放系统备份的策略以及实测的一些数据统计阐述如下,如表1示。
2.5 功能及特色
首先,是利用原先SAN网络,设备投入小, 应用服务器不需做任何改动。光纤的SAN存储区域网络,不占用应用的带宽,同時保证备份服务器到备份设备数据的高速传输,也很大程度地提高了备份设备的扩展性。其次,在恢复时,利用虚拟带库中的最新备份数据进行恢复,有加载磁带快,寻找备份数据快的优势。第三、在跨平台的集中备份中,支持UNIX/Windows/Linux等各种操作系统和DB2/MS SQL/Oracle/Sybase/MySQL/Lotus Domino等各种数据库平台,统一管理数据的备份和恢复。对SQL和Oracle数据库进行在线备份/恢复。针对SQL和Oracle数据库恢复可直接采用NetVault恢复界面直接恢复。第四,利用磁盘阵列上建立的虚拟带库,备份最新的全备和平时的增量,提高备份窗口时间的备份性能。配置磁带库作为集中备份的设备,实现在非备份窗口归档老的备份,和虚拟带库配合实现D2D2T备份。最后、所有备份客户端不需要分别考虑备份硬件设备,只需通过增加Smart Client License,连接集中备份设备所在的SAN环境既可实现LAN-Free高速备份。实现所有备份数据走SAN,大大减轻备份对网络造成的影响。
3 实施效果
通过两年的实际使用和演练,该备份系统符合设计需求。
3.1 实现了高速备份与恢复,以前担心备份窗口的问题得到解决,虚拟磁带库将备份的速度提高30%-60%,数据恢复速度比磁带快90%。
3.2 可靠性提高,磁盘阵列不会发生磁带库和磁带机的机械故障,也没有磁带失效的问题,备份的成功率明显提升。
4 展望
目前所有备份设备均在应用系统本地,未实现异地容灾。随着无锡广电传媒中心建设,将采用异地备份的方式,即把备份存储介质和应用数据库存储介质分别存放在两地,提高数据的高可用性。