论文部分内容阅读
摘 要:FCoE作为存储网络融合技术,在统一数据中心的概念下的具体实践,使用一种存储和一种存储网络,实现了LAN和FC SAN的融合。本文主要论述了FCoE技术在电视台全台网主干交换平台存储网络中的具体实践及经验总结。
关键词:FCoE;存储网络;全台网
一、FCoE技术概述
(一)FCoE定义
FCoE:Fibre Channel over Ethernet以太网光纤通道
FCoE技术标准可以将光纤通道映射到以太网,可以将光纤通道信息插入以太网信息包内,从而让服务器SAN存储设备的光纤通道请求和数据可以通过以太网连接来传输,而无需专门的光纤通道结构,从而可以在以太网上传输SAN数据。FCoE允许在一根通信线缆上传输LAN和FC SAN通信,融合网络可以支持LAN和SAN数据类型。
FCoE面向的是10G以太网(需要网卡支持802.3x PAUSE机制),通过增强的10Gb以太网技术变成现实的,通常称之为数据中心桥接(Data Center Bridging,DCB)或融合增强型以太网(Converged Enhanced Ethernet,CEE),使用隧道协议,如FCiP和iFCP传输长距离FC通信,但FCoE是一个二层封装协议,本质上使用的是以太网物理传输协议传输FC数据。
从2009年FCoE标准的完成到现在,作为数据中心融合的一个新技术,各IT设备供应商积极响应,纷纷推出支持FCoE标准和技术的存储、交换机、聚合网络适配卡(CNA)等产品。各产品成熟度越来越强。
(二)FCoE的应用
在统一数据中心的概念和实践下,统一的网络、存储和虚拟化正在使数据中心灵活度越来越高,管理越来越简单。FCoE技术可以让我们在使用一种存储数据交换设备下,享有FC的高效和以太网的便捷和灵活。
通过FCoE整合后的数据中心:
通过上图我们可以看出,通过采用统一存储和使用FCoE整合数据存储网络,可以减少一半的交换设备数量和设备连线数量。对于像虚拟化、数据库等高带宽低延时的业务而言,增强的10Gb以太网完全能够满足其需求。
二、我台主干平台的业务需求及实施方案
(一)业务需求
我台全台业务网共分为主干平台、中心媒资、广告串编、高清新闻、播出整备、高安全区、高标清制作网等系统组成。
业务网网间采用以太网单网链接,主干平台主要负责全台网中各业务系统的互联互通和文件交换,同时给全网运行提供统一用户、统一时钟、统一审片、节目代码及编单、业务统一监控、集中数据备份等基础服务。
(二)部署规划
全台业务网部署两台核心交换与各业务网的两台接入交换机组成全业务网的核心交换网络。
主干平台采用刀片服务器结合VMware虚拟化平台部署后台服务系统,机架式服务器主要部署EMB文件传输服务和数据库服务。
此次项目中,刀片服务器虚拟化业务和数据库业务我们使用了万兆FCoE 数据交换网络。机架式数据库服务器和刀片服务器中VMware虚拟化平台通过万兆FCoE使用统一存储中的数据块服务。
(三)部署及连接方式
1、服务器部署
服务器配置万兆聚合网络适配器(CNA网卡),使用光纤链接至万兆FCoE交换机,从FCoE交换机使用两组光纤分别链接至统一存储的万兆FCoE端口和万兆NAS端口。
2、刀片服务器部署
刀片服务器通过CNA网卡与刀箱配置的FCoE交换机链接,再使用光纤链接至万兆FCoE交换机从而实现刀片服务器与存储网络的链接。
(四)设备选型及实施方案
项目中,统一存储为EMC VNX 5500,配置万兆FCoE万兆光纤端口和万兆NAS光纤端口,FCoE交换机为H3C S5830 V2,机架式服务器为IBM 3650 M4加配万兆CNA网卡(激活FCoE功能),刀片服务器系统采用HP C7000,刀箱带万兆上下行交换模块,刀片服务器加配万兆CNA网卡(激活FCoE功能)。
配置过程:
1、H3C交换机的配置。
H3C S5830v2交换机所使用的软件版本为 7.1.045,Release 2308P1。 导入FCoE的license
全局使能LLDP功能
配置ETS参数:优先级映射表方式
配置分组WRR队列
配置PFC参数
配置交换机的FCoE模式
配置VFC接口 并绑定到物理接口
将VFC接口以Trunk方式加入VSAN,即允许指定的VSAN通过当前接口
配置FC-MAP值
使能VLAN的FCoE功能并指定映射VSAN
配置交换机的域ID
创建VSAN
配置Trunk VSAN
配置Zone别名,
配置Zone 在Zone内添加成员
配置 Zone set在Zone set内添加Zone , 激活Zone set并在全网扩散
IP配置,配置互联vlan以及接口,配置OSPF路由
2、HP ProCurve 6120刀片交换机的配置
也要相应的开启FCOE并做相关配置。
3、IBM 3650 M4服务器的配置
激活CNA网卡FCoE功能,安装驱动即可。
4、FCoE的验证
在H3C S5830 交换机上可以显示配置后VFC接口和FIP协议的运行情况,通过查看显示信息验证配置的效果。
项目实施中,机架式服务器和存储网络的实施和FCoE连接较为顺利,其CNA网卡连接到交换机和存储后,经过配置便可通过万兆FCoE链路使用存储资源。但刀片服务器的连接实施较为困难,因为刀箱交换模块和FCoE交换机在对协议兼容性上的问题,加上此FCoE交换机的实施在国内属于第二例,没有太多的经验可以借鉴,导致设备之间的调试花费了两周时间。最终通过H3C和HP工程师的努力和配合,项目顺利完成,成功投入使用。
(五)总结
FCoE具有以下优点:
1、使用FCoE网络融合技术,使得FC和以太网共享一个单一的集成的网络基础设施,整合了存储网络。
2、简化了网络布局,减少了原来使用两个网络(LAN和SAN)所需使用的交换设备数量以及布线量。
3、CNA网卡的采用增强了业务部署的灵活性。同一个网卡,可以根据业务需要灵活选择存储服务的业务类型。
4、统一的存储网络对未来存储设备及容量的扩展也提供了更为便利的手段。
5、减少了设备采购的投资,统一的网络也减少了运维人员的工作量。
另外需注意以下两点:
1、不同厂商的FCoE设备之间兼容性有差异,设备选型时需注意。
2、CNA网卡一般需激活相应功能后才可以支持FCoE。
关键词:FCoE;存储网络;全台网
一、FCoE技术概述
(一)FCoE定义
FCoE:Fibre Channel over Ethernet以太网光纤通道
FCoE技术标准可以将光纤通道映射到以太网,可以将光纤通道信息插入以太网信息包内,从而让服务器SAN存储设备的光纤通道请求和数据可以通过以太网连接来传输,而无需专门的光纤通道结构,从而可以在以太网上传输SAN数据。FCoE允许在一根通信线缆上传输LAN和FC SAN通信,融合网络可以支持LAN和SAN数据类型。
FCoE面向的是10G以太网(需要网卡支持802.3x PAUSE机制),通过增强的10Gb以太网技术变成现实的,通常称之为数据中心桥接(Data Center Bridging,DCB)或融合增强型以太网(Converged Enhanced Ethernet,CEE),使用隧道协议,如FCiP和iFCP传输长距离FC通信,但FCoE是一个二层封装协议,本质上使用的是以太网物理传输协议传输FC数据。
从2009年FCoE标准的完成到现在,作为数据中心融合的一个新技术,各IT设备供应商积极响应,纷纷推出支持FCoE标准和技术的存储、交换机、聚合网络适配卡(CNA)等产品。各产品成熟度越来越强。
(二)FCoE的应用
在统一数据中心的概念和实践下,统一的网络、存储和虚拟化正在使数据中心灵活度越来越高,管理越来越简单。FCoE技术可以让我们在使用一种存储数据交换设备下,享有FC的高效和以太网的便捷和灵活。
通过FCoE整合后的数据中心:
通过上图我们可以看出,通过采用统一存储和使用FCoE整合数据存储网络,可以减少一半的交换设备数量和设备连线数量。对于像虚拟化、数据库等高带宽低延时的业务而言,增强的10Gb以太网完全能够满足其需求。
二、我台主干平台的业务需求及实施方案
(一)业务需求
我台全台业务网共分为主干平台、中心媒资、广告串编、高清新闻、播出整备、高安全区、高标清制作网等系统组成。
业务网网间采用以太网单网链接,主干平台主要负责全台网中各业务系统的互联互通和文件交换,同时给全网运行提供统一用户、统一时钟、统一审片、节目代码及编单、业务统一监控、集中数据备份等基础服务。
(二)部署规划
全台业务网部署两台核心交换与各业务网的两台接入交换机组成全业务网的核心交换网络。
主干平台采用刀片服务器结合VMware虚拟化平台部署后台服务系统,机架式服务器主要部署EMB文件传输服务和数据库服务。
此次项目中,刀片服务器虚拟化业务和数据库业务我们使用了万兆FCoE 数据交换网络。机架式数据库服务器和刀片服务器中VMware虚拟化平台通过万兆FCoE使用统一存储中的数据块服务。
(三)部署及连接方式
1、服务器部署
服务器配置万兆聚合网络适配器(CNA网卡),使用光纤链接至万兆FCoE交换机,从FCoE交换机使用两组光纤分别链接至统一存储的万兆FCoE端口和万兆NAS端口。
2、刀片服务器部署
刀片服务器通过CNA网卡与刀箱配置的FCoE交换机链接,再使用光纤链接至万兆FCoE交换机从而实现刀片服务器与存储网络的链接。
(四)设备选型及实施方案
项目中,统一存储为EMC VNX 5500,配置万兆FCoE万兆光纤端口和万兆NAS光纤端口,FCoE交换机为H3C S5830 V2,机架式服务器为IBM 3650 M4加配万兆CNA网卡(激活FCoE功能),刀片服务器系统采用HP C7000,刀箱带万兆上下行交换模块,刀片服务器加配万兆CNA网卡(激活FCoE功能)。
配置过程:
1、H3C交换机的配置。
H3C S5830v2交换机所使用的软件版本为 7.1.045,Release 2308P1。 导入FCoE的license
全局使能LLDP功能
配置ETS参数:优先级映射表方式
配置分组WRR队列
配置PFC参数
配置交换机的FCoE模式
配置VFC接口 并绑定到物理接口
将VFC接口以Trunk方式加入VSAN,即允许指定的VSAN通过当前接口
配置FC-MAP值
使能VLAN的FCoE功能并指定映射VSAN
配置交换机的域ID
创建VSAN
配置Trunk VSAN
配置Zone别名,
配置Zone 在Zone内添加成员
配置 Zone set在Zone set内添加Zone , 激活Zone set并在全网扩散
IP配置,配置互联vlan以及接口,配置OSPF路由
2、HP ProCurve 6120刀片交换机的配置
也要相应的开启FCOE并做相关配置。
3、IBM 3650 M4服务器的配置
激活CNA网卡FCoE功能,安装驱动即可。
4、FCoE的验证
在H3C S5830 交换机上可以显示配置后VFC接口和FIP协议的运行情况,通过查看显示信息验证配置的效果。
项目实施中,机架式服务器和存储网络的实施和FCoE连接较为顺利,其CNA网卡连接到交换机和存储后,经过配置便可通过万兆FCoE链路使用存储资源。但刀片服务器的连接实施较为困难,因为刀箱交换模块和FCoE交换机在对协议兼容性上的问题,加上此FCoE交换机的实施在国内属于第二例,没有太多的经验可以借鉴,导致设备之间的调试花费了两周时间。最终通过H3C和HP工程师的努力和配合,项目顺利完成,成功投入使用。
(五)总结
FCoE具有以下优点:
1、使用FCoE网络融合技术,使得FC和以太网共享一个单一的集成的网络基础设施,整合了存储网络。
2、简化了网络布局,减少了原来使用两个网络(LAN和SAN)所需使用的交换设备数量以及布线量。
3、CNA网卡的采用增强了业务部署的灵活性。同一个网卡,可以根据业务需要灵活选择存储服务的业务类型。
4、统一的存储网络对未来存储设备及容量的扩展也提供了更为便利的手段。
5、减少了设备采购的投资,统一的网络也减少了运维人员的工作量。
另外需注意以下两点:
1、不同厂商的FCoE设备之间兼容性有差异,设备选型时需注意。
2、CNA网卡一般需激活相应功能后才可以支持FCoE。