论文部分内容阅读
在今天的中国,数字化转型已经在各种场合下多次被提及。在数字化转型推动经济增长的大背景下,科研、产业、医疗、教育、经济等产业结构发生了巨大的变化。甚至可以说数字化推进各个行业重塑的同时,正在与经济模式和社会生活的结构相融合,推动数字经济发展的核心技术,正成为社会的发展的核心动力。
正因如此英特尔众多产品线中,“至强”的地位也越来越重要,它不仅意味着全新的数据中心平台,还是英特尔计算力从云端下沉到边缘,深入到各行各业的算力引擎。
其实熟悉闪迪产品的朋友都应该了解,闪迪这一系列的移动固态硬盘其实已经是第二代产品,早在2019年,闪迪便启用了这个设计,而当时我们也就这个耐用、耐看的产品设计给予了很高的评价:IP55 等级的防水防尘、出得野外、入得殿堂的外观,以及出色的兼容性,这些都是当时整个市场中非常创新意识的点。正是受益于这项极受欢迎的设计,闪迪也将这个产品线延展开来,丰富的产品线也使得我们偶尔会有辨识上的盲区,在评测这款闪迪移动固态硬盘之前,我们不妨展开聊聊闪迪近几年的变化。
AI、算力、安全同时提升的第三代至强
我们看到,全新发布的第三代英特尔至强可扩展处理器(代号“Ice Lake”)采用了10nm制程工艺设计生产,这是继Tiger Lake之后,英特尔又一个进入10nm时代的产品线。每颗第三代英特尔至强可扩展处理器芯片可提供最多40个核心,性能相比已部署五年的系统提高2.65倍。该平台每插槽最多可支持6TB系统内存,提供高达8个DDR4-3200内存通道和64个PCIe 4.0通道。
在至强处理器周边,英特尔集中了傲腾持久内存与存储产品、以太网适配器、FPGA和经过优化的软件解决方案等强大产品线组合,使至强平台在数据中心、云、5G和智能边缘等领域提供强大的性能和工作负载优化,以应对在人工智能、数据分析、高性能计算等多种复杂需求的开发和部署。
以往我们看处理器的升级,主要看它的算力成长指标,而第三代英特尔至强可扩展处理器不仅在算力上有着重大的提升,更是在人工智能和安全性上提供了更为强大的支持,这对于在分布式智能时代以强大、灵活、可靠的算力,来应对复杂多样的工作负载有着巨大价值。
算力上,第三代英特尔至强可扩展处理器(以下简称“第三代至强”)在主流数据中心工作负载上性能平均提升46%。另外,它还是唯一内置人工智能加速,并提供广泛软件优化和整体解决方案的数据中心CPU,其全新的硬件和软件优化可以提供高达74%的人工智能加速,在20种主流人工智能工作负载上,第三代至强的性能优势最高超出AMD EPYC7763的1.5倍,最高超出英伟达A100 GPU的1.3倍。
通过英特尔深度学习加速技术集成人工智能加速技术,英特尔专门为第三代至强提供了多项安全法宝,包含英特尔软件防护扩展(Intel SGX)和英特尔密码操作硬件加速,以及用于人工智能加速的英特尔深度学习加速技术(DL Boost),这些新功能和新软件都会加入英特尔精选解决方案和英特尔市场就绪解决方案内,组成满足广泛行业需求的产品组合。
看懂至强及其周边软硬件方案组合,才能明白英特尔真正的强大之处在于丰富的产品线和生态系统:比如为了解决传输更快问题的Si Photonics硅光子通信芯、Ethernet以太网产品线、Tofino可编程以太网交换机产品线;为了存储更多的Optane内存、SSD产品线和在算力上形成包围优势的XEON至强、Atom凌动、Agilex FPGA、结构化eASIC、StratixFPGA、Movidius 神经网络计算、Habana AI、Xe显示等芯片阵营。正是凭借软硬结合的优势、规模化的能力和完善的生态支持,英特尔能够提供最为灵活创新的产品解决方案,并赢得最多的合作伙伴支持。
作为一款数据中心产品,第三代至强紧抓住未来的数据中心的变化趋势,英特尔将之归纳为“应万变 塑非凡”六字——也是第三代至强的发布主题。细讲下来便是针对云计算在公有云、私有云、混合云,甚至行业云在实施地点、部署规模上的不同,需要数据中心适应AI和新兴业务的需求。
从基础架构的角度来看,计算、存储、内存会逐渐解耦,透过更多的软件虚拟化,以实现计算资源池的互联,使之资源利用最大化。如今的至强处理器多达40个核心,强大的算力包围出的计算资源池,为充分利用处理器的高算力,英特尔引入了负载整合的技術,具体来说便是运用虚拟化的技术,在不同核心上跑不同的应用,充分利用现在处理器的多核能力。同样,英特尔在边缘上利用云原生技术将相关软件模块放在一个容器中便于服务商管理和升级,也需要利用虚拟化技术将前端平台虚拟化成若干个不同的计算设备、网络设备、存储设备,用户便可从相互连通的计算池中调用计算资源,实现复杂的应用。在联通算力池的基础上,英特尔也根据客户需要的复杂应用场景,将软件分解为更小的模块,成为微服务,方便调用。
另外,CPU如今并不能单独满足日益复杂的用户需求,前文中也提到,至强处理器周边有很多给力的“小伙伴”。不过英特尔的XPU大战略则是通过异构计算打通不同构架芯片的围栏,从而实现覆盖更宽的产品组合。这其中既包含了x86构架的CPU,也包含了FPGA架构的Agilex,也有Xe显示芯片,还有人工智能加速芯片VPU架构……一句话,便是将CPU融入XPU大战略协同工作中去,以应对复杂数据处理需求。
海量数据涌向边缘
细看英特尔在近两年的产品线布局,产品重心越来越从云、到网络,向边缘上迁移,这是由于数据的产生将大量产生于数据中心之外,有报告指出,2025年数据中心之外产生的数据将占据总数据量的75%,而企业也非常重视分析这类数据产生的价值。对于面向企业的解决方案来说,将算力放在更靠近数据的地方,不仅能够降低延时,加快分析效率,而且能够直接带来AI、机器视觉的大量应用。所以我们看到,第三代至强特别为智能边缘侧提供了强大的人工智能、复杂的图片或视频分析以及整合工作负载的性能、安全性与运营控制。相较于前一代产品,该平台可为图像分类提供的人工智能推理性能提升最多可达1.56倍。 另外,第三代至强易于管理的特性,也有利于在新零售、制造、医疗等行业中部署智能边缘计算。比如英特尔Speed Select技术,便能将一台服务器针对不同工作负载的需求动态的灵活配置,以提升其利用率。加上刚才提及的安全功能,能够让这些分散于数据中心之外的数据更加安全,更加有效地得到利用。特别是应智能边缘开发的至强D系列产品,采用了SoC架构,拥有上述易管理、安全和AI等计算特性,能够更加灵活地部署在边缘之上。
關于智能边缘话题的高端专访
英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士
数据中心、云端、网络、边缘,到存储,英特尔在以上领域均推出了基于第三代至强平台的产品组合。但近年来,应行业需求,发展得最快的莫过于边缘,所以我们就“智能边缘的发展”话题,邀请到英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士与我们进行一场深入的交流。
1.第三代至强能够在哪些边缘之上
相对第三代至强的性能提升,我们更关心它能够在哪些具体的智能边缘应用场景上部署。虽然算力提升给平台的部署提高了更大的宽容度,但硬件还是需要于基于英特尔各种软件解决方案才能在各行各业生根开花。
在第三代至强发布之前,我们已经看到前序产品已经有在边缘上应用的案例,比如将云基础设施和云服务部署到企业现场的智能边缘小站;比如基于5G网络,在接近智能手机或者移动终端的地方(智能化基站)提供云计算能力的MEC(移动边缘计算);以及在医疗、工业上大量用于监视控制和数据采集的边缘视觉套件……但实现上,这些应用在诉求点和部署方式各不相同,目前英特尔可以在哪些场景下部署第三代至强平台?带着这样的话题,我们开始了今天的交流。
首先,张宇博士介绍了边缘的大概念。边缘的概念最早来自网络边缘,因业务下沉将一些算力由中心推到边缘,如今物联网场景的需求越来越旺盛,所以我们从应用场景角度将其分为网络边缘和物联网边缘。边缘小站、5G的MEC平台都属于网络边缘的应用;物联网的应用场景更加具体一些,除了工业、医疗,智能交通、智慧社区准确来说都包含其中。
第三代至强对两类边缘场景都能提供很好支持,比如利用至强处理器在通信领域可以搭建MEC平台,能够实现高效的信号处理和数据转发。这次发布的很多新特性,特别适于数据的高效传输,比如英特尔DDIO(数据直接 I/O)便可将传统从网卡接入,经过内存再进入CPU处理的数据,直接从网卡进入到CPU,省去内存的转发环节,无形中提高了数据接收和处理速度。
物联网的边缘计算应用场景很多,不同场景对于算力要求不一样,对用户来说,总希望获得性价比最大化的方案。我们可以看到,第三代至强此次推出了不同硬件配置、不同核心数量、不同性能的产品,用户可以根据自己对于负载的要求选择不同的配置。对应用户在边缘上部署的效益最大化的需求,第三代至强还含有一个全新的特征——英特尔SST技术(Speed Select Technology)。这是一个可提供更精细化的CPU性能控制技术,它可以根据负载或虚拟机要求,调节每个核上的性能,针对工作负载的变化。SST技术还可以提供远程访问解决方案实现自动重新配置。这样灵活的配置能力,非常适于在边缘上的部署。
2.为边缘计算而生的至强D有哪些能力
在边缘之上,第三代至强D系列处理器是当仁不让的主角。早期,D系列处理器曾应用在SOC嵌入式场景,新一代的至强D处理器则专门应用于vRAN、安全设备、uCPE/SD-WAN、交换机和路由器等室内外使用场景中密度更高、尺寸受限且坚固耐用的边缘设备上。
在张宇博士看来,至强D处理器的设计与边缘计算是相辅相成的,由于边缘底层更多的是PCIe带宽,强调I/O吞吐能力,所以至强D处理器从硬件、工艺方面都充分考虑到性能功耗比、应用性、易部署。而且不同于数据中心等领域所需的一个处理器平台将两块CPU的双路服务器,至强D处理器采用的是单路服务器方案。
我们还在英特尔官网留意到,至强D处理器提供从25W到125W的广泛功率选择包含的系统芯片包括集成CPU、面向英特尔QuickAssist技术的硬件加速、IO和NIC,加上SP产品线的补充,能够涵盖用户对算力从低到高的不同要求。此外,该处理器还内置原生人工智能(VNNI和英特尔深度学习加速)、直连加密功能和精准定时,进一步促进边缘服务的部署。
3.第三代至强平台应对不同边缘应用场景的灵活部署有何优势?
与传统数据中心不同,算力在边缘上的部署需要及时响应和灵活性,以应对不同场景下的部署。与竞争对手相比,英特尔的优势在何处呢?张宇肯定了我们的问题方向,虽然不能对竞争对手进行评测,他还是从英特尔已经具有明显优势做了解答。
在他看来,英特尔在边缘部署上充分了解用户对于半导体行业、对于芯片的要求,尽管根据不同应用场景需要完成的工作是多样化的,但总体可以将处理的类型分成三个大类:第一,要完成计算;第二,要做存储;第三,满足通信。如今很难把所有工作都在一个节点上完成(单一节点系统),需要的是云边协同的分布式系统,将工作在云端和边缘分布式地进行处理。所以系统角度去看一块半导体处理器,是基本的要求。
英特尔XPU企业战略拥有强大的产品阵列支持,产品涵盖了通信、计算、存储的各个方面,不同处理器有各自分工,在具体处理器设计方面充分考虑用户需求,我们把这几个方面都考量进去了。第三代至强可扩展处理器我们一方面提升核心数量和算力,人工智能、AI推理能力在不断增强;存储方面,它的内存在傲腾的支撑下能达到6TB,访问内存的容量提升了2.6倍,访问速度也提升了1.6倍左右。通信相关的技术方面,DDIO这样的技术使得至强处理器更快的接收到数据、处理数据以及更快发送数据。这些都是单一处理器设计时着重考虑的方面。 放在英特尔全产品系列上来看,刚才提到的小站、5G的MEC平台,其中都包含了英特尔的处理器技术和与之相关的软件技术在通讯里,我们提供的OpenNESS软件工具可以方便地帮助用户实现5G的RAN功能、5G核心网络功能、5G的MEC功能,利用这样的软件能够更好地发挥处理器平台能提供的功能。在人工智能方面还提供了比如OpenVINO、OneAPI等这样的软件工具,能够帮助开发者快速把他在开放的人工智能框架,像Caffe、TensorFlow等开放框架上设计、训练好的人工智能网络模型,通过这样一些工具快速的部署到英特尔提供的不同硬件平台上实现人工智能的推理操作。所以英特尔产品最大的特点便是在软件和硬件的产品均涵盖了用户在计算、通讯和存储多方面的需求。
在应对不同边缘应用场景的部署上,英特尔也一直和合作伙伴一起为最终用户提供解决方案。包含刚才提及的,英特尔在软件方面非常完整,在此基础上还有应用参考级的框架,这是英特尔非常自豪的。软件和解决方案上投入的力度越大,最终用户用起来就越方便。
4.第三代至强平台在AI方面的进展
其实不仅是至强,英特尔其他产品线上最新一代的产品都强调AI能力的成长。而AI,更是边缘上用于视觉采集、计算等应用非常看重的能力。我们已经看到,第三代至强号称业内唯一内置人工智能加速的处理器,相对竞品在测试项目中取得了明显的优势,希望通过张宇博士了解到第三代至强AI性能大幅提升的原因。
关于AI方面,第三代至强多核心带来了强大的人工智能算力。除了 AVX512指令集对于加速 AI 模型的推断非常有效之外,还集成了DL Boost Int8的指令集,人工智能推理方面的速度与第二代至强相比有1.8倍左右的提升;同时,VNI的指令集也做了进一步增强,可显著提高基于硬件的性能。另外,英特尔建有机器学习库,还可能过OpenVINO推动人工智能和机器学习的融合,特别是在人工智能边缘计算上,大大简化了实际部署环境的难度,尤其是在最新版本在边缘端的软硬结合带来了性能的极大提升。
由于采用了11代Graphic显示芯片(内部称为12代Graphic),第三代至强相比前一代使用的9代Graphic,可用于AI计算的单元数EU从最高32扩到了96个,3倍扩展的情况下,视觉方面的AI运算能力上也有巨大提高。在某些场景对AI算力需求巨大的情况下,还可以通过FPGA或者其他加速卡进行扩展,这也是平台开放性所具备的天生优势。在与合作伙伴深入的合作下,英特尔拥有完备的参考样本,能帮助合作伙伴快速部署产品。
写在最后:
完备的参考样本建立在英特尔非常重视的解决方案建设上。从2010年起致力于加速数据中心解决方案的质量以及数量后,至强在各个方面拥有相当深厚的基础和技术解决能力。尤其是2017年开始英特尔推出精选解决方案之后、英特尔可以提供了超过500个数据中心解决方案和30个从云到边缘的不同工作负载的方案。从宽广的软硬件产品组合、丰富的解决方案,到广泛的生态系统和数十年客户实例实施经验,这些都是英特尔足以自傲的。当然,我們今天的话题还是落在智能边缘之上,英特尔专门建设了边缘软件中心(ESH),英特尔提供的软件工具和针对不同行业的解决方案均是通过其更新和共享。对于边缘的重视还是因其高速的成长性,有理由相信,未来边缘上产生的数据将体现出更多价值。
正因如此英特尔众多产品线中,“至强”的地位也越来越重要,它不仅意味着全新的数据中心平台,还是英特尔计算力从云端下沉到边缘,深入到各行各业的算力引擎。
其实熟悉闪迪产品的朋友都应该了解,闪迪这一系列的移动固态硬盘其实已经是第二代产品,早在2019年,闪迪便启用了这个设计,而当时我们也就这个耐用、耐看的产品设计给予了很高的评价:IP55 等级的防水防尘、出得野外、入得殿堂的外观,以及出色的兼容性,这些都是当时整个市场中非常创新意识的点。正是受益于这项极受欢迎的设计,闪迪也将这个产品线延展开来,丰富的产品线也使得我们偶尔会有辨识上的盲区,在评测这款闪迪移动固态硬盘之前,我们不妨展开聊聊闪迪近几年的变化。
AI、算力、安全同时提升的第三代至强
我们看到,全新发布的第三代英特尔至强可扩展处理器(代号“Ice Lake”)采用了10nm制程工艺设计生产,这是继Tiger Lake之后,英特尔又一个进入10nm时代的产品线。每颗第三代英特尔至强可扩展处理器芯片可提供最多40个核心,性能相比已部署五年的系统提高2.65倍。该平台每插槽最多可支持6TB系统内存,提供高达8个DDR4-3200内存通道和64个PCIe 4.0通道。
在至强处理器周边,英特尔集中了傲腾持久内存与存储产品、以太网适配器、FPGA和经过优化的软件解决方案等强大产品线组合,使至强平台在数据中心、云、5G和智能边缘等领域提供强大的性能和工作负载优化,以应对在人工智能、数据分析、高性能计算等多种复杂需求的开发和部署。
以往我们看处理器的升级,主要看它的算力成长指标,而第三代英特尔至强可扩展处理器不仅在算力上有着重大的提升,更是在人工智能和安全性上提供了更为强大的支持,这对于在分布式智能时代以强大、灵活、可靠的算力,来应对复杂多样的工作负载有着巨大价值。
算力上,第三代英特尔至强可扩展处理器(以下简称“第三代至强”)在主流数据中心工作负载上性能平均提升46%。另外,它还是唯一内置人工智能加速,并提供广泛软件优化和整体解决方案的数据中心CPU,其全新的硬件和软件优化可以提供高达74%的人工智能加速,在20种主流人工智能工作负载上,第三代至强的性能优势最高超出AMD EPYC7763的1.5倍,最高超出英伟达A100 GPU的1.3倍。
通过英特尔深度学习加速技术集成人工智能加速技术,英特尔专门为第三代至强提供了多项安全法宝,包含英特尔软件防护扩展(Intel SGX)和英特尔密码操作硬件加速,以及用于人工智能加速的英特尔深度学习加速技术(DL Boost),这些新功能和新软件都会加入英特尔精选解决方案和英特尔市场就绪解决方案内,组成满足广泛行业需求的产品组合。
看懂至强及其周边软硬件方案组合,才能明白英特尔真正的强大之处在于丰富的产品线和生态系统:比如为了解决传输更快问题的Si Photonics硅光子通信芯、Ethernet以太网产品线、Tofino可编程以太网交换机产品线;为了存储更多的Optane内存、SSD产品线和在算力上形成包围优势的XEON至强、Atom凌动、Agilex FPGA、结构化eASIC、StratixFPGA、Movidius 神经网络计算、Habana AI、Xe显示等芯片阵营。正是凭借软硬结合的优势、规模化的能力和完善的生态支持,英特尔能够提供最为灵活创新的产品解决方案,并赢得最多的合作伙伴支持。
作为一款数据中心产品,第三代至强紧抓住未来的数据中心的变化趋势,英特尔将之归纳为“应万变 塑非凡”六字——也是第三代至强的发布主题。细讲下来便是针对云计算在公有云、私有云、混合云,甚至行业云在实施地点、部署规模上的不同,需要数据中心适应AI和新兴业务的需求。
从基础架构的角度来看,计算、存储、内存会逐渐解耦,透过更多的软件虚拟化,以实现计算资源池的互联,使之资源利用最大化。如今的至强处理器多达40个核心,强大的算力包围出的计算资源池,为充分利用处理器的高算力,英特尔引入了负载整合的技術,具体来说便是运用虚拟化的技术,在不同核心上跑不同的应用,充分利用现在处理器的多核能力。同样,英特尔在边缘上利用云原生技术将相关软件模块放在一个容器中便于服务商管理和升级,也需要利用虚拟化技术将前端平台虚拟化成若干个不同的计算设备、网络设备、存储设备,用户便可从相互连通的计算池中调用计算资源,实现复杂的应用。在联通算力池的基础上,英特尔也根据客户需要的复杂应用场景,将软件分解为更小的模块,成为微服务,方便调用。
另外,CPU如今并不能单独满足日益复杂的用户需求,前文中也提到,至强处理器周边有很多给力的“小伙伴”。不过英特尔的XPU大战略则是通过异构计算打通不同构架芯片的围栏,从而实现覆盖更宽的产品组合。这其中既包含了x86构架的CPU,也包含了FPGA架构的Agilex,也有Xe显示芯片,还有人工智能加速芯片VPU架构……一句话,便是将CPU融入XPU大战略协同工作中去,以应对复杂数据处理需求。
海量数据涌向边缘
细看英特尔在近两年的产品线布局,产品重心越来越从云、到网络,向边缘上迁移,这是由于数据的产生将大量产生于数据中心之外,有报告指出,2025年数据中心之外产生的数据将占据总数据量的75%,而企业也非常重视分析这类数据产生的价值。对于面向企业的解决方案来说,将算力放在更靠近数据的地方,不仅能够降低延时,加快分析效率,而且能够直接带来AI、机器视觉的大量应用。所以我们看到,第三代至强特别为智能边缘侧提供了强大的人工智能、复杂的图片或视频分析以及整合工作负载的性能、安全性与运营控制。相较于前一代产品,该平台可为图像分类提供的人工智能推理性能提升最多可达1.56倍。 另外,第三代至强易于管理的特性,也有利于在新零售、制造、医疗等行业中部署智能边缘计算。比如英特尔Speed Select技术,便能将一台服务器针对不同工作负载的需求动态的灵活配置,以提升其利用率。加上刚才提及的安全功能,能够让这些分散于数据中心之外的数据更加安全,更加有效地得到利用。特别是应智能边缘开发的至强D系列产品,采用了SoC架构,拥有上述易管理、安全和AI等计算特性,能够更加灵活地部署在边缘之上。
關于智能边缘话题的高端专访
英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士
数据中心、云端、网络、边缘,到存储,英特尔在以上领域均推出了基于第三代至强平台的产品组合。但近年来,应行业需求,发展得最快的莫过于边缘,所以我们就“智能边缘的发展”话题,邀请到英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士与我们进行一场深入的交流。
1.第三代至强能够在哪些边缘之上
相对第三代至强的性能提升,我们更关心它能够在哪些具体的智能边缘应用场景上部署。虽然算力提升给平台的部署提高了更大的宽容度,但硬件还是需要于基于英特尔各种软件解决方案才能在各行各业生根开花。
在第三代至强发布之前,我们已经看到前序产品已经有在边缘上应用的案例,比如将云基础设施和云服务部署到企业现场的智能边缘小站;比如基于5G网络,在接近智能手机或者移动终端的地方(智能化基站)提供云计算能力的MEC(移动边缘计算);以及在医疗、工业上大量用于监视控制和数据采集的边缘视觉套件……但实现上,这些应用在诉求点和部署方式各不相同,目前英特尔可以在哪些场景下部署第三代至强平台?带着这样的话题,我们开始了今天的交流。
首先,张宇博士介绍了边缘的大概念。边缘的概念最早来自网络边缘,因业务下沉将一些算力由中心推到边缘,如今物联网场景的需求越来越旺盛,所以我们从应用场景角度将其分为网络边缘和物联网边缘。边缘小站、5G的MEC平台都属于网络边缘的应用;物联网的应用场景更加具体一些,除了工业、医疗,智能交通、智慧社区准确来说都包含其中。
第三代至强对两类边缘场景都能提供很好支持,比如利用至强处理器在通信领域可以搭建MEC平台,能够实现高效的信号处理和数据转发。这次发布的很多新特性,特别适于数据的高效传输,比如英特尔DDIO(数据直接 I/O)便可将传统从网卡接入,经过内存再进入CPU处理的数据,直接从网卡进入到CPU,省去内存的转发环节,无形中提高了数据接收和处理速度。
物联网的边缘计算应用场景很多,不同场景对于算力要求不一样,对用户来说,总希望获得性价比最大化的方案。我们可以看到,第三代至强此次推出了不同硬件配置、不同核心数量、不同性能的产品,用户可以根据自己对于负载的要求选择不同的配置。对应用户在边缘上部署的效益最大化的需求,第三代至强还含有一个全新的特征——英特尔SST技术(Speed Select Technology)。这是一个可提供更精细化的CPU性能控制技术,它可以根据负载或虚拟机要求,调节每个核上的性能,针对工作负载的变化。SST技术还可以提供远程访问解决方案实现自动重新配置。这样灵活的配置能力,非常适于在边缘上的部署。
2.为边缘计算而生的至强D有哪些能力
在边缘之上,第三代至强D系列处理器是当仁不让的主角。早期,D系列处理器曾应用在SOC嵌入式场景,新一代的至强D处理器则专门应用于vRAN、安全设备、uCPE/SD-WAN、交换机和路由器等室内外使用场景中密度更高、尺寸受限且坚固耐用的边缘设备上。
在张宇博士看来,至强D处理器的设计与边缘计算是相辅相成的,由于边缘底层更多的是PCIe带宽,强调I/O吞吐能力,所以至强D处理器从硬件、工艺方面都充分考虑到性能功耗比、应用性、易部署。而且不同于数据中心等领域所需的一个处理器平台将两块CPU的双路服务器,至强D处理器采用的是单路服务器方案。
我们还在英特尔官网留意到,至强D处理器提供从25W到125W的广泛功率选择包含的系统芯片包括集成CPU、面向英特尔QuickAssist技术的硬件加速、IO和NIC,加上SP产品线的补充,能够涵盖用户对算力从低到高的不同要求。此外,该处理器还内置原生人工智能(VNNI和英特尔深度学习加速)、直连加密功能和精准定时,进一步促进边缘服务的部署。
3.第三代至强平台应对不同边缘应用场景的灵活部署有何优势?
与传统数据中心不同,算力在边缘上的部署需要及时响应和灵活性,以应对不同场景下的部署。与竞争对手相比,英特尔的优势在何处呢?张宇肯定了我们的问题方向,虽然不能对竞争对手进行评测,他还是从英特尔已经具有明显优势做了解答。
在他看来,英特尔在边缘部署上充分了解用户对于半导体行业、对于芯片的要求,尽管根据不同应用场景需要完成的工作是多样化的,但总体可以将处理的类型分成三个大类:第一,要完成计算;第二,要做存储;第三,满足通信。如今很难把所有工作都在一个节点上完成(单一节点系统),需要的是云边协同的分布式系统,将工作在云端和边缘分布式地进行处理。所以系统角度去看一块半导体处理器,是基本的要求。
英特尔XPU企业战略拥有强大的产品阵列支持,产品涵盖了通信、计算、存储的各个方面,不同处理器有各自分工,在具体处理器设计方面充分考虑用户需求,我们把这几个方面都考量进去了。第三代至强可扩展处理器我们一方面提升核心数量和算力,人工智能、AI推理能力在不断增强;存储方面,它的内存在傲腾的支撑下能达到6TB,访问内存的容量提升了2.6倍,访问速度也提升了1.6倍左右。通信相关的技术方面,DDIO这样的技术使得至强处理器更快的接收到数据、处理数据以及更快发送数据。这些都是单一处理器设计时着重考虑的方面。 放在英特尔全产品系列上来看,刚才提到的小站、5G的MEC平台,其中都包含了英特尔的处理器技术和与之相关的软件技术在通讯里,我们提供的OpenNESS软件工具可以方便地帮助用户实现5G的RAN功能、5G核心网络功能、5G的MEC功能,利用这样的软件能够更好地发挥处理器平台能提供的功能。在人工智能方面还提供了比如OpenVINO、OneAPI等这样的软件工具,能够帮助开发者快速把他在开放的人工智能框架,像Caffe、TensorFlow等开放框架上设计、训练好的人工智能网络模型,通过这样一些工具快速的部署到英特尔提供的不同硬件平台上实现人工智能的推理操作。所以英特尔产品最大的特点便是在软件和硬件的产品均涵盖了用户在计算、通讯和存储多方面的需求。
在应对不同边缘应用场景的部署上,英特尔也一直和合作伙伴一起为最终用户提供解决方案。包含刚才提及的,英特尔在软件方面非常完整,在此基础上还有应用参考级的框架,这是英特尔非常自豪的。软件和解决方案上投入的力度越大,最终用户用起来就越方便。
4.第三代至强平台在AI方面的进展
其实不仅是至强,英特尔其他产品线上最新一代的产品都强调AI能力的成长。而AI,更是边缘上用于视觉采集、计算等应用非常看重的能力。我们已经看到,第三代至强号称业内唯一内置人工智能加速的处理器,相对竞品在测试项目中取得了明显的优势,希望通过张宇博士了解到第三代至强AI性能大幅提升的原因。
关于AI方面,第三代至强多核心带来了强大的人工智能算力。除了 AVX512指令集对于加速 AI 模型的推断非常有效之外,还集成了DL Boost Int8的指令集,人工智能推理方面的速度与第二代至强相比有1.8倍左右的提升;同时,VNI的指令集也做了进一步增强,可显著提高基于硬件的性能。另外,英特尔建有机器学习库,还可能过OpenVINO推动人工智能和机器学习的融合,特别是在人工智能边缘计算上,大大简化了实际部署环境的难度,尤其是在最新版本在边缘端的软硬结合带来了性能的极大提升。
由于采用了11代Graphic显示芯片(内部称为12代Graphic),第三代至强相比前一代使用的9代Graphic,可用于AI计算的单元数EU从最高32扩到了96个,3倍扩展的情况下,视觉方面的AI运算能力上也有巨大提高。在某些场景对AI算力需求巨大的情况下,还可以通过FPGA或者其他加速卡进行扩展,这也是平台开放性所具备的天生优势。在与合作伙伴深入的合作下,英特尔拥有完备的参考样本,能帮助合作伙伴快速部署产品。
写在最后:
完备的参考样本建立在英特尔非常重视的解决方案建设上。从2010年起致力于加速数据中心解决方案的质量以及数量后,至强在各个方面拥有相当深厚的基础和技术解决能力。尤其是2017年开始英特尔推出精选解决方案之后、英特尔可以提供了超过500个数据中心解决方案和30个从云到边缘的不同工作负载的方案。从宽广的软硬件产品组合、丰富的解决方案,到广泛的生态系统和数十年客户实例实施经验,这些都是英特尔足以自傲的。当然,我們今天的话题还是落在智能边缘之上,英特尔专门建设了边缘软件中心(ESH),英特尔提供的软件工具和针对不同行业的解决方案均是通过其更新和共享。对于边缘的重视还是因其高速的成长性,有理由相信,未来边缘上产生的数据将体现出更多价值。