论文部分内容阅读
“人工智能，其实很温暖，也离我们很近！是和我们每个人都息息相关的。”
今天，我们要来说说人工智能的一些故事。故事要从2018年11月14日说起，那天，英特尔人工智能（AI）大会在北京举行，逾千名AI开发者、研究人员以及英特尔的客户和伙伴齐聚，探讨AI的发展，了解英特尔AI技术组合的最新进展。
人工智能离我们很近也很温暖
大家都用微信，微信现在有语音输入功能（识别为文字输入），也能将对方發送的语音转换成文字。这就是一个典型的语音识别人工智能应用。而微信语音识别系统的后台，就有英特尔的功劳。
腾讯QQ Alert有个很暖人心的社会项目——Hope Never Dies（希望永存），通过上亿级的人脸学习和基于人工智能的“时间痕迹”功能，能够用现在的照片库，比对五年甚至十多年前的照片，进行失踪儿童/老人的甄别（就是你上传一个人十年前儿童期的照片，该系统会用现有的人口照片库进行筛查，并能匹配到他/她现在的照片）。这个项目已经成功寻获大量失踪儿童和老人。目前该项目已经成为重要的持续项目。而英特尔的人工智能在这个系统中就起到了学习和识别的硬件加速作用。
英特尔的人工智能在医学影像的大量/快速识别、病症早期筛查上已经取得相当大的成就。全球大量女性都有乳腺相关疾病，但面对海量女性的影像检查，很多国家、地区的医生数量远远不够。而人工智能则可自动进行判断和识别，识别准确率高达99%以上，大大降低了医生的工作量，即便医生数量很少的国家/地区，也可进行大量快速的检测。这个项目已经开始挽救大量女性的生命。
再来个猛的——修复长城。长城，世界八大奇迹之一，但有很多在山岭上的残垣断壁，修复难度极高，如果用人工勘测，人工建模并计算用石数量，耗时会非常长。英特尔用无人机、至强处理器、人工智能，只用了一个小队，节约了数倍的人力和时间，就完成了700多米长城的勘测和3D建模还原（包括原有砖的形态、缝隙都要还原哟，不是码砖头那么简单哟），为长城的修复立下了汗马功劳。这事儿有多牛掰呢？牛掰到BBC想来拍纪录片……
那么，人工智能是什么硬件在运作呢？
相信大家非常好奇这个话题。我们就以英特尔为例，来说说它在人工智能领域的布局吧。
首先要告诉大家的是：人工智能是硬件、软件和数据的整合体，比如大数据分析、学习，包含深度学习，都是基于数据层面的，但要实现这些东西，需要大量硬件和特定应用的整合。
英特尔在人工智能产业上有相当多的硬件产品，包含大家耳熟能详的至强服务器处理器，不过现在发展为“至强可扩展处理器”。另外还有FPGA、Nervana神经网络处理器（明年推出）。它们各有各的特点，针对人工智能中不同的层级和不同的应用。
以上还仅仅是硬件层面。实际上，英特尔还为人工智能开发了很多软件工具，包括Open VINO（软件工具包，专为在边缘部署深度神经网络而设计）、MKL-DNN（面向深度神经网络的英特尔数学核心函数库）、nGraph （一种跨英特尔所有硬件的统一中间层编译器）、BigDL（英特尔开发的分布式深度学习库，运行在现有的Spark集群之上）。另外，英特尔还建立了开发者社区用于沟通和经验、技术的分享。
总体来说，英特尔在人工智能领域有相当庞大的投入和布局。且借助着不断的买买买和资源整合，依靠着数以千计的牛掰工程师，英特尔在过去的一两年内已经取得了巨大的成就，已经和包括阿里、华为、腾讯在内的巨头有了很多的合作，取得了很多成绩。包括智能驾驶，英特尔也是方案提供商之一。
聊个具体产品：英特尔神经计算棒二代
OK，前面说了些案例故事，也说了英特尔在人工智能领域的硬件、软件布局和取得的成绩。下面要说个具体的硬件产品：这届人工智能大会上，英特尔发布了一个重要的硬件产品——神经计算棒二代（简称NCS2），一个像U盘的产品，利用该计算棒，用户可为基于视觉的人工智能应用和学习进行加速。
英特尔神经计算棒京东已有售，单价人民币749元。它基于英特尔的Movidius Myriad X视觉处理单元（VPU，也是一种处理器硬件，很小，只有1平方厘米的样子），配备了神经计算引擎（专用硬件神经网络推理加速器），依靠英特尔的AI工具包OpenVINO支持。它的作用是什么呢？简单说就是——它可以连接在任何IT终端设备或者边缘设备上，辅助英特尔处理器，为AI学习和计算加速。
那么，神经计算棒二代是干吗的呢？它可以插接在电脑的USB接口上，增强该电脑的AI计算能力和应用速度（加速作用）。而且，不一定非得是电脑，还可以是无人机、智能相机、智能摄像头等设备。来看一段官方描述——“只要一台笔记本电脑和神经计算棒二代连接，开发者仅需数分钟就可以让他们的AI和计算机视觉应用程序运转起来。该计算棒在标准USB 3.0端口上运行，无需额外的硬件，因此用户可快速转换并将计算机训练模型无缝部署到各种各样的设备上，并且无需网络或云端连接。”我想，这段话应该说得比较清楚了。
用户可以在开发原型设备上接入第二代神经计算棒进行加速，一个不够快就再加一个，再加一个，再加一个。
边缘设备、边缘计算是啥意思？应用案例是什么？
现在我们知道了基于Movidius Myriad X VPU的神经计算棒二代是给“边缘设备计算”进行加速的。但具体有哪些应用呢？边缘设备、边缘计算又是啥意思呢？
个人电脑用户可能不理解什么是“边缘设备”，其实并不复杂。它是一个在大数据计算领域、智能领域的“相对词汇”：所谓“边缘”，是相对“云端”而言的，可以理解为“终端设备”以及“靠近终端设备的节点设备”。
举例来说：一个城市的某机构/部门要实时监控所有交通摄像头拍摄的车辆，并从中提取车辆信息，包含颜色、车型、车牌号等。这些实时识别并提取的信息是非常有用的，比如可用来进行犯罪嫌疑人的跟踪和抓捕。
但一个城市的车辆、交通摄像头数量是天量，需要庞大的系统来支撑，包括数以万计的交通摄像头、数据上传网络，也许还有各区的数据收集节点，有城市级的数据中心。
不过，若把一个城市里所有的交通摄像头拍摄的图像都上传并汇总到城市级的数据中心再进行大数据分析，那数据中心得非常庞大才有足够的计算力，这需要极其夸张的投资，且对网络带来了极高的要求（毕竟图像数据是非常大的）——显然，这是有问题的。
一个简单的解决方案就是“让摄像头自带一定的识别/计算能力”，或者是“让每100个摄像头自带一个处理节点”，把数据进行初步识别/筛选后再把处理后的简化数据上传到数据中心进行比对，这就可大大降低网络的压力和投资，也可大幅降低数据中心的投资。
于是，我们需要一些小型的“节点计算设备”，用于100个摄像头数据的初步汇总分析。图中的这台英特尔处理器电脑就可以充当这样的计算节点，而它还带有Myriad X VPU加速卡（上图蓝色的硬件，里面有多颗Myriad X VPU）。
而在这个工作模型中，数据中心就是所谓的“云端”，而摄像头本身，以及靠近摄像头的这些计算节点设备，就是所谓的“边缘设备”，它自身带有一定的计算力，就是“边缘计算”。
今天，我们要来说说人工智能的一些故事。故事要从2018年11月14日说起，那天，英特尔人工智能（AI）大会在北京举行，逾千名AI开发者、研究人员以及英特尔的客户和伙伴齐聚，探讨AI的发展，了解英特尔AI技术组合的最新进展。
人工智能离我们很近也很温暖
大家都用微信，微信现在有语音输入功能（识别为文字输入），也能将对方發送的语音转换成文字。这就是一个典型的语音识别人工智能应用。而微信语音识别系统的后台，就有英特尔的功劳。
腾讯QQ Alert有个很暖人心的社会项目——Hope Never Dies（希望永存），通过上亿级的人脸学习和基于人工智能的“时间痕迹”功能，能够用现在的照片库，比对五年甚至十多年前的照片，进行失踪儿童/老人的甄别（就是你上传一个人十年前儿童期的照片，该系统会用现有的人口照片库进行筛查，并能匹配到他/她现在的照片）。这个项目已经成功寻获大量失踪儿童和老人。目前该项目已经成为重要的持续项目。而英特尔的人工智能在这个系统中就起到了学习和识别的硬件加速作用。
英特尔的人工智能在医学影像的大量/快速识别、病症早期筛查上已经取得相当大的成就。全球大量女性都有乳腺相关疾病，但面对海量女性的影像检查，很多国家、地区的医生数量远远不够。而人工智能则可自动进行判断和识别，识别准确率高达99%以上，大大降低了医生的工作量，即便医生数量很少的国家/地区，也可进行大量快速的检测。这个项目已经开始挽救大量女性的生命。
再来个猛的——修复长城。长城，世界八大奇迹之一，但有很多在山岭上的残垣断壁，修复难度极高，如果用人工勘测，人工建模并计算用石数量，耗时会非常长。英特尔用无人机、至强处理器、人工智能，只用了一个小队，节约了数倍的人力和时间，就完成了700多米长城的勘测和3D建模还原（包括原有砖的形态、缝隙都要还原哟，不是码砖头那么简单哟），为长城的修复立下了汗马功劳。这事儿有多牛掰呢？牛掰到BBC想来拍纪录片……
那么，人工智能是什么硬件在运作呢？
相信大家非常好奇这个话题。我们就以英特尔为例，来说说它在人工智能领域的布局吧。
首先要告诉大家的是：人工智能是硬件、软件和数据的整合体，比如大数据分析、学习，包含深度学习，都是基于数据层面的，但要实现这些东西，需要大量硬件和特定应用的整合。
英特尔在人工智能产业上有相当多的硬件产品，包含大家耳熟能详的至强服务器处理器，不过现在发展为“至强可扩展处理器”。另外还有FPGA、Nervana神经网络处理器（明年推出）。它们各有各的特点，针对人工智能中不同的层级和不同的应用。
以上还仅仅是硬件层面。实际上，英特尔还为人工智能开发了很多软件工具，包括Open VINO（软件工具包，专为在边缘部署深度神经网络而设计）、MKL-DNN（面向深度神经网络的英特尔数学核心函数库）、nGraph （一种跨英特尔所有硬件的统一中间层编译器）、BigDL（英特尔开发的分布式深度学习库，运行在现有的Spark集群之上）。另外，英特尔还建立了开发者社区用于沟通和经验、技术的分享。
总体来说，英特尔在人工智能领域有相当庞大的投入和布局。且借助着不断的买买买和资源整合，依靠着数以千计的牛掰工程师，英特尔在过去的一两年内已经取得了巨大的成就，已经和包括阿里、华为、腾讯在内的巨头有了很多的合作，取得了很多成绩。包括智能驾驶，英特尔也是方案提供商之一。
聊个具体产品：英特尔神经计算棒二代
OK，前面说了些案例故事，也说了英特尔在人工智能领域的硬件、软件布局和取得的成绩。下面要说个具体的硬件产品：这届人工智能大会上，英特尔发布了一个重要的硬件产品——神经计算棒二代（简称NCS2），一个像U盘的产品，利用该计算棒，用户可为基于视觉的人工智能应用和学习进行加速。
英特尔神经计算棒京东已有售，单价人民币749元。它基于英特尔的Movidius Myriad X视觉处理单元（VPU，也是一种处理器硬件，很小，只有1平方厘米的样子），配备了神经计算引擎（专用硬件神经网络推理加速器），依靠英特尔的AI工具包OpenVINO支持。它的作用是什么呢？简单说就是——它可以连接在任何IT终端设备或者边缘设备上，辅助英特尔处理器，为AI学习和计算加速。
那么，神经计算棒二代是干吗的呢？它可以插接在电脑的USB接口上，增强该电脑的AI计算能力和应用速度（加速作用）。而且，不一定非得是电脑，还可以是无人机、智能相机、智能摄像头等设备。来看一段官方描述——“只要一台笔记本电脑和神经计算棒二代连接，开发者仅需数分钟就可以让他们的AI和计算机视觉应用程序运转起来。该计算棒在标准USB 3.0端口上运行，无需额外的硬件，因此用户可快速转换并将计算机训练模型无缝部署到各种各样的设备上，并且无需网络或云端连接。”我想，这段话应该说得比较清楚了。
用户可以在开发原型设备上接入第二代神经计算棒进行加速，一个不够快就再加一个，再加一个，再加一个。
边缘设备、边缘计算是啥意思？应用案例是什么？
现在我们知道了基于Movidius Myriad X VPU的神经计算棒二代是给“边缘设备计算”进行加速的。但具体有哪些应用呢？边缘设备、边缘计算又是啥意思呢？
个人电脑用户可能不理解什么是“边缘设备”，其实并不复杂。它是一个在大数据计算领域、智能领域的“相对词汇”：所谓“边缘”，是相对“云端”而言的，可以理解为“终端设备”以及“靠近终端设备的节点设备”。
举例来说：一个城市的某机构/部门要实时监控所有交通摄像头拍摄的车辆，并从中提取车辆信息，包含颜色、车型、车牌号等。这些实时识别并提取的信息是非常有用的，比如可用来进行犯罪嫌疑人的跟踪和抓捕。
但一个城市的车辆、交通摄像头数量是天量，需要庞大的系统来支撑，包括数以万计的交通摄像头、数据上传网络，也许还有各区的数据收集节点，有城市级的数据中心。
不过，若把一个城市里所有的交通摄像头拍摄的图像都上传并汇总到城市级的数据中心再进行大数据分析，那数据中心得非常庞大才有足够的计算力，这需要极其夸张的投资，且对网络带来了极高的要求（毕竟图像数据是非常大的）——显然，这是有问题的。
一个简单的解决方案就是“让摄像头自带一定的识别/计算能力”，或者是“让每100个摄像头自带一个处理节点”，把数据进行初步识别/筛选后再把处理后的简化数据上传到数据中心进行比对，这就可大大降低网络的压力和投资，也可大幅降低数据中心的投资。
于是，我们需要一些小型的“节点计算设备”，用于100个摄像头数据的初步汇总分析。图中的这台英特尔处理器电脑就可以充当这样的计算节点，而它还带有Myriad X VPU加速卡（上图蓝色的硬件，里面有多颗Myriad X VPU）。
而在这个工作模型中，数据中心就是所谓的“云端”，而摄像头本身，以及靠近摄像头的这些计算节点设备，就是所谓的“边缘设备”，它自身带有一定的计算力，就是“边缘计算”。