论文部分内容阅读
当2015年中国(深圳)IT领袖峰会在深圳召开。百度首席科学家吴恩达做了《深度学习与人工智能》的主题演讲。他在演讲中表示,人工智能的发展让他想到第一次工业革命。他说,“我希望大家能把眼光放在未来的工业革命上面,它给我们带来的影响是非常深远的。”
同时,他还提到,目前基于深度学习的人工智能主要关注于三个领域:图像、语音和行为。这些领域正在经历着飞速的创新进展和提升。
他认为,人工智能正在促进大量用户、海量数据和优秀产品形成正循环。新的人工智能方法一一深度学习,超越了旧的人工智能算法,人工智能将为人类就业带来巨大变革。
让机器拥有智慧是最酷的事
有种理论认为人类的智慧来源于一个单一的算法。这个理论的实验依据是,人类大脑发育初期,每一部分的职责分工是不确定的,也就是说,人脑中负责处理声音的部分其实也可以处理视觉影像。人脑究其本质来说,是一台可以被调试以执行特定任务的通用型机器。
七年前,斯坦福大学计算机科学教授吴恩达偶然接触到了这一理论,他突觉醍醐灌顶,这个理论从此改变了他对于人工智能本质的理解,重新点燃了他对人工智能技术的热爱,从而改变了他的职业轨迹。据他回忆,“有生以来第一次,我感到自己有可能在人工智能的研究领域取得一点进展。”
吴恩达说,早期人工智能技术研究领域的主流理念是,人类智慧形成于成千上万个简单代理的协同工作,也就是麻省理工大学教授马尔文明斯基(Marvin Minsky)所说的“头脑的社会”。工程师们以此为信条,认为要实现人工智能必须建立成千上万个独立的计算机模块。一个模块或者算法负责模拟语言,第二个模块处理发声说话等等以此类推。总之,按照这个早期理念,实现人工智能所需的工作量巨大,难以实现。
吴恩达小时候的梦想就是发明能像人类一样思考的机器,当时只是很单纯地认为,让机器拥有智慧是世界上最酷的事情。然而当他进入大学真正开始接触人工智能时,上述理念的盛行让他心灰意冷,中断了对人工智能的继续研究。直到有一天,他接触到了“人类的智慧来源于一个单一的算法”的理论,意识到这个领域的主流理念对于人工智能的理解可能大错特错,他看到了一个机会,重拾儿时的梦想。而“单一算法”这一假说的提出者就是杰夫霍金斯(Jeff Hawkins),一名有着神经科学研究背景的人工智能领域的企业家。
被这一假说所改变的不仅仅是他的职业生涯。吴恩达目前的主要研究领域是机器学习技术中的“深度学习”,在计算机科学中属于比较新的领域,深度学习研究的主要目的是打造能像人脑一样处理数据的机器。目前,深度学习的研究已经不限于学术界,谷歌和苹果这样的大公司也意识到了其中蕴藏的巨大机会。
突破就在一瞬:人工智能的临界点正在到来
深度学习是人工智能技术朝新的研究方向迈出的第一步。简单地说,深度学习包含了构建能够模仿人类大脑行为的神经网络。这些多层次的电脑网络像人类大脑一样,可以收集信息,并基于收集到的信息产生相应的行为。这些电脑网络可以逐渐对事物的外形和声音进行感知和理解,也就是“认识”事物。旧的“伪人工智能”往往需要工程师人工输入物体视觉或者声音的信息,然后由机器学习算法来处理这些信息数据。而在深度学习算法之下,可以通过给这个系统很多数据,使其“自己学会世界上的一些概念”。教机器学习的方法本身就是在模仿人类的学习机制。
虽然深度学习算法目前还比不上人脑的精确性和灵活性,但他说,人工智能的临界点正在到来。目前基于深度学习的人工智能正在进入高速创新期。在过去一些年份中,人工智能的技术发展曾经一度比较低迷。但近年来基于深度学习的人工智能技术向计算机赋予了类似人类神经系统的学习能力,这让人工智能技术得到了大幅度的提升。
“就像火箭的发射包括两件事情,一个是发动机,另外一个是燃料。发动机和燃料之间必须配比的非常好,火箭发射的这种形态给我们的深度学习也带来了一些启示。”吴恩达说,“在深度学习中,我们需要足够大的发动机和足够多的燃料储存。”
“大的发动机”指的是IT计算技术的发展。当深度学习概念刚刚出现的时候,更多的是使用CPU技术,构建小的神经元网络只有100万或1000万的连接。从2008年起,GPU技术发生了很大的发展。GPU被广泛运用在手机、平板等移动硬件设备上,我们借助GPU可以构造越来越大的神经元网络。再往后,在谷歌深度学习项目这样的项目里实现了基于多CPU的云技术。“从今天看下一段的趋势,我们将会从云技术跳到HPC(超性能计算技术)。”他表示。云技术与HPC技术来自两类不同的研究社区,它们背后的研究人员是不同的两类人。在云技术上,你可以同时使用上千台计算机;而HPC技术对硬件的要求是数目较小的、性能更高的硬件。而“足够多的燃料”则是可用的大数据。
除了人类行为之外,大数据还能够识别机器行为。技术的发展让很多公司都能获取大数据来了解人们在互联网环境中的行为。我们可以从这些数据中挖掘更多的价值。实际上,大数据所识别的除了人类行为之外还包括机器行为。今天的深度学习确实是一个非常强大的工具,使我们可以了解机器的行为从而更好地管理数据中心。比如我们可以更好地了解计算机是如何工作的,可以使用这些信息来使机器更好地运作,还可以使用深度学习来提高计算机的安全性。
“我们觉得很多行为数据给我们带来的机会,包括人的行为,包括机器的行为,可能比我们今天所了解到的要广得多。”
未来:得人工智能者得天下
随着移动设备的崛起,“破解人类神经密码”的任务愈发紧迫。由于设备越来越小,我们需要它们运算更快、更准确。然而,随着电子设备的基础元件晶体管的尺寸不断缩小,将它们变得更精确更高效的难度也越来越大。比如,想要加快设备的运算速度,需要给设备提供更多电能,但更多电能会让设备的运算系统更“嘈杂”,也就是说,它得运算精确度会下降。 目前工程师们只能通过避开问题核心的方式来应对上述问题,力求在设备大小、运算速度、能耗之间取得平衡,而吴恩达认为人工智能技术则能提供更好的解决方案,“生物科学能让我们直面问题的根本所在,生物内部的转换机制也是天生‘嘈杂’的,但其找到了一个办法来适应和忍受这些干扰噪声甚至对之加以利用。如果我们可以搞明白生物内部应对这些杂音的方法,我们就能开创一套截然不同的计算模型”。
深度学习之所以能带来更多的价值,是因为我们可以从越来越多的数据当中受益,获得越来越好的结果,开发越来越多的潜能。所以,深度学习确实改变着人们的生活,改变着传统的人工智能。而人工智能的潜能也远不止图像、语音和行为这三个方面,在自然语言的处理方面有很多的事情可以做,在生物技术方面人工智能也有很多东西可以做,这些创新都在发生的过程当中,人工智能也可以更多地被应用到机器人的开发
科学家的目标并不是将计算设备变得更小,他们的目标是让计算机能够做到的事情更多。吴恩达以百度目前所取得的几项重大突破为例展示了这些技术将给人们的生活开启无限的可能。如百度人脸识别能达到0.3%的错误率,将能够在对服饰的识别和搜索和对老年人的看护上带来便利,而百度语音识别准确率已经达到95%并正在追求99%的识别精准度,如果将其广泛运用于物联网的应用场景中,将有可能实现人们用语音与电视、各种家电之间的有效“沟通”。
全世界都意识到,如果你可以解决这些问题,人工智能领域存在的无限商机就会被打开。
而驱使谷歌、IBM、微软、苹果、百度这些公司竞相开发高级机器学习技术的原因,正是其背后蕴藏的巨大商业潜力。纽约大学教授、深度学习领域的专家燕乐存(Yann LeCun)教授预测,两年内,将出现大量的机器学习领域的初创公司,其中很多可能会被大公司收购。
人工智能带来的变革是革命性的。未来的工业革命给我们带来的影响会非常深远。工业革命将会使生产力获得极大的提升,可以把人们从日常重复繁重的工作当中解放出来,把人性解放出来,把人的思想解放出来,使人们不再成为思想的奴隶。
吴恩达的梦想正在照进现实。“我有了希望,不仅仅只是希望,我们可能能够实现真正的人工智能,”他说,“我们当然还没有找到正确的算法——这可能需要长达几十年的时间,要实现它很不容易,但我看到了希望。”
同时,他还提到,目前基于深度学习的人工智能主要关注于三个领域:图像、语音和行为。这些领域正在经历着飞速的创新进展和提升。
他认为,人工智能正在促进大量用户、海量数据和优秀产品形成正循环。新的人工智能方法一一深度学习,超越了旧的人工智能算法,人工智能将为人类就业带来巨大变革。
让机器拥有智慧是最酷的事
有种理论认为人类的智慧来源于一个单一的算法。这个理论的实验依据是,人类大脑发育初期,每一部分的职责分工是不确定的,也就是说,人脑中负责处理声音的部分其实也可以处理视觉影像。人脑究其本质来说,是一台可以被调试以执行特定任务的通用型机器。
七年前,斯坦福大学计算机科学教授吴恩达偶然接触到了这一理论,他突觉醍醐灌顶,这个理论从此改变了他对于人工智能本质的理解,重新点燃了他对人工智能技术的热爱,从而改变了他的职业轨迹。据他回忆,“有生以来第一次,我感到自己有可能在人工智能的研究领域取得一点进展。”
吴恩达说,早期人工智能技术研究领域的主流理念是,人类智慧形成于成千上万个简单代理的协同工作,也就是麻省理工大学教授马尔文明斯基(Marvin Minsky)所说的“头脑的社会”。工程师们以此为信条,认为要实现人工智能必须建立成千上万个独立的计算机模块。一个模块或者算法负责模拟语言,第二个模块处理发声说话等等以此类推。总之,按照这个早期理念,实现人工智能所需的工作量巨大,难以实现。
吴恩达小时候的梦想就是发明能像人类一样思考的机器,当时只是很单纯地认为,让机器拥有智慧是世界上最酷的事情。然而当他进入大学真正开始接触人工智能时,上述理念的盛行让他心灰意冷,中断了对人工智能的继续研究。直到有一天,他接触到了“人类的智慧来源于一个单一的算法”的理论,意识到这个领域的主流理念对于人工智能的理解可能大错特错,他看到了一个机会,重拾儿时的梦想。而“单一算法”这一假说的提出者就是杰夫霍金斯(Jeff Hawkins),一名有着神经科学研究背景的人工智能领域的企业家。
被这一假说所改变的不仅仅是他的职业生涯。吴恩达目前的主要研究领域是机器学习技术中的“深度学习”,在计算机科学中属于比较新的领域,深度学习研究的主要目的是打造能像人脑一样处理数据的机器。目前,深度学习的研究已经不限于学术界,谷歌和苹果这样的大公司也意识到了其中蕴藏的巨大机会。
突破就在一瞬:人工智能的临界点正在到来
深度学习是人工智能技术朝新的研究方向迈出的第一步。简单地说,深度学习包含了构建能够模仿人类大脑行为的神经网络。这些多层次的电脑网络像人类大脑一样,可以收集信息,并基于收集到的信息产生相应的行为。这些电脑网络可以逐渐对事物的外形和声音进行感知和理解,也就是“认识”事物。旧的“伪人工智能”往往需要工程师人工输入物体视觉或者声音的信息,然后由机器学习算法来处理这些信息数据。而在深度学习算法之下,可以通过给这个系统很多数据,使其“自己学会世界上的一些概念”。教机器学习的方法本身就是在模仿人类的学习机制。
虽然深度学习算法目前还比不上人脑的精确性和灵活性,但他说,人工智能的临界点正在到来。目前基于深度学习的人工智能正在进入高速创新期。在过去一些年份中,人工智能的技术发展曾经一度比较低迷。但近年来基于深度学习的人工智能技术向计算机赋予了类似人类神经系统的学习能力,这让人工智能技术得到了大幅度的提升。
“就像火箭的发射包括两件事情,一个是发动机,另外一个是燃料。发动机和燃料之间必须配比的非常好,火箭发射的这种形态给我们的深度学习也带来了一些启示。”吴恩达说,“在深度学习中,我们需要足够大的发动机和足够多的燃料储存。”
“大的发动机”指的是IT计算技术的发展。当深度学习概念刚刚出现的时候,更多的是使用CPU技术,构建小的神经元网络只有100万或1000万的连接。从2008年起,GPU技术发生了很大的发展。GPU被广泛运用在手机、平板等移动硬件设备上,我们借助GPU可以构造越来越大的神经元网络。再往后,在谷歌深度学习项目这样的项目里实现了基于多CPU的云技术。“从今天看下一段的趋势,我们将会从云技术跳到HPC(超性能计算技术)。”他表示。云技术与HPC技术来自两类不同的研究社区,它们背后的研究人员是不同的两类人。在云技术上,你可以同时使用上千台计算机;而HPC技术对硬件的要求是数目较小的、性能更高的硬件。而“足够多的燃料”则是可用的大数据。
除了人类行为之外,大数据还能够识别机器行为。技术的发展让很多公司都能获取大数据来了解人们在互联网环境中的行为。我们可以从这些数据中挖掘更多的价值。实际上,大数据所识别的除了人类行为之外还包括机器行为。今天的深度学习确实是一个非常强大的工具,使我们可以了解机器的行为从而更好地管理数据中心。比如我们可以更好地了解计算机是如何工作的,可以使用这些信息来使机器更好地运作,还可以使用深度学习来提高计算机的安全性。
“我们觉得很多行为数据给我们带来的机会,包括人的行为,包括机器的行为,可能比我们今天所了解到的要广得多。”
未来:得人工智能者得天下
随着移动设备的崛起,“破解人类神经密码”的任务愈发紧迫。由于设备越来越小,我们需要它们运算更快、更准确。然而,随着电子设备的基础元件晶体管的尺寸不断缩小,将它们变得更精确更高效的难度也越来越大。比如,想要加快设备的运算速度,需要给设备提供更多电能,但更多电能会让设备的运算系统更“嘈杂”,也就是说,它得运算精确度会下降。 目前工程师们只能通过避开问题核心的方式来应对上述问题,力求在设备大小、运算速度、能耗之间取得平衡,而吴恩达认为人工智能技术则能提供更好的解决方案,“生物科学能让我们直面问题的根本所在,生物内部的转换机制也是天生‘嘈杂’的,但其找到了一个办法来适应和忍受这些干扰噪声甚至对之加以利用。如果我们可以搞明白生物内部应对这些杂音的方法,我们就能开创一套截然不同的计算模型”。
深度学习之所以能带来更多的价值,是因为我们可以从越来越多的数据当中受益,获得越来越好的结果,开发越来越多的潜能。所以,深度学习确实改变着人们的生活,改变着传统的人工智能。而人工智能的潜能也远不止图像、语音和行为这三个方面,在自然语言的处理方面有很多的事情可以做,在生物技术方面人工智能也有很多东西可以做,这些创新都在发生的过程当中,人工智能也可以更多地被应用到机器人的开发
科学家的目标并不是将计算设备变得更小,他们的目标是让计算机能够做到的事情更多。吴恩达以百度目前所取得的几项重大突破为例展示了这些技术将给人们的生活开启无限的可能。如百度人脸识别能达到0.3%的错误率,将能够在对服饰的识别和搜索和对老年人的看护上带来便利,而百度语音识别准确率已经达到95%并正在追求99%的识别精准度,如果将其广泛运用于物联网的应用场景中,将有可能实现人们用语音与电视、各种家电之间的有效“沟通”。
全世界都意识到,如果你可以解决这些问题,人工智能领域存在的无限商机就会被打开。
而驱使谷歌、IBM、微软、苹果、百度这些公司竞相开发高级机器学习技术的原因,正是其背后蕴藏的巨大商业潜力。纽约大学教授、深度学习领域的专家燕乐存(Yann LeCun)教授预测,两年内,将出现大量的机器学习领域的初创公司,其中很多可能会被大公司收购。
人工智能带来的变革是革命性的。未来的工业革命给我们带来的影响会非常深远。工业革命将会使生产力获得极大的提升,可以把人们从日常重复繁重的工作当中解放出来,把人性解放出来,把人的思想解放出来,使人们不再成为思想的奴隶。
吴恩达的梦想正在照进现实。“我有了希望,不仅仅只是希望,我们可能能够实现真正的人工智能,”他说,“我们当然还没有找到正确的算法——这可能需要长达几十年的时间,要实现它很不容易,但我看到了希望。”