论文部分内容阅读
如今提起人工智能,“深度学习”和“机器学习”是两个常常被挂在嘴边的词。但作为“深度学习”和“机器学习”基础的“神经网络”,在上世纪50年代却被主流学术界认为是错误的概念。提出这一概念的Geoffrey Hinton,尽管如今被称为“神经网络之父”,但在当时也是学术界的边缘人物。
不过他没有退缩,他坚持认为神经网络的想法不是错误的,主要的问题是计算能力。当时的电脑无法处理数百万张图片,样本容量也实在太小,因此想要让计算机挖掘出图片背后的意义,进行大量的训练是十分必要的。随后的30年里,Geoffrey Hinton一直徘徊在人工智能研究的边缘地带,一直坚持着“计算机可以像人类一样思考”这一观点。
拥有良好判断力的少数派
Geoffrey Hinton最初的想法来自一个朋友向他描述的全息图工作原理,由于出身科学家世家,Hinton很快联想到人类大脑也是如此。而人类大脑的信息是通过一个巨大的,由神经元圖谱连接起来的细胞网络传播,在多达十亿条的路径上发射、连接和传输,那么计算机是不是也能像这样工作呢?
当时的学术界普遍认为计算机在规则和逻辑方面做得最好,神经网络的概念根本就是错误的。但Hinton却没有丝毫动摇,1972年在爱丁堡大学攻读博士学位时也选择了研究神经网络。每周,他的导师都会对他说:“你这是在浪费时间。”但Hinton的研究还是慢慢取得了一些成功。
博士毕业后,Hinton被里根政府的外交政策所困扰,因此带着妻子搬到了多伦多,并接受了加拿大高级研究所的工作邀约。很快,Hinton组建起了一支专攻深度学习的人才团队,其中包括OpenAI的联合创始人兼董事长Ilya Sutskever。回忆起2000年的“人工智能寒冬”, Sutskever说道:“当时我们只有十个人左右,资金非常匮乏。虽然我们是局外人,但我们觉得我们有一种罕见的洞察力,十分与众不同。”
九年时间飞逝,当计算机终于有能力挖掘海量数据时,超级神经网络开始在语音和图像识别方面超越基于逻辑的人工智能。很快,业内的大型科技公司,如微软、Facebook、谷歌等纷纷开始投资。2012年,谷歌公司的绝密实验室Google X(现在名为X),宣布建立一个由16000个电脑处理器组成的神经网络,并将其用在YouTube上。
随后,该实验室从YouTube上提取了数百万个随机的、没有标签的视频,输入到这台新的超级计算机中,并通过编程使其能够理解所看到的内容。最终,神经网格从无数个关于猫的视频中成功分辨出了猫,这也成为了人工智能领域发展过程中的一个激动人心的时刻。
之后,Hinton和他的助手们就成为了人工智能浪潮中的领导者。 2013年,Google X的高级研究员Jeff Dean将Hinton招进了谷歌。有趣的是,原本就不属于体制内学者的Hinton,突然之间成为了体制的建立者。尽管观点曾经被业界抛弃,但如今却成为人工智能行业里最炙手可热的人物。
“我之所以能产生巨大的影响力,是因为我是极少数相信这种方法的人之一,而且那些相信这个方向的学生也加入了我,和我一起工作。我必须从他们当中选出那些有良好判断力的人。”Hinton笑着说,“好的判断力意味着他们同意我的意见。”
矢量研究所成下一个希望
目前,Hinton和他的团队已经在一些近半个世纪里都没有解决的难题上获得了前所未有的进展。语音识别、图像识别技术都已经获得了巨大的进步。在去年的Google GO NORTH大会上,加拿大总理Justin Trudeau、创新部长Navdeep Bains,以及谷歌母公司Alphabet的执行董事长Eric Schmidt等人更是像热切的学生一样坐在桌前,听Hinton讲述着神经网络的美妙之处,同时也对他和两名谷歌工程师的最新突破胶囊神经网络做出了简洁而清晰的解释。
具体来说,神经网络依赖于海量的数据来学习,需要很长时间才认识到从不同角度观察的对象是同一个物体。而胶囊是一种人造神经元组成的层,能够跟踪物体的各个部分之间的关系,使识别更快更准确。在科技领域,胶囊神经网络受到了广泛关注,业内人士都期待着Hinton的下一次大飞跃。
如今每一家大型科技公司的人工智能专家都在争先恐后地研究深度学习,并希望找到下一个变革性发现。但事实上,在Hinton的人工智能研究方法并不是业界主流的时候,许多专家都曾是Hinton的徒弟。如今,Hinton过去的许多学生在Facebook、谷歌、苹果以及学术界都声名鹊起。他们在学术界传播了神经网络的知识,形成了他们自己的生活方式。
在过去的十年里,多伦多的人才不断流失,当地的创业公司被硅谷吞并,而多伦多大学的深度学习社区也面临危机。而Hinton的存在,显然能够吸引更多精英部队留下。因此,多伦多大学创建了一个价值数百万美元的实验室——矢量研究所,并由Hinton担任首席科学顾问。
随后,由于受到了与Hinton合作的承诺的吸引,许多人工智能领域的领军人物聚集到了这里。在加拿大科技公司北电和黑莓经历了痛苦的解体后,矢量研究所成为了下一个希望。而Hinton在矢量研究所发起的第一个项目,是将神经网络连接到多伦多医院提供的海量数据中。
Hinton之所以选择这个项目,是因为他的两任妻子都罹患癌症。第一任妻子Ros患卵巢癌去世,第二任妻子Jackie也被诊断患有胰腺癌。Hinton在医院度过了许多时光,他深刻地了解病人等待结果时收到模糊信息的挫败感。因此,Hinton对深度学习改革医疗保健的潜力充满热情,希望可以通过这项技术把医疗结果等待时间缩短。
如今,Peter Munk捐赠1亿美元给以他的名字命名的心脏护理中心,而矢量研究所也能从中获得部分资金用以继续研究。矢量研究所不再只是解决多伦多大学人才流失的方案,更是加拿大最新的人工智能研究机构。迄今为止,矢量研究所已经雇用了20名科学家,他们正在为解决世界上一些重大的问题而不懈努力。
人类是更精巧、更了不起的机器
作为一个克制的英国人,Hinton通常会把传播AI知识的机会留给其他人。不过,如今人工智能领域的火热景象他也看在眼里。围绕人工智能的狂热不仅与金钱有关,还与人工智能融入日常生活的快速步伐有关。从翻盖手机到具有人脸识别功能的iPhone X,中间不过10年。
“我担心人工智能可能会完全取代人类。”这是霍金最近说的话。无独有偶,许多业界的科学家也都曾发出过这样的警告,他们开始担心人工智能发展得太过迅速,甚至会超过人类的可控范围。而Hinton作为“神经网络之父”,他也深知人工智能高速发展会引起的道德争论。
事实上,Hinton曾签署一份请愿书,要求联合国禁止使用致命的自主武器,也就是所谓的杀人机器人。同时,拒绝了加拿大通信安全局的董事职位,原因正是其担心人工智能可能存在的安全滥用问题。他认为,政府需要介入并制定相关法规,防止军方开发杀人机器人。
“AI焦虑”是人工智能高速发展之后引起的一种新型焦虑,从2001年开始,流行文化中就充斥着这种忧虑。机器的进步被解读成了一种个人的孤独,一种损失。就好像,机器变得更人性化,人类就会变得不那么人性化了。对此,Hinton却认为人类也是机器,只是以生物的方式生产而已。人类是更精巧、更了不起的机器。
“我认为它会让生活变得更容易。人们谈论的潜在影响与技术本身无关,但与社会的组织形式有关。作为一名社会主义者,我认为当技术进步,生产力提高时,每个人都应该分享这些成果。”Hinton乐观地说道。
如果要说AI对人类的“入侵”始于何地,那正是Google的食堂。在那里,无论是大多数科技公司标配的日间美容室,还是露台上一个小型的高尔夫球场和授粉蜂箱,都遍布机器人的身影。但Hinton不认为这叫做“入侵”,他认为计算机接管世界的末日场景,在很长一段时间内都不会发生。
与此同时,Hinton还认为,如今 ATM 机等机器已经帮助人们减少了大量繁重的工作,提高了生产效率。在一个相对公平公正的政治制度下,能够提高生产力的技术肯定会受到公众的欢迎,因为这会帮助每个人的生活变得更好。技术本身不是问题,问题是社会制度能不能保障每个人都受益。
不过他没有退缩,他坚持认为神经网络的想法不是错误的,主要的问题是计算能力。当时的电脑无法处理数百万张图片,样本容量也实在太小,因此想要让计算机挖掘出图片背后的意义,进行大量的训练是十分必要的。随后的30年里,Geoffrey Hinton一直徘徊在人工智能研究的边缘地带,一直坚持着“计算机可以像人类一样思考”这一观点。
拥有良好判断力的少数派
Geoffrey Hinton最初的想法来自一个朋友向他描述的全息图工作原理,由于出身科学家世家,Hinton很快联想到人类大脑也是如此。而人类大脑的信息是通过一个巨大的,由神经元圖谱连接起来的细胞网络传播,在多达十亿条的路径上发射、连接和传输,那么计算机是不是也能像这样工作呢?
当时的学术界普遍认为计算机在规则和逻辑方面做得最好,神经网络的概念根本就是错误的。但Hinton却没有丝毫动摇,1972年在爱丁堡大学攻读博士学位时也选择了研究神经网络。每周,他的导师都会对他说:“你这是在浪费时间。”但Hinton的研究还是慢慢取得了一些成功。
博士毕业后,Hinton被里根政府的外交政策所困扰,因此带着妻子搬到了多伦多,并接受了加拿大高级研究所的工作邀约。很快,Hinton组建起了一支专攻深度学习的人才团队,其中包括OpenAI的联合创始人兼董事长Ilya Sutskever。回忆起2000年的“人工智能寒冬”, Sutskever说道:“当时我们只有十个人左右,资金非常匮乏。虽然我们是局外人,但我们觉得我们有一种罕见的洞察力,十分与众不同。”
九年时间飞逝,当计算机终于有能力挖掘海量数据时,超级神经网络开始在语音和图像识别方面超越基于逻辑的人工智能。很快,业内的大型科技公司,如微软、Facebook、谷歌等纷纷开始投资。2012年,谷歌公司的绝密实验室Google X(现在名为X),宣布建立一个由16000个电脑处理器组成的神经网络,并将其用在YouTube上。
随后,该实验室从YouTube上提取了数百万个随机的、没有标签的视频,输入到这台新的超级计算机中,并通过编程使其能够理解所看到的内容。最终,神经网格从无数个关于猫的视频中成功分辨出了猫,这也成为了人工智能领域发展过程中的一个激动人心的时刻。
之后,Hinton和他的助手们就成为了人工智能浪潮中的领导者。 2013年,Google X的高级研究员Jeff Dean将Hinton招进了谷歌。有趣的是,原本就不属于体制内学者的Hinton,突然之间成为了体制的建立者。尽管观点曾经被业界抛弃,但如今却成为人工智能行业里最炙手可热的人物。
“我之所以能产生巨大的影响力,是因为我是极少数相信这种方法的人之一,而且那些相信这个方向的学生也加入了我,和我一起工作。我必须从他们当中选出那些有良好判断力的人。”Hinton笑着说,“好的判断力意味着他们同意我的意见。”
矢量研究所成下一个希望
目前,Hinton和他的团队已经在一些近半个世纪里都没有解决的难题上获得了前所未有的进展。语音识别、图像识别技术都已经获得了巨大的进步。在去年的Google GO NORTH大会上,加拿大总理Justin Trudeau、创新部长Navdeep Bains,以及谷歌母公司Alphabet的执行董事长Eric Schmidt等人更是像热切的学生一样坐在桌前,听Hinton讲述着神经网络的美妙之处,同时也对他和两名谷歌工程师的最新突破胶囊神经网络做出了简洁而清晰的解释。
具体来说,神经网络依赖于海量的数据来学习,需要很长时间才认识到从不同角度观察的对象是同一个物体。而胶囊是一种人造神经元组成的层,能够跟踪物体的各个部分之间的关系,使识别更快更准确。在科技领域,胶囊神经网络受到了广泛关注,业内人士都期待着Hinton的下一次大飞跃。
如今每一家大型科技公司的人工智能专家都在争先恐后地研究深度学习,并希望找到下一个变革性发现。但事实上,在Hinton的人工智能研究方法并不是业界主流的时候,许多专家都曾是Hinton的徒弟。如今,Hinton过去的许多学生在Facebook、谷歌、苹果以及学术界都声名鹊起。他们在学术界传播了神经网络的知识,形成了他们自己的生活方式。
在过去的十年里,多伦多的人才不断流失,当地的创业公司被硅谷吞并,而多伦多大学的深度学习社区也面临危机。而Hinton的存在,显然能够吸引更多精英部队留下。因此,多伦多大学创建了一个价值数百万美元的实验室——矢量研究所,并由Hinton担任首席科学顾问。
随后,由于受到了与Hinton合作的承诺的吸引,许多人工智能领域的领军人物聚集到了这里。在加拿大科技公司北电和黑莓经历了痛苦的解体后,矢量研究所成为了下一个希望。而Hinton在矢量研究所发起的第一个项目,是将神经网络连接到多伦多医院提供的海量数据中。
Hinton之所以选择这个项目,是因为他的两任妻子都罹患癌症。第一任妻子Ros患卵巢癌去世,第二任妻子Jackie也被诊断患有胰腺癌。Hinton在医院度过了许多时光,他深刻地了解病人等待结果时收到模糊信息的挫败感。因此,Hinton对深度学习改革医疗保健的潜力充满热情,希望可以通过这项技术把医疗结果等待时间缩短。
如今,Peter Munk捐赠1亿美元给以他的名字命名的心脏护理中心,而矢量研究所也能从中获得部分资金用以继续研究。矢量研究所不再只是解决多伦多大学人才流失的方案,更是加拿大最新的人工智能研究机构。迄今为止,矢量研究所已经雇用了20名科学家,他们正在为解决世界上一些重大的问题而不懈努力。
人类是更精巧、更了不起的机器
作为一个克制的英国人,Hinton通常会把传播AI知识的机会留给其他人。不过,如今人工智能领域的火热景象他也看在眼里。围绕人工智能的狂热不仅与金钱有关,还与人工智能融入日常生活的快速步伐有关。从翻盖手机到具有人脸识别功能的iPhone X,中间不过10年。
“我担心人工智能可能会完全取代人类。”这是霍金最近说的话。无独有偶,许多业界的科学家也都曾发出过这样的警告,他们开始担心人工智能发展得太过迅速,甚至会超过人类的可控范围。而Hinton作为“神经网络之父”,他也深知人工智能高速发展会引起的道德争论。
事实上,Hinton曾签署一份请愿书,要求联合国禁止使用致命的自主武器,也就是所谓的杀人机器人。同时,拒绝了加拿大通信安全局的董事职位,原因正是其担心人工智能可能存在的安全滥用问题。他认为,政府需要介入并制定相关法规,防止军方开发杀人机器人。
“AI焦虑”是人工智能高速发展之后引起的一种新型焦虑,从2001年开始,流行文化中就充斥着这种忧虑。机器的进步被解读成了一种个人的孤独,一种损失。就好像,机器变得更人性化,人类就会变得不那么人性化了。对此,Hinton却认为人类也是机器,只是以生物的方式生产而已。人类是更精巧、更了不起的机器。
“我认为它会让生活变得更容易。人们谈论的潜在影响与技术本身无关,但与社会的组织形式有关。作为一名社会主义者,我认为当技术进步,生产力提高时,每个人都应该分享这些成果。”Hinton乐观地说道。
如果要说AI对人类的“入侵”始于何地,那正是Google的食堂。在那里,无论是大多数科技公司标配的日间美容室,还是露台上一个小型的高尔夫球场和授粉蜂箱,都遍布机器人的身影。但Hinton不认为这叫做“入侵”,他认为计算机接管世界的末日场景,在很长一段时间内都不会发生。
与此同时,Hinton还认为,如今 ATM 机等机器已经帮助人们减少了大量繁重的工作,提高了生产效率。在一个相对公平公正的政治制度下,能够提高生产力的技术肯定会受到公众的欢迎,因为这会帮助每个人的生活变得更好。技术本身不是问题,问题是社会制度能不能保障每个人都受益。