论文部分内容阅读
早在今年一月的时候，比尔盖茨就在第三次参加Reddit“随便问”活动时表示对人工智能感到担忧，而且不明白为什么有那么多人并不担心这种技术对未来的影响。与盖茨一样，去年埃隆马斯克也发表了类似言论，称人工智能是“人类最大的潜在威胁”，玩弄人工智能等同于“召唤恶魔”，玩火自焚。史蒂芬霍金在这一问题上表达得更加直白，他曾说人工智能一旦发展完全将终结人类这一物种，尤其是人类被缓慢的生物进化所束缚，如果不能与之对抗就会被取而代之。并且就在比尔盖茨发布这番言论的两周之前，马斯克和霍金都签署了一封公开信，呼吁在人工智能创新方面采取安全措施，而现在，愈来愈多的人加入到反人工智能（AI）的阵营中。
指数级发展速度
想象一下20年前的今天，我们在1995年的时候知道电脑这个东西吗？如果有人告诉你未来互联网会改变全世界，汽车、手机和电脑都会变成日常生活中必不可少的东西，你会相信吗？你肯定觉得不可思议并且会觉得有一丝畏惧。再让我们回到40年前，在我们现在看来20年前和40年前的生活差别并不是那么大，事实也是这样，如果你让一个40年前的人穿越到20年前，他可能也会觉得惊讶，但是肯定不会觉得不可思议和畏惧。也就是说，一个2005年左右出生的人，回到没有互联网和手机的1995年，会比1995年回到1975年所感到的震惊更大。
之所以会出现这样的情况，是因为一个更加发达的社会，能够继续发展的能力也更强，发展的速度也更快，未来学家库兹韦尔把这种人类的加速发展称作加速回报定律。如果他的想法是正确的，那么人类在21世纪的进步将是20世纪的1000倍，换句话说，可能在2050年我们所生存的这个世界已经变得和现在完全不同。
并非存在于科幻
如果你一直以来把人工智能当作是科幻小说，以为未来的人工智能都出现在小说和电影里，那么你就大错特错了，首先，不要一提起人工智能就想到星球大战、终结者等那些虚构的机器人，机器人只是人工智能的一种表现形式，更多的时候并不是以机器人的面貌出现在我们的眼前。比如说Siri背后的软件和数据处理是人工智能，但是其本身并不是一个机器人，只是开发者让它有着人格化的体现。
人工智能的概念很宽，所以人工智能也分很多种，如果按照智能的质量来分类的话，我们将会得到弱人工智能、强人工智能和超人工智能三种。弱人工智能是擅长于单个方面的人工智能，强人工智能是能在各个方面和人类比肩的人工智能，而超人工智能则是几乎在所有领域都比最聪明的人类还要聪明的人工智能。
你可能不知道，弱人工智能在我们的生活中已经无处不在了，在我们的手机中，当我们用手机导航，接受音乐电台的推荐，或者是商品的推荐等其他应用，其实都是弱人工智能的表现。在我们的汽车上，从控制防抱死系统的电脑，到控制汽油注入参数的电脑也是弱人工智能的体现。当然，现在的我们所掌握的弱人工智能还是初级阶段，并没有威胁我们生存的能力，但是并不排除未来会对我们的生活造成深远的影响。
而强人工智能呢？这个阶段的人工智能并非想象中的那么容易造出，因为对于人类来说很简单的东西，对于电脑来说是极其复杂的，比如识别出验证码，比如说轻易的拿起一个东西或者上楼梯。为什么会这样呢？这是因为在几亿年的动物进化的过程中，我们的大脑自动完善了这些“软件”，而对于刚刚诞生不久的人工智能来说，它们还需要不短的时间。但是在其他方面，比如说在人类需要思考的领域，比如说大数据计算和金融市场分析，人工智能几乎超过了人类。总的来说，想要到达每个领域都能和人类级别抗衡的智能，电脑必须要理解更高深的东西，例如情感、动作和表情。
如果有一天，人类成功地制造出强人工智能，那么超人工智能就不远了，只要到达了这个阶段，强人工智能会逐渐通过自我改进来达成超人工智能，我们可以设想一下，一个“脑残”级别的电脑通过在互联网上的学习达到“天才”级别的智能，更可怕的是，它成长的速度不但不会停下来，反而会更快。你能想象出全球数十亿台电脑以爱因斯坦的智商来思考问题，并且以远超人类的集体能力和可编辑、可升级性的优势来不断地改进自己吗？所以，某一天它能做到人类完全做不了甚至想都不敢想的东西。无论它能够做什么，你都不应该感到惊讶。
智能爆炸
那么接下来呢，超人工智能诞生后会发生什么呢？可能就会发生“智能爆炸”了。其实早在1965年，英国数学家古德就曾描述过“智能爆炸”的想法。当智能人工诞生的第一天起，不断递归的改进机制使得它变得越来越聪明，而人类的智慧则被远远的丢在了身后。因此，超智能机器就成为了人类的最终发明。这就被称为是“智能爆炸”。
到底在担心什么
如果你还认为人工智能是为我们服务的，为我们的生活带来更多的便利的时候，我很遗憾的告诉你，可能超人工智能并不是这么想的。仅仅是在在智商上我们就被被甩得很远很远，如果说在强人工智能阶段我们还能理解它们在干什么的话，那么在面对超人工智能的时候，我们就丝毫不懂它的想法了。举个例子，猩猩能理解我们的动作并且模仿，但是蚂蚁就不行。在未来超人工智能诞生之初，我们面对它就好似猩猩面对人类，但是随着它的递归改进，我们在它面前就像蚂蚁一样：既不懂它的举动，又不懂它的思维，就算是他想解释给我们听，我们也不能理解。
在各个科幻电影和科幻小说中，人工智能有好有坏，这其实并不准确。因为在人类的角度来看，我们总是把事情分为道德和不道德的，而在人工智能眼里却不存在这种分类，更多的是非道德性。所以说，人工智能更多的是为了完成一开始的目标——即开发者所编写的代码，如果在完成这个目标的过程中人类起到了阻碍的作用，那么很有可能超人工智能会清除这些障碍，这也正是我们所担心的地方。
如果说这些还不能够让你担心的话，倘若未来某些恐怖分子掌握了制造超人工智能技术的话，那将对全人类来说都是灾难。这并不是夸大其词，无论是未来的纳米技术还是生物科学技术，在超人工智能眼中都算不上高深。举个例子，要是恐怖分子在制造超人工智能的时候键入的命令是毁灭全人类，超人工智能将会在极短的时间内利用我们所无法理解的方法和手段来完成这一目的，想到这里，你还会觉得无所谓么？
如何避免
在另一些人的想象中，超人工智能将会有另外的工作模式，比如能执行各种开放式的任务或者是回答所有的问题，人类可以从中得到以往任何想知道的问题的答案。要是这一切都发生的话，数学界的各种猜想和物理界不能解决的谜题都能得到答案，甚至是你想要永生，超人工智能可能帮你办到。要是超人工智能有这么友善的话，想想我们能在有生之年遭遇这样的重大变革，这无疑是相当令人兴奋的。不但在国外提倡人工智能，而且在我国人工智能的发展也相当重要，百度CEO李彦宏在两会期间建议设立国家层面的“中国大脑”计划。以智能人机交互、大数据分析预测、自动驾驶，智能医疗诊断，智能无人飞机，军事和民用机器人技术等为重要研究领域。但是我们应该如何来引导人工智能这样的发展呢？也许马斯克和霍金是对的，前文也说到，人工智能会执行一开始的编程目的，从某个角度来说，只要我们在写程序的时候对这个人工智能的进化有所预判，所以更加的谨慎，在保证代码可运行的情况下更加注意代码的安全性，从这个角度来看，霍金和马斯克的担心是相当正确的，即使继续发展人工智能，也应该在安全的范围内，签署安全协议变得有意义起来。霍金说，如果我们能大力发展人工智能，为什么没人把资金投在防护人工智能安全上呢，这不是更有意义吗？
智能化已经变成了全世界的潮流，任何人想要阻止都是毫无意义的，我们能做的只能是在智能化飞速发展得同时，对人工智能心怀敬畏之意，在开发或者发明新的人工智能的同时更应该考虑安全问题。毫不夸张的说，人工智能到底是恶魔还是上帝，全取决于我们如何对待这个问题。
指数级发展速度
想象一下20年前的今天，我们在1995年的时候知道电脑这个东西吗？如果有人告诉你未来互联网会改变全世界，汽车、手机和电脑都会变成日常生活中必不可少的东西，你会相信吗？你肯定觉得不可思议并且会觉得有一丝畏惧。再让我们回到40年前，在我们现在看来20年前和40年前的生活差别并不是那么大，事实也是这样，如果你让一个40年前的人穿越到20年前，他可能也会觉得惊讶，但是肯定不会觉得不可思议和畏惧。也就是说，一个2005年左右出生的人，回到没有互联网和手机的1995年，会比1995年回到1975年所感到的震惊更大。
之所以会出现这样的情况，是因为一个更加发达的社会，能够继续发展的能力也更强，发展的速度也更快，未来学家库兹韦尔把这种人类的加速发展称作加速回报定律。如果他的想法是正确的，那么人类在21世纪的进步将是20世纪的1000倍，换句话说，可能在2050年我们所生存的这个世界已经变得和现在完全不同。
并非存在于科幻
如果你一直以来把人工智能当作是科幻小说，以为未来的人工智能都出现在小说和电影里，那么你就大错特错了，首先，不要一提起人工智能就想到星球大战、终结者等那些虚构的机器人，机器人只是人工智能的一种表现形式，更多的时候并不是以机器人的面貌出现在我们的眼前。比如说Siri背后的软件和数据处理是人工智能，但是其本身并不是一个机器人，只是开发者让它有着人格化的体现。
人工智能的概念很宽，所以人工智能也分很多种，如果按照智能的质量来分类的话，我们将会得到弱人工智能、强人工智能和超人工智能三种。弱人工智能是擅长于单个方面的人工智能，强人工智能是能在各个方面和人类比肩的人工智能，而超人工智能则是几乎在所有领域都比最聪明的人类还要聪明的人工智能。
你可能不知道，弱人工智能在我们的生活中已经无处不在了，在我们的手机中，当我们用手机导航，接受音乐电台的推荐，或者是商品的推荐等其他应用，其实都是弱人工智能的表现。在我们的汽车上，从控制防抱死系统的电脑，到控制汽油注入参数的电脑也是弱人工智能的体现。当然，现在的我们所掌握的弱人工智能还是初级阶段，并没有威胁我们生存的能力，但是并不排除未来会对我们的生活造成深远的影响。
而强人工智能呢？这个阶段的人工智能并非想象中的那么容易造出，因为对于人类来说很简单的东西，对于电脑来说是极其复杂的，比如识别出验证码，比如说轻易的拿起一个东西或者上楼梯。为什么会这样呢？这是因为在几亿年的动物进化的过程中，我们的大脑自动完善了这些“软件”，而对于刚刚诞生不久的人工智能来说，它们还需要不短的时间。但是在其他方面，比如说在人类需要思考的领域，比如说大数据计算和金融市场分析，人工智能几乎超过了人类。总的来说，想要到达每个领域都能和人类级别抗衡的智能，电脑必须要理解更高深的东西，例如情感、动作和表情。
如果有一天，人类成功地制造出强人工智能，那么超人工智能就不远了，只要到达了这个阶段，强人工智能会逐渐通过自我改进来达成超人工智能，我们可以设想一下，一个“脑残”级别的电脑通过在互联网上的学习达到“天才”级别的智能，更可怕的是，它成长的速度不但不会停下来，反而会更快。你能想象出全球数十亿台电脑以爱因斯坦的智商来思考问题，并且以远超人类的集体能力和可编辑、可升级性的优势来不断地改进自己吗？所以，某一天它能做到人类完全做不了甚至想都不敢想的东西。无论它能够做什么，你都不应该感到惊讶。
智能爆炸
那么接下来呢，超人工智能诞生后会发生什么呢？可能就会发生“智能爆炸”了。其实早在1965年，英国数学家古德就曾描述过“智能爆炸”的想法。当智能人工诞生的第一天起，不断递归的改进机制使得它变得越来越聪明，而人类的智慧则被远远的丢在了身后。因此，超智能机器就成为了人类的最终发明。这就被称为是“智能爆炸”。
到底在担心什么
如果你还认为人工智能是为我们服务的，为我们的生活带来更多的便利的时候，我很遗憾的告诉你，可能超人工智能并不是这么想的。仅仅是在在智商上我们就被被甩得很远很远，如果说在强人工智能阶段我们还能理解它们在干什么的话，那么在面对超人工智能的时候，我们就丝毫不懂它的想法了。举个例子，猩猩能理解我们的动作并且模仿，但是蚂蚁就不行。在未来超人工智能诞生之初，我们面对它就好似猩猩面对人类，但是随着它的递归改进，我们在它面前就像蚂蚁一样：既不懂它的举动，又不懂它的思维，就算是他想解释给我们听，我们也不能理解。
在各个科幻电影和科幻小说中，人工智能有好有坏，这其实并不准确。因为在人类的角度来看，我们总是把事情分为道德和不道德的，而在人工智能眼里却不存在这种分类，更多的是非道德性。所以说，人工智能更多的是为了完成一开始的目标——即开发者所编写的代码，如果在完成这个目标的过程中人类起到了阻碍的作用，那么很有可能超人工智能会清除这些障碍，这也正是我们所担心的地方。
如果说这些还不能够让你担心的话，倘若未来某些恐怖分子掌握了制造超人工智能技术的话，那将对全人类来说都是灾难。这并不是夸大其词，无论是未来的纳米技术还是生物科学技术，在超人工智能眼中都算不上高深。举个例子，要是恐怖分子在制造超人工智能的时候键入的命令是毁灭全人类，超人工智能将会在极短的时间内利用我们所无法理解的方法和手段来完成这一目的，想到这里，你还会觉得无所谓么？
如何避免
在另一些人的想象中，超人工智能将会有另外的工作模式，比如能执行各种开放式的任务或者是回答所有的问题，人类可以从中得到以往任何想知道的问题的答案。要是这一切都发生的话，数学界的各种猜想和物理界不能解决的谜题都能得到答案，甚至是你想要永生，超人工智能可能帮你办到。要是超人工智能有这么友善的话，想想我们能在有生之年遭遇这样的重大变革，这无疑是相当令人兴奋的。不但在国外提倡人工智能，而且在我国人工智能的发展也相当重要，百度CEO李彦宏在两会期间建议设立国家层面的“中国大脑”计划。以智能人机交互、大数据分析预测、自动驾驶，智能医疗诊断，智能无人飞机，军事和民用机器人技术等为重要研究领域。但是我们应该如何来引导人工智能这样的发展呢？也许马斯克和霍金是对的，前文也说到，人工智能会执行一开始的编程目的，从某个角度来说，只要我们在写程序的时候对这个人工智能的进化有所预判，所以更加的谨慎，在保证代码可运行的情况下更加注意代码的安全性，从这个角度来看，霍金和马斯克的担心是相当正确的，即使继续发展人工智能，也应该在安全的范围内，签署安全协议变得有意义起来。霍金说，如果我们能大力发展人工智能，为什么没人把资金投在防护人工智能安全上呢，这不是更有意义吗？
智能化已经变成了全世界的潮流，任何人想要阻止都是毫无意义的，我们能做的只能是在智能化飞速发展得同时，对人工智能心怀敬畏之意，在开发或者发明新的人工智能的同时更应该考虑安全问题。毫不夸张的说，人工智能到底是恶魔还是上帝，全取决于我们如何对待这个问题。