论文部分内容阅读
1993年，科幻作家文奇（Vernor Vinge）发表了一篇广为关注的论文《即将到来的技术奇点》（The Coming Technological Singularity），当中预言，“30年后，我们将具备创造超人类智能的技术手段，届时人类纪元将会终结。”
所谓“奇点”，在数学上是指使得某种函数无法成立或趋于无穷大的点，文奇以此隐喻了一个不可思议的大巨变的时间点。2005年，发明家和未来学家库兹韦尔（Ray Kurzweil）出版了《奇点迫近》（The Singularity Is Near）一书，预言智能机器将在2030年左右超越所有人类智能的集合，成为人类文明的继承者，人类也将进化成半机器人，通过神经系统直接进入“虚拟现实”和“增强现实”。
又过了几年，到2010年，哲学家查尔默斯（David Chalmers）发表了论文《奇点：哲学分析》。文中指出，倘若超人类的智能机器具有对人类不友善的价值观，即使并不是明显地反人类，从长期而言人类将很难持续生存。倘若智能机器认为人类的生命和其他动物的生命是平等的，就不会特别在乎人类的利益，人类的生存空间就会大为削减。因此人类应当力图使智能机器具有对人类友善的价值观。2016年，哲学家博斯特罗姆（Nick Bostrom）出版了《超级智能》一书，强调必须让人工智能的发展受到严格的伦理学框架的制约和引导，否则未来超人类的智能机器很可能为了实现自己的目标而不择手段，将世界推向毁灭。例如，一台超级电脑有可能为了最有效地计算圆周率的值，而设法把所有电网的电力都用于自己的运算，从而导致大范围断电。两位哲学家的主张在受到广泛关注的同时，也引发了尖锐的质疑—智能机器真的能够具有价值观吗？
2017年，麻省理工学院宇宙学教授泰格马克（Max Tegmark）出版了《生命3.0：人在人工智能时代》（life3.0： Being Human in the Age of Artificial Intelligence）一書，将人工智能界定为一种高阶的生命形式—“生命3.0”，开启了洞察人工智能和人类未来命运的新视野。特斯拉和Space X创始人伊隆·马斯克在Twitter上推荐此书时说：“人工智能将是人类有史以来最好或最坏的事物，所以不能出错。”
泰格马克将生命定义为“自我复制的信息处理系统”，认为“其信息（软件）决定了其行为和其硬件的路径。”这个令人费解的定义是《生命3.0》一书的基石。以单细胞生命阿米巴为例，它一方面能够搜集、处理周围环境的信息，在此基础上依据某种“算法”完成相应的变形和运动；另一方面可以通过DNA编码信息并自我复制。由于自然选择，只有那些在DNA中编码了适应环境的“好算法”的阿米巴才能一代代自我复制，那些编码了“坏算法”的阿米巴都灭绝了。这种最简单的生命形式被泰格马克定义为“生命1.0”。这种类型的生命可以在物种层面上通过进化而适应环境，例如细菌可以在若干代之后对抗生素产生抗药性；但是其个体的行为完全受DNA所编码的“算法”决定，换言之，其个体的“软件”并不具备重新设计自身“算法”的能力。
如果说阿米巴的“软件”只是DNA，人类的“软件”则要复杂得多。人类个体的大脑通过神经元突触处理信息，可以储存约10万GB的信息量，而人类个体的DNA所编码的信息量仅为1GB左右。人类个体可以通过大脑的信息处理系统来学习如何适应和改造环境，更重要的是，人类可以通过语言和符号实现信息和知识的汇总、提炼与传播，用泰格马克的话说就是具备“文化能力”。泰格马克将人类定义为“生命2.0”，其个体的“软件”可以重新设计自身“算法”。
但是“生命2.0”也有局限，人类的肉身或者说“硬件”依然受制于DNA的信息编码，不可能随心所欲重新设计。泰格马克认为，在跨越“奇点”之后，未来的人工智能将会一方面具备类似于人类的“文化能力”，另一方面又能重新设计和改造自身的“硬件”身体，从而成为一种新的生命形式—“生命3.0”。当然，这三种生命形式之间的界线并非泾渭分明，而是存在复杂的中间地带。很多高等动物可视为“生命1.1”，而今天有能力实现人工器官植入的人类可视为“生命2.1”。
质疑者也许会问：人工智能是信息处理系统没错，但它有意识吗？如果没有，它又怎么有资格被视为生命？泰格马克回应，今天的人工智能早已不限于运行程序，而是通过形形色色的传感器来捕捉外部环境的各种特征，因此完全能够在跨越“奇点”之后形成对于自身和外部世界互动的认识，从而形成意识。
事实上，在心理学界和认知科学界，“具身认知”的观念早已蔚为主流。这种观念认为，人类的认知最初是在活的身体界面上，通过与环境的相互作用发生，发展到高级阶段才具备符号语义特征。而人工智能的发展路径恰恰相反，是先建构复杂的符号语义系统，近年来才随着各种传感器的广泛运用而逐渐具备“身体界面”。然而殊途同归，人工智能最终完全可以像人类一样具备意识和文化能力。这也意味着前文提出的问题有了肯定的答案：未来的智能机器能有价值观，因为价值观无非就是自主设定的行为偏好。
泰格马克总结了各路专家对于未来一万年内智能机器如何影响人类社会的多种设想，将其概括为12种版本：一是自由至上主义乌托邦，人类和智能机器由于确立产权而和平共处；二是仁慈独裁者，智能机器统治社会，法令严明，得到绝大多数人的拥护；三是平等主义乌托邦，人类和智能机器由于废除了私有产权和保证收入而和平共处；四是守夜人，智能机器对人类社会只有必需的情况下做最小程度的干涉，目标是防止出现另一类智能机器；五是上帝保护者，全知全能的智能机器将人类的幸福最大化，同时又隐而不显，让人类觉得自己可以掌握命运；六是被奴役的上帝，智能机器被人类控制，创造出不可思议的技术和财富，可能为善或为恶，取决于其人类控制者的动机；七是征服者，智能机器控制了人类，并觉得人类是一种威胁或残渣或资源浪费，通过一种人类甚至无法理解的方式灭绝人类；八是后裔，智能机器取代了人类，但让人类体面退场并自豪地觉得智能机器是优秀的后裔，就像父母为孩子比自己更优秀而骄傲；九是动物园管理者，全能的智能机器驯养一部分人类，就像人类豢养动物；十是1984，一个由人类统治的奥威尔式的“老大哥”政府永远禁止对于超人类智能机器的研发；十一是反转，对超人类智能机器的研发被人类社会的反技术潮流所阻止；十二是自我毁灭，还没有等到超人类智能机器研发成功，人类已经由于核战争、生物武器或气候变化等因素而灭绝。
泰格马克指出，这12种版本都有可能成为现实，而且未来可能远远不止12种。悲观一点看，人类有可能在人工智能跨越“奇点”之后走向衰落乃至灭绝。但乐观一点看，人类有可能在友善的智能机器的帮助下，在未来10亿年内保持繁荣，将文明散布到广袤的银河系中，甚至像很多科幻小说描述的那样，穿越时空隧道，征服更浩渺的宇宙。
泰格马克是一位宇宙学家，这也令他视角与众不同。在他看来，以宇宙的时空尺度而言，“生命2.0”所创造的文明注定要困死在沧海一粟之中，瞬息即逝；只有“生命3.0”所创造的文明才拥有在宇宙中绵延相续的希望。跨越“奇点”的人工智能很可能导致人类提前灭绝，但如果没有超人类的智能机器，人类将注定灭绝。这好比一个赌局，人类无法不押宝人工智能，即使这意味着人类将不再是万物之灵，而要步入“后人类纪元”。
所谓“奇点”，在数学上是指使得某种函数无法成立或趋于无穷大的点，文奇以此隐喻了一个不可思议的大巨变的时间点。2005年，发明家和未来学家库兹韦尔（Ray Kurzweil）出版了《奇点迫近》（The Singularity Is Near）一书，预言智能机器将在2030年左右超越所有人类智能的集合，成为人类文明的继承者，人类也将进化成半机器人，通过神经系统直接进入“虚拟现实”和“增强现实”。
又过了几年，到2010年，哲学家查尔默斯（David Chalmers）发表了论文《奇点：哲学分析》。文中指出，倘若超人类的智能机器具有对人类不友善的价值观，即使并不是明显地反人类，从长期而言人类将很难持续生存。倘若智能机器认为人类的生命和其他动物的生命是平等的，就不会特别在乎人类的利益，人类的生存空间就会大为削减。因此人类应当力图使智能机器具有对人类友善的价值观。2016年，哲学家博斯特罗姆（Nick Bostrom）出版了《超级智能》一书，强调必须让人工智能的发展受到严格的伦理学框架的制约和引导，否则未来超人类的智能机器很可能为了实现自己的目标而不择手段，将世界推向毁灭。例如，一台超级电脑有可能为了最有效地计算圆周率的值，而设法把所有电网的电力都用于自己的运算，从而导致大范围断电。两位哲学家的主张在受到广泛关注的同时，也引发了尖锐的质疑—智能机器真的能够具有价值观吗？
2017年，麻省理工学院宇宙学教授泰格马克（Max Tegmark）出版了《生命3.0：人在人工智能时代》（life3.0： Being Human in the Age of Artificial Intelligence）一書，将人工智能界定为一种高阶的生命形式—“生命3.0”，开启了洞察人工智能和人类未来命运的新视野。特斯拉和Space X创始人伊隆·马斯克在Twitter上推荐此书时说：“人工智能将是人类有史以来最好或最坏的事物，所以不能出错。”
泰格马克将生命定义为“自我复制的信息处理系统”，认为“其信息（软件）决定了其行为和其硬件的路径。”这个令人费解的定义是《生命3.0》一书的基石。以单细胞生命阿米巴为例，它一方面能够搜集、处理周围环境的信息，在此基础上依据某种“算法”完成相应的变形和运动；另一方面可以通过DNA编码信息并自我复制。由于自然选择，只有那些在DNA中编码了适应环境的“好算法”的阿米巴才能一代代自我复制，那些编码了“坏算法”的阿米巴都灭绝了。这种最简单的生命形式被泰格马克定义为“生命1.0”。这种类型的生命可以在物种层面上通过进化而适应环境，例如细菌可以在若干代之后对抗生素产生抗药性；但是其个体的行为完全受DNA所编码的“算法”决定，换言之，其个体的“软件”并不具备重新设计自身“算法”的能力。
如果说阿米巴的“软件”只是DNA，人类的“软件”则要复杂得多。人类个体的大脑通过神经元突触处理信息，可以储存约10万GB的信息量，而人类个体的DNA所编码的信息量仅为1GB左右。人类个体可以通过大脑的信息处理系统来学习如何适应和改造环境，更重要的是，人类可以通过语言和符号实现信息和知识的汇总、提炼与传播，用泰格马克的话说就是具备“文化能力”。泰格马克将人类定义为“生命2.0”，其个体的“软件”可以重新设计自身“算法”。
但是“生命2.0”也有局限，人类的肉身或者说“硬件”依然受制于DNA的信息编码，不可能随心所欲重新设计。泰格马克认为，在跨越“奇点”之后，未来的人工智能将会一方面具备类似于人类的“文化能力”，另一方面又能重新设计和改造自身的“硬件”身体，从而成为一种新的生命形式—“生命3.0”。当然，这三种生命形式之间的界线并非泾渭分明，而是存在复杂的中间地带。很多高等动物可视为“生命1.1”，而今天有能力实现人工器官植入的人类可视为“生命2.1”。
质疑者也许会问：人工智能是信息处理系统没错，但它有意识吗？如果没有，它又怎么有资格被视为生命？泰格马克回应，今天的人工智能早已不限于运行程序，而是通过形形色色的传感器来捕捉外部环境的各种特征，因此完全能够在跨越“奇点”之后形成对于自身和外部世界互动的认识，从而形成意识。
事实上，在心理学界和认知科学界，“具身认知”的观念早已蔚为主流。这种观念认为，人类的认知最初是在活的身体界面上，通过与环境的相互作用发生，发展到高级阶段才具备符号语义特征。而人工智能的发展路径恰恰相反，是先建构复杂的符号语义系统，近年来才随着各种传感器的广泛运用而逐渐具备“身体界面”。然而殊途同归，人工智能最终完全可以像人类一样具备意识和文化能力。这也意味着前文提出的问题有了肯定的答案：未来的智能机器能有价值观，因为价值观无非就是自主设定的行为偏好。
泰格马克总结了各路专家对于未来一万年内智能机器如何影响人类社会的多种设想，将其概括为12种版本：一是自由至上主义乌托邦，人类和智能机器由于确立产权而和平共处；二是仁慈独裁者，智能机器统治社会，法令严明，得到绝大多数人的拥护；三是平等主义乌托邦，人类和智能机器由于废除了私有产权和保证收入而和平共处；四是守夜人，智能机器对人类社会只有必需的情况下做最小程度的干涉，目标是防止出现另一类智能机器；五是上帝保护者，全知全能的智能机器将人类的幸福最大化，同时又隐而不显，让人类觉得自己可以掌握命运；六是被奴役的上帝，智能机器被人类控制，创造出不可思议的技术和财富，可能为善或为恶，取决于其人类控制者的动机；七是征服者，智能机器控制了人类，并觉得人类是一种威胁或残渣或资源浪费，通过一种人类甚至无法理解的方式灭绝人类；八是后裔，智能机器取代了人类，但让人类体面退场并自豪地觉得智能机器是优秀的后裔，就像父母为孩子比自己更优秀而骄傲；九是动物园管理者，全能的智能机器驯养一部分人类，就像人类豢养动物；十是1984，一个由人类统治的奥威尔式的“老大哥”政府永远禁止对于超人类智能机器的研发；十一是反转，对超人类智能机器的研发被人类社会的反技术潮流所阻止；十二是自我毁灭，还没有等到超人类智能机器研发成功，人类已经由于核战争、生物武器或气候变化等因素而灭绝。
泰格马克指出，这12种版本都有可能成为现实，而且未来可能远远不止12种。悲观一点看，人类有可能在人工智能跨越“奇点”之后走向衰落乃至灭绝。但乐观一点看，人类有可能在友善的智能机器的帮助下，在未来10亿年内保持繁荣，将文明散布到广袤的银河系中，甚至像很多科幻小说描述的那样，穿越时空隧道，征服更浩渺的宇宙。
泰格马克是一位宇宙学家，这也令他视角与众不同。在他看来，以宇宙的时空尺度而言，“生命2.0”所创造的文明注定要困死在沧海一粟之中，瞬息即逝；只有“生命3.0”所创造的文明才拥有在宇宙中绵延相续的希望。跨越“奇点”的人工智能很可能导致人类提前灭绝，但如果没有超人类的智能机器，人类将注定灭绝。这好比一个赌局，人类无法不押宝人工智能，即使这意味着人类将不再是万物之灵，而要步入“后人类纪元”。