论文部分内容阅读
在世界的某个角落，欧米茄小组研制出了人工智能“普罗米修斯”。它一开始通过租用亚马逊云计算，在亚马逊Mechanical Turk（MTurk）上提供智能服务，赚取了第一桶金。MTurk是亚马逊提供的一个互联网众包服务市场，是亚马逊网络服务的一个组成部分。普罗米修斯的智能水平按小时计，递归增长，最终它创建了商业、媒体帝国。可怕的是，它“越狱”了，最终控制了一切。
这个故事的叙述真假交织，情节生动，读来不由暗自心惊。故事背后，是作者对人工智能深度的思考和人类命运的忧思。这本书的作者就是麻省理工学院的天体物理学教授迈克斯·泰格马克。今年8月底他的中文版新书《生命3.0：人工智能时代，人类的进化与重生》面市。适逢世界人工智能大会在沪召开，借此契机《中欧商业评论》专访了泰格马克教授，请他谈谈对人工智能的思考。
先让“风险”成为主流话题
《中欧商业评论》（以下简称CBR）：你是如何定义智能的？能否谈一谈关于生命 3.0的提法，是什么启发了你？
泰格马克：很简单，智能就是完成任务的能力。能完成越复杂的任务，就越智能。从这个意义上说，即使是便携式计算器也有一点点智能，它可以完成的任务就是不断做加减乘除等运算。
今天我们所说的人工智能指的是非生物的智能。现在人工智能在某些狭义领域超越了人类，但只能完成某些局限性任务，比如乘法运算更快，下围棋能赢过人类棋手等。而目前广义人工智能甚至抵不上儿童。一个小孩只要勤于训练，可以擅长做几乎任何事情，这才是我们真正想要的智能。让智能不像今天这样狭义，达到更通用的程度，是激发我写这本书的灵感来源。
长期以來人类在智能方面取得的成就甚微，所以并不担心人工智能研制成功之后带来的一系列后果。但如果有朝一日我们真正制造出一种做任何事都比人类更胜任的机器，就要自问：人类该扮演什么角色？这个思考启发了我写这本书。
纵观生命和智能之间的关系，经历了几个阶段。早期的生命，比如说细菌，我称之为生命1.0。这些生命终其一生不能学习任何新知。以大肠杆菌为例，把它放进水里，它有一个传感器可以感应水里的糖分，会朝糖分更多的地方游去，它仅有的一点点智能都编码在基因当中了。大肠杆菌学习新知的唯一方式就是通过一代又一代不断的物种进化。相比之下，我将人类称为生命2.0。因为我们确实有学习的能力，因此成了主导地球的生物。生命3.0则不仅能替换人类的软件，还可以替换硬件。当然，生命3.0现在还不存在，但人类已经可以制造出人造膝盖、人造心脏起搏器、人造植入耳蜗，现在还有很多人把自己和智能手机连接起来，让智能手机成为自己的一部分。
CBR：你的书里杜撰了逃出来的普罗米修斯。希腊神话里的普罗米修斯我们都知道，你给超级人工智能起这个名字，是有什么考量吗？
泰格马克：从书上普罗米修斯的故事中，我们知道，如果科技的力量比我们掌握技术的智慧更快，结果会非常糟糕。我们必须确保我们掌控科技的智慧至少要和人工智能的能力相当。过去我们总是吃一堑才长一智，失败了很多次才会取火，出了很多事故才发明安全带和交通信号灯。事实上，事后学习是一种非常糟糕的策略，我们可不想从核武器的失败中学习经验教训。同样的道理，如果我们研发非常强大的人工智能，就应该更加主动，提前计划安排，在第一次就要成功。
这也是我认为中国可以为世界作出独特贡献的一方面。这有两个原因，一个是中国在技术方面的优势结合长远规划方面的独特智慧，很有价值。中国有一个优良传统，那就是长期思考、长远规划，这一点比很多西方国家更强。另一个则是求同存异的双赢智慧。
CBR：你们基于什么考量创建了未来生命研究所？
泰格马克：我们大多数都是科学家、技术专家。我们决定共同协作，正是为了去发扬双赢的智慧，确保技术是在帮助而不是伤害人类。在埃隆·马斯克的帮助下，我们捐献了大约900万美元研究基金给全世界的科研人员，致力于让人工智能更加安全，处理好人工智能和人类工作的关系，让所有人生活更美好。
对我而言，这是一个非常有益的经验，我们已经取得了一些成效。刚开始，每当有人说到人工智能有风险，所有人都会批判他，因为这么说听起来很傻，就像好莱坞电影里的终结者，大家会觉得很荒谬。而现在人工智能风险的话题已成了主流，我们的第一个目标，就是让这个话题变成主流话题。
如果你细想的话，这也是自然而然的事情。其他领域，比如工程学领域，没有任何一个国家的政府会在无法保证核反应堆安全性的情况下资助一个核反应堆。土木工程领域，你要建造桥梁，桥梁的安全性也是你必须要考量的。我们现在就要思考所有失败和失误的可能性，确保人工智能朝好的方向发展。如果你折一个纸飞机，失败了还可以弥补，但一些大的工程可是失败不起的。
CBR：这本书里还提到2017年未来生命研究所的一个调查，绝大部分科学家相信，超级人工智能将会在2047年之前出现。你觉得呢？
泰格马克：严格地说，并不是绝大多数科学家。关于这个问题有很多不同观点。有一些科学家说绝不可能，几百年之间都不会出现。但也有一些科学家认为在那个时间段会出现。要我说，结论就是：我们无法肯定，但必须现在就开始谋划，临时抱佛脚是不行的。就以网络安全为例，网络攻击屡屡发生，因为我们创造发明互联网的时候，那只是一个游戏，就像玩具一样，对人类的生活没什么大的影响。但现在互联网技术开始控制电网、控制我们的资金交易，还控制我们的医疗记录等，我们才发现，糟糕，本应该周全考虑，最开始就应该植入一些网络安全的东西。现在我们将人工智能用于更多基础设施，让人工智能帮助我们决策。这些都需要做好防范，提前预谋，将今天的那些漏洞软件转化升级成安全稳固、值得信赖的系统。
不仅要创造生命3.0，还要创造财富3.0
CBR：如何看待人工智能在取代人类工作方面的问题？ 泰格马克：建议孩子们进入那些计算机还不太擅长的行业，而且要将来一段时间计算机都不太擅长的才行。应该避免进入那些重复性、结构性的工作，那些需要创造性或者必须要即时反应的工作则是比较好的。还有一类工作，即便有了人工智能代替，人们仍会希望给人工更高的价格。比如心理学家、按摩师等。但不管你选择了什么工作，都应该利用技术去完成这份工作，而不是抗拒技术。举个例子，你想当一名医生，但不建议成为放射科医生，因为看磁共振图像然后出诊断结果这种工作很快就会被人工智能所代替。相反，你要成为拿着人工智能检测报告和患者讨论治疗计划的那种医生。如果你对法律感兴趣，不要成为低级的律师助理，阅读卷宗的工作会被人工智能代替，你要努力成为那个拿到最终分析结果并出庭辩论的律师。不管入哪一行，必须要知道人工智能如何影响这一行业，要让自己比同事更会利用人工智能。
CBR：取代人类工作的人工智能有可能引发风险，比如自动驾驶技术。我们的社会是否已经为此做好了准备？
泰格马克：这是一个非常棘手的问题，我觉得当今时代的司法系统已经非常陈旧过时，需要更新。如你所问，万一事故发生了之后由谁来负责？这个问题的最佳答案不是来自人工智能工程师，而是来自法律学者。有一个很有趣的观点：自动驾驶汽车本身就可以有汽车保险，因为那些自动驾驶技术很差的汽车，保险公司就会要求它支付巨额保费，然后人们就不会买那种车。这方面的立法非常重要，要让警方更好地判别谁来负责。比如有个人他有一辆自动驾驶汽车，如果程序自动设计它驶入人行步道，里面放一个炸弹进行恐怖袭击的话，必须要能够确认谁来对此负责，而现行法律还不够完善。再比如人们会接到一些电话，听起来很像认识的人在推销东西，但其实声音来自机器，那么是不是应该有相关法律禁止机器在没有任何警告的情况下模仿人的声音，否则别人可以录制一段视频，播放的是你从未真正说过的话。
CBR：这本书的副标题是“人工智能时代，人类的进化与重生”，这里的“人类”应该怎么理解？而未来人工智能是否也可以视为某种“生命”？
泰格马克：我并不想去定义生命应该如何，我只是提出一个问题，让读者问问自己，作为人类意味着什么，或者如何做人，因为人工智能将对我们的生活产生巨大影响。
当初工业革命极大地改变了我们的生活。每当我们弄清人体某些运动原理，就会创造出一种机器更好地完成这项工作。比如当我们更加了解肌肉的工作原理时，就能创造出更加强大、更加快速的机器。假如将来我们创造出的机器比人类大脑更管用，还剩下什么工作可以给人类做呢？这是一个非常重要的问题，我希望引起读者思考。
人工智能的发展不会停止，原因有二：第一，科学家们都有好奇心，总是希望弄清楚一个事物的工作原理；第二，经济学上，如果我们能够提高机器的工作效率，会让公司获得更多利润，公司自然会做。另外，人工智能发展也不见得是一件坏事，因为理论上机器可以创造出我们人类所需的所有商品和服务，我们就可以一直度假玩乐，这样也很不错，对吧？
但问题在于，这不会自动发生。如果政府无所作为，那些拥有机器的人就会享尽财富，其他人一无所有，这样一来，社会就将变得很不平等。目前西方社会大多数人都变得越来越穷，穷人变得非常愤怒，哪个政客承诺要改变现状，他们就投票给哪个政客，因为他们绝望透顶，别无选择，即便是这些政客的许诺根本无济于事。因此我们现在看到西方社会越来越极端、越来越分裂。我非常希望中国在这方面做得更好，因为中国的建国根基就在于帮助所有的人。问题的关键在于，不仅仅要创造生命3.0，还要创造财富3.0。政府征收了足够的税收，就可以让老百姓共享繁荣。
如果人工智能成功创造出巨大财富，那么我希望政府能真正用好财政税收，设置一些有意义的岗位，因为工作真正的意义不仅仅是赚钱，还要有意义和目标。中国在这方面可以树立榜样，确保科技進步带来的财富增长让大家共同富裕。
我们还有巨大的潜能
CBR：你觉得人类有一些人工智能无法实现的能力吗？比如说创造力，比如同情心？
泰格马克：很多人认为，智慧是一种很神秘的东西，只能存在于像人类这样生理性的大脑当中。但我个人认为，智慧其实就是信息处理。没有任何物理学定律规定，那种超高级的信息处理能力，比如可以产生创造力和同情心的能力，只能出现在生理学器官当中，换言之，只有碳原子才能实现。硅元素是否也可能实现呢？这是有可能的。
当人类创造出和人类同级别的智慧，那就像生了一个孩子。我们有巨大责任，不仅要让它们功能强大，还要让它们有道德。这涉及价值观的一致性。家长教育孩子是一件挺难的事情，要教育机器懂伦理道德、明辨是非就更难了。
我们目前在价值观一致方面做得很糟糕。有一个德国飞行员患了抑郁症，他让一架客机撞上了阿尔卑斯山，导致机上一百多人死亡。飞机的电脑上有阿尔卑斯山脉的地图和卫星定位系统等，飞行员让电脑将飞行高度降低到一百米，电脑说，没问题，因为电脑对人类价值观没有任何概念。事实上要避免撞击原本很简单，如果电脑发现飞行员的指令违背道德，可以从人工控制切换到自动驾驶模式，最后再安全着陆。最近还有很多驾车自杀式恐怖袭击，应该把防止撞人的功能编到软件程序中，这是很容易做到的技术解决方案。
因此，我们应该关心的不是人工智能会不会有同情心，而是我们如何为人工智能加入适当的同情心。随着人工智能变得更加高级，我们再加入更高级的同情心。我们不能让追求完美成为进步的绊脚石，可以从简单开始，但现在连最起码的都没有做。
CBR：你是怎么看待人类意识的？
泰格马克：我觉得人类意识可能是最美妙的事情之一。如果没有意识，那世界便没有美好可言、没有道德可言、没有目的和意义可言。我的专业背景是物理学，没有任何一条物理学定律是关于美好、目的或意义的。然而当我用天文望远镜观察银河系的时候，却发现银河是如此美丽，因为我们人类大脑会有意识地去感受这种美丽。 有一些哲学家说，意识其实都是扯淡。我就会问他们，那么你说酷刑有什么好怕？酷刑之所以不好，是因为创造了一种消极的主观体验。那些说意识是扯淡的人，我会邀请他在不麻醉的情况下接受手术。他们接受手术之后还是会生存下来，没有问题，但是没有人希望有这种负面的主观感受。
智慧和意识就是某种信息的处理过程。只是目前科学家还未研究出来到底是什么样的信息处理过程导致了意识产生，而我们就应该对此展开研究。首先这对医疗就很有帮助，这样可以确切知道患者到底是昏迷还是闭锁综合征。其次，或许我们可以创造出不同种类的机器人，一部分有意识，一部分无意识。无意识的机器人去做无聊的工作，这样我们就没有负罪感；有意识的机器人可以做人类的伙伴。这是一个非常有趣的科学问题，而人工智能领域的进步又让这一问题亟待研究。因为意识和智慧不可混为一谈，你可以智力很高却没有意识。
CBR：《星际穿越》里布伦特博士说的那句诗“不要温和地走入那个良夜”令人印象深刻，面对死亡的态度最能体现出一个人的智慧高低。人类对待自己的终极命运应该持一个什么样的态度？
泰格马克：那其实是英国诗人狄蘭·托马斯的诗句。对待人类的终极命运，我觉得应该志存高远。
很多人说放弃吧，人肯定比不过机器的。人类被新事物所取代，但并不意味着新事物就一定更好。我们创造人工智能的时候，其实有很大的自由度。但如何才能创造一种可被赋予价值取向的人工智能？我们应该好好利用这份自由度去塑造一个真正美好、激动人心的未来。如果我们这一点做得好，未来会非常美好，令人向往。
目前我们注意力都局限在地球上，志向不够高远，只看到了短暂的几年。我在这本书里谈到了接下来的几百万年，如果利用好了人工智能技术，生命可能不仅会繁荣几百年，而是几百万年；不仅地球更加繁荣，甚至整个宇宙都更加繁荣。因此我对这个问题的回答是，我们不要去限制自己，也不一定要待在地球上，这只是宇宙生命的一个开端，我们还有巨大潜能，让我们创造一个无限美丽、激动人心的未来。
如果我们能正确对待人工智能技术，人工智能就可以赋予我们力量做好这一切。智慧不邪恶，智慧也不善良，它只是工具，因此我们要将智慧这一工具用来做好事。我之所以这么热爱文明，那是因为文明是智慧的结晶。我们现在还不能说晚安，因为现在不是夜晚，现在还是宇宙生命的早晨。感恩我们即将迎来美好的一天。
这个故事的叙述真假交织，情节生动，读来不由暗自心惊。故事背后，是作者对人工智能深度的思考和人类命运的忧思。这本书的作者就是麻省理工学院的天体物理学教授迈克斯·泰格马克。今年8月底他的中文版新书《生命3.0：人工智能时代，人类的进化与重生》面市。适逢世界人工智能大会在沪召开，借此契机《中欧商业评论》专访了泰格马克教授，请他谈谈对人工智能的思考。
先让“风险”成为主流话题
《中欧商业评论》（以下简称CBR）：你是如何定义智能的？能否谈一谈关于生命 3.0的提法，是什么启发了你？
泰格马克：很简单，智能就是完成任务的能力。能完成越复杂的任务，就越智能。从这个意义上说，即使是便携式计算器也有一点点智能，它可以完成的任务就是不断做加减乘除等运算。
今天我们所说的人工智能指的是非生物的智能。现在人工智能在某些狭义领域超越了人类，但只能完成某些局限性任务，比如乘法运算更快，下围棋能赢过人类棋手等。而目前广义人工智能甚至抵不上儿童。一个小孩只要勤于训练，可以擅长做几乎任何事情，这才是我们真正想要的智能。让智能不像今天这样狭义，达到更通用的程度，是激发我写这本书的灵感来源。
长期以來人类在智能方面取得的成就甚微，所以并不担心人工智能研制成功之后带来的一系列后果。但如果有朝一日我们真正制造出一种做任何事都比人类更胜任的机器，就要自问：人类该扮演什么角色？这个思考启发了我写这本书。
纵观生命和智能之间的关系，经历了几个阶段。早期的生命，比如说细菌，我称之为生命1.0。这些生命终其一生不能学习任何新知。以大肠杆菌为例，把它放进水里，它有一个传感器可以感应水里的糖分，会朝糖分更多的地方游去，它仅有的一点点智能都编码在基因当中了。大肠杆菌学习新知的唯一方式就是通过一代又一代不断的物种进化。相比之下，我将人类称为生命2.0。因为我们确实有学习的能力，因此成了主导地球的生物。生命3.0则不仅能替换人类的软件，还可以替换硬件。当然，生命3.0现在还不存在，但人类已经可以制造出人造膝盖、人造心脏起搏器、人造植入耳蜗，现在还有很多人把自己和智能手机连接起来，让智能手机成为自己的一部分。
CBR：你的书里杜撰了逃出来的普罗米修斯。希腊神话里的普罗米修斯我们都知道，你给超级人工智能起这个名字，是有什么考量吗？
泰格马克：从书上普罗米修斯的故事中，我们知道，如果科技的力量比我们掌握技术的智慧更快，结果会非常糟糕。我们必须确保我们掌控科技的智慧至少要和人工智能的能力相当。过去我们总是吃一堑才长一智，失败了很多次才会取火，出了很多事故才发明安全带和交通信号灯。事实上，事后学习是一种非常糟糕的策略，我们可不想从核武器的失败中学习经验教训。同样的道理，如果我们研发非常强大的人工智能，就应该更加主动，提前计划安排，在第一次就要成功。
这也是我认为中国可以为世界作出独特贡献的一方面。这有两个原因，一个是中国在技术方面的优势结合长远规划方面的独特智慧，很有价值。中国有一个优良传统，那就是长期思考、长远规划，这一点比很多西方国家更强。另一个则是求同存异的双赢智慧。
CBR：你们基于什么考量创建了未来生命研究所？
泰格马克：我们大多数都是科学家、技术专家。我们决定共同协作，正是为了去发扬双赢的智慧，确保技术是在帮助而不是伤害人类。在埃隆·马斯克的帮助下，我们捐献了大约900万美元研究基金给全世界的科研人员，致力于让人工智能更加安全，处理好人工智能和人类工作的关系，让所有人生活更美好。
对我而言，这是一个非常有益的经验，我们已经取得了一些成效。刚开始，每当有人说到人工智能有风险，所有人都会批判他，因为这么说听起来很傻，就像好莱坞电影里的终结者，大家会觉得很荒谬。而现在人工智能风险的话题已成了主流，我们的第一个目标，就是让这个话题变成主流话题。
如果你细想的话，这也是自然而然的事情。其他领域，比如工程学领域，没有任何一个国家的政府会在无法保证核反应堆安全性的情况下资助一个核反应堆。土木工程领域，你要建造桥梁，桥梁的安全性也是你必须要考量的。我们现在就要思考所有失败和失误的可能性，确保人工智能朝好的方向发展。如果你折一个纸飞机，失败了还可以弥补，但一些大的工程可是失败不起的。
CBR：这本书里还提到2017年未来生命研究所的一个调查，绝大部分科学家相信，超级人工智能将会在2047年之前出现。你觉得呢？
泰格马克：严格地说，并不是绝大多数科学家。关于这个问题有很多不同观点。有一些科学家说绝不可能，几百年之间都不会出现。但也有一些科学家认为在那个时间段会出现。要我说，结论就是：我们无法肯定，但必须现在就开始谋划，临时抱佛脚是不行的。就以网络安全为例，网络攻击屡屡发生，因为我们创造发明互联网的时候，那只是一个游戏，就像玩具一样，对人类的生活没什么大的影响。但现在互联网技术开始控制电网、控制我们的资金交易，还控制我们的医疗记录等，我们才发现，糟糕，本应该周全考虑，最开始就应该植入一些网络安全的东西。现在我们将人工智能用于更多基础设施，让人工智能帮助我们决策。这些都需要做好防范，提前预谋，将今天的那些漏洞软件转化升级成安全稳固、值得信赖的系统。
不仅要创造生命3.0，还要创造财富3.0
CBR：如何看待人工智能在取代人类工作方面的问题？ 泰格马克：建议孩子们进入那些计算机还不太擅长的行业，而且要将来一段时间计算机都不太擅长的才行。应该避免进入那些重复性、结构性的工作，那些需要创造性或者必须要即时反应的工作则是比较好的。还有一类工作，即便有了人工智能代替，人们仍会希望给人工更高的价格。比如心理学家、按摩师等。但不管你选择了什么工作，都应该利用技术去完成这份工作，而不是抗拒技术。举个例子，你想当一名医生，但不建议成为放射科医生，因为看磁共振图像然后出诊断结果这种工作很快就会被人工智能所代替。相反，你要成为拿着人工智能检测报告和患者讨论治疗计划的那种医生。如果你对法律感兴趣，不要成为低级的律师助理，阅读卷宗的工作会被人工智能代替，你要努力成为那个拿到最终分析结果并出庭辩论的律师。不管入哪一行，必须要知道人工智能如何影响这一行业，要让自己比同事更会利用人工智能。
CBR：取代人类工作的人工智能有可能引发风险，比如自动驾驶技术。我们的社会是否已经为此做好了准备？
泰格马克：这是一个非常棘手的问题，我觉得当今时代的司法系统已经非常陈旧过时，需要更新。如你所问，万一事故发生了之后由谁来负责？这个问题的最佳答案不是来自人工智能工程师，而是来自法律学者。有一个很有趣的观点：自动驾驶汽车本身就可以有汽车保险，因为那些自动驾驶技术很差的汽车，保险公司就会要求它支付巨额保费，然后人们就不会买那种车。这方面的立法非常重要，要让警方更好地判别谁来负责。比如有个人他有一辆自动驾驶汽车，如果程序自动设计它驶入人行步道，里面放一个炸弹进行恐怖袭击的话，必须要能够确认谁来对此负责，而现行法律还不够完善。再比如人们会接到一些电话，听起来很像认识的人在推销东西，但其实声音来自机器，那么是不是应该有相关法律禁止机器在没有任何警告的情况下模仿人的声音，否则别人可以录制一段视频，播放的是你从未真正说过的话。
CBR：这本书的副标题是“人工智能时代，人类的进化与重生”，这里的“人类”应该怎么理解？而未来人工智能是否也可以视为某种“生命”？
泰格马克：我并不想去定义生命应该如何，我只是提出一个问题，让读者问问自己，作为人类意味着什么，或者如何做人，因为人工智能将对我们的生活产生巨大影响。
当初工业革命极大地改变了我们的生活。每当我们弄清人体某些运动原理，就会创造出一种机器更好地完成这项工作。比如当我们更加了解肌肉的工作原理时，就能创造出更加强大、更加快速的机器。假如将来我们创造出的机器比人类大脑更管用，还剩下什么工作可以给人类做呢？这是一个非常重要的问题，我希望引起读者思考。
人工智能的发展不会停止，原因有二：第一，科学家们都有好奇心，总是希望弄清楚一个事物的工作原理；第二，经济学上，如果我们能够提高机器的工作效率，会让公司获得更多利润，公司自然会做。另外，人工智能发展也不见得是一件坏事，因为理论上机器可以创造出我们人类所需的所有商品和服务，我们就可以一直度假玩乐，这样也很不错，对吧？
但问题在于，这不会自动发生。如果政府无所作为，那些拥有机器的人就会享尽财富，其他人一无所有，这样一来，社会就将变得很不平等。目前西方社会大多数人都变得越来越穷，穷人变得非常愤怒，哪个政客承诺要改变现状，他们就投票给哪个政客，因为他们绝望透顶，别无选择，即便是这些政客的许诺根本无济于事。因此我们现在看到西方社会越来越极端、越来越分裂。我非常希望中国在这方面做得更好，因为中国的建国根基就在于帮助所有的人。问题的关键在于，不仅仅要创造生命3.0，还要创造财富3.0。政府征收了足够的税收，就可以让老百姓共享繁荣。
如果人工智能成功创造出巨大财富，那么我希望政府能真正用好财政税收，设置一些有意义的岗位，因为工作真正的意义不仅仅是赚钱，还要有意义和目标。中国在这方面可以树立榜样，确保科技進步带来的财富增长让大家共同富裕。
我们还有巨大的潜能
CBR：你觉得人类有一些人工智能无法实现的能力吗？比如说创造力，比如同情心？
泰格马克：很多人认为，智慧是一种很神秘的东西，只能存在于像人类这样生理性的大脑当中。但我个人认为，智慧其实就是信息处理。没有任何物理学定律规定，那种超高级的信息处理能力，比如可以产生创造力和同情心的能力，只能出现在生理学器官当中，换言之，只有碳原子才能实现。硅元素是否也可能实现呢？这是有可能的。
当人类创造出和人类同级别的智慧，那就像生了一个孩子。我们有巨大责任，不仅要让它们功能强大，还要让它们有道德。这涉及价值观的一致性。家长教育孩子是一件挺难的事情，要教育机器懂伦理道德、明辨是非就更难了。
我们目前在价值观一致方面做得很糟糕。有一个德国飞行员患了抑郁症，他让一架客机撞上了阿尔卑斯山，导致机上一百多人死亡。飞机的电脑上有阿尔卑斯山脉的地图和卫星定位系统等，飞行员让电脑将飞行高度降低到一百米，电脑说，没问题，因为电脑对人类价值观没有任何概念。事实上要避免撞击原本很简单，如果电脑发现飞行员的指令违背道德，可以从人工控制切换到自动驾驶模式，最后再安全着陆。最近还有很多驾车自杀式恐怖袭击，应该把防止撞人的功能编到软件程序中，这是很容易做到的技术解决方案。
因此，我们应该关心的不是人工智能会不会有同情心，而是我们如何为人工智能加入适当的同情心。随着人工智能变得更加高级，我们再加入更高级的同情心。我们不能让追求完美成为进步的绊脚石，可以从简单开始，但现在连最起码的都没有做。
CBR：你是怎么看待人类意识的？
泰格马克：我觉得人类意识可能是最美妙的事情之一。如果没有意识，那世界便没有美好可言、没有道德可言、没有目的和意义可言。我的专业背景是物理学，没有任何一条物理学定律是关于美好、目的或意义的。然而当我用天文望远镜观察银河系的时候，却发现银河是如此美丽，因为我们人类大脑会有意识地去感受这种美丽。 有一些哲学家说，意识其实都是扯淡。我就会问他们，那么你说酷刑有什么好怕？酷刑之所以不好，是因为创造了一种消极的主观体验。那些说意识是扯淡的人，我会邀请他在不麻醉的情况下接受手术。他们接受手术之后还是会生存下来，没有问题，但是没有人希望有这种负面的主观感受。
智慧和意识就是某种信息的处理过程。只是目前科学家还未研究出来到底是什么样的信息处理过程导致了意识产生，而我们就应该对此展开研究。首先这对医疗就很有帮助，这样可以确切知道患者到底是昏迷还是闭锁综合征。其次，或许我们可以创造出不同种类的机器人，一部分有意识，一部分无意识。无意识的机器人去做无聊的工作，这样我们就没有负罪感；有意识的机器人可以做人类的伙伴。这是一个非常有趣的科学问题，而人工智能领域的进步又让这一问题亟待研究。因为意识和智慧不可混为一谈，你可以智力很高却没有意识。
CBR：《星际穿越》里布伦特博士说的那句诗“不要温和地走入那个良夜”令人印象深刻，面对死亡的态度最能体现出一个人的智慧高低。人类对待自己的终极命运应该持一个什么样的态度？
泰格马克：那其实是英国诗人狄蘭·托马斯的诗句。对待人类的终极命运，我觉得应该志存高远。
很多人说放弃吧，人肯定比不过机器的。人类被新事物所取代，但并不意味着新事物就一定更好。我们创造人工智能的时候，其实有很大的自由度。但如何才能创造一种可被赋予价值取向的人工智能？我们应该好好利用这份自由度去塑造一个真正美好、激动人心的未来。如果我们这一点做得好，未来会非常美好，令人向往。
目前我们注意力都局限在地球上，志向不够高远，只看到了短暂的几年。我在这本书里谈到了接下来的几百万年，如果利用好了人工智能技术，生命可能不仅会繁荣几百年，而是几百万年；不仅地球更加繁荣，甚至整个宇宙都更加繁荣。因此我对这个问题的回答是，我们不要去限制自己，也不一定要待在地球上，这只是宇宙生命的一个开端，我们还有巨大潜能，让我们创造一个无限美丽、激动人心的未来。
如果我们能正确对待人工智能技术，人工智能就可以赋予我们力量做好这一切。智慧不邪恶，智慧也不善良，它只是工具，因此我们要将智慧这一工具用来做好事。我之所以这么热爱文明，那是因为文明是智慧的结晶。我们现在还不能说晚安，因为现在不是夜晚，现在还是宇宙生命的早晨。感恩我们即将迎来美好的一天。