论文部分内容阅读
几百年来,由机器创造的工业奇迹一次又一次地颠覆了人们对机器的传统看法。今天的许多机器已不再是冰冷粗笨、发出隆隆吼声、完全由人类控制的金属怪物了,而是灵活机动,早已渗透到了生活的方方面面。
今天的机器能在无人监督的情况下独立完成复杂任务(如汽车自动驾驶),自动搜集信息,改进行动策略,甚至可以在某些智力(如下棋、证明定理)或敏捷性(如打乒乓球)的比拼上跟人类的最佳选手对抗,这种案例近年来正在越来越频繁地涌现。
虽然如此,仍然有很多人坚信机器不可能产生智能,认为机器的行为完全取决于人类预设的指令。可是让我们想一想,人的行为难道不是完全取决于大自然预设的指令吗?
今天的智能机器拥有复杂的内部状态,在外部条件完全相同的情况下,机器仍然可能因内部状态不同,而做出不同的反应行为,甚至可以在跟环境互动的过程中,不断更新自己的知识库,改进自己的行为策略。对于这样的机器,即便是机器的设计者都无法预测它的行为。
更多深入的探讨留给哲学家们打口水仗,今天我们就假设机器能够产生智能,聊聊智能机器时代人类的命运。
如果机器有一天真得强大到能控制人类的地步,那么这些机器不但要像动物一样,具备自主的行动意愿和一定的智力,而且还要形成相当规模的群落,具有类似生物那样的繁殖遗传和变异的能力,形成生存竞争的生态系统。
如果真的到了这一天,机器跟今天的人类相比,可能确实会有无与伦比的优势。因为智力的强化对它们而言轻而易举,知识的学习和积累也变得几乎无需成本。今天的人类对于这样的强大机器而言,可能确实没有任何特殊的优势。
但我们真的需要担心被机器控制么?
虽然我并不是一个乐观主义者,但我认为下面这种情况才是最可能发生的:
远在机器控制人类那一天到来之前,人和机器间的界限就已经非常模糊了。连脑子得病或老化萎缩,都可以用人工神经网络进行持续不断地修补、替代,甚至可能从一出生人就跟超微机械共生了,由超微机械对身体损伤进行修补治疗。到了这样的时代,谁还能说清楚自己到底是人还是机器?
这种情况下,在一个年纪很大的老年人身上,可能包括大脑在内都不再是原装货了。
到了那样的时代,如果有人号召大家,防止机器奴役人类,其他“人”都得好好掂量掂量自己到底算是机器还是人。那些拒绝融入时代而选择原生态生存策略,保持自身纯种的人类个体,在那个时代必然被社会边缘化,因为人跟机器的融合意味着有了更长的寿命(甚至永生)、更好的生活质量、更高超的心智、更强大的体能……如果纯种人类真的要为自己的血统信仰而跟智能机器(人)开战,就不仅要对付机器,还要对付数量远比纯种人类更多的机器混种人类。
智能机器时代到来后,还有人类的位置么?那些强大到足以征服人类的机器本身,就是人类自身的未来。机器更像是人类的孩子,而不是可怕的魔鬼用来征服人类世界的傀儡军团。
今天的机器能在无人监督的情况下独立完成复杂任务(如汽车自动驾驶),自动搜集信息,改进行动策略,甚至可以在某些智力(如下棋、证明定理)或敏捷性(如打乒乓球)的比拼上跟人类的最佳选手对抗,这种案例近年来正在越来越频繁地涌现。
虽然如此,仍然有很多人坚信机器不可能产生智能,认为机器的行为完全取决于人类预设的指令。可是让我们想一想,人的行为难道不是完全取决于大自然预设的指令吗?
今天的智能机器拥有复杂的内部状态,在外部条件完全相同的情况下,机器仍然可能因内部状态不同,而做出不同的反应行为,甚至可以在跟环境互动的过程中,不断更新自己的知识库,改进自己的行为策略。对于这样的机器,即便是机器的设计者都无法预测它的行为。
更多深入的探讨留给哲学家们打口水仗,今天我们就假设机器能够产生智能,聊聊智能机器时代人类的命运。
如果机器有一天真得强大到能控制人类的地步,那么这些机器不但要像动物一样,具备自主的行动意愿和一定的智力,而且还要形成相当规模的群落,具有类似生物那样的繁殖遗传和变异的能力,形成生存竞争的生态系统。
如果真的到了这一天,机器跟今天的人类相比,可能确实会有无与伦比的优势。因为智力的强化对它们而言轻而易举,知识的学习和积累也变得几乎无需成本。今天的人类对于这样的强大机器而言,可能确实没有任何特殊的优势。
但我们真的需要担心被机器控制么?
虽然我并不是一个乐观主义者,但我认为下面这种情况才是最可能发生的:
远在机器控制人类那一天到来之前,人和机器间的界限就已经非常模糊了。连脑子得病或老化萎缩,都可以用人工神经网络进行持续不断地修补、替代,甚至可能从一出生人就跟超微机械共生了,由超微机械对身体损伤进行修补治疗。到了这样的时代,谁还能说清楚自己到底是人还是机器?
这种情况下,在一个年纪很大的老年人身上,可能包括大脑在内都不再是原装货了。
到了那样的时代,如果有人号召大家,防止机器奴役人类,其他“人”都得好好掂量掂量自己到底算是机器还是人。那些拒绝融入时代而选择原生态生存策略,保持自身纯种的人类个体,在那个时代必然被社会边缘化,因为人跟机器的融合意味着有了更长的寿命(甚至永生)、更好的生活质量、更高超的心智、更强大的体能……如果纯种人类真的要为自己的血统信仰而跟智能机器(人)开战,就不仅要对付机器,还要对付数量远比纯种人类更多的机器混种人类。
智能机器时代到来后,还有人类的位置么?那些强大到足以征服人类的机器本身,就是人类自身的未来。机器更像是人类的孩子,而不是可怕的魔鬼用来征服人类世界的傀儡军团。