论文部分内容阅读
如果一个人工智能，真的到了能够独立判断、独立学习的水平，它会把我们人类视为自己的同类吗？
最近，随着电影《超能查派》、《复联2》隆重上映，对“怎么让AI（人工智能）理解人类的道德体系”、“AI造反了怎么办”等问题的讨论非常热烈，“人工智能”似乎一夜之间就和普通人扯上了关系。
想要造出一个能够和人类智力水平相当的AI（比如查派），显然并不容易;而如果真的造出来了，这些个AI会如何看待我们，则是个更加复杂的问题。
内外有别
具有社会性的生物，在自然界并不罕见：蚂蚁、蜜蜂、大猩猩等等，都能在不同程度上显示出高度的分工合作，这和人类社会有些相似。实际上，这些生物的集体行为，强大得令人惊讶：工蜂可以甘心情愿地出外觅食来喂养蜂王和幼虫，面对入侵者时不惜自杀性的攻击（蜜蜂在蜇刺之后自己也会很快死去）;红火蚁在溺水时会迅速而有序地簇拥成一个漂浮的球体，保证“球心”中部分的同类有机会生存下去——大公无私的典范。
然而，这些生物的“团结友爱”往往有个决绝的界限：只对本群的同类有效。对于其他种类的生物，或是不属于本群的同类生物，其手段的残酷性同样令人咋舌，比如成年的雄性黑猩猩如果遇到其他族群的幼年黑猩猩，通常都会毫不犹豫地将其杀死。
类似的现象，其实在人类的历史上也很常见。
在氏族社会，部落冲突中的战俘往往会被杀掉祭神，在一些地区甚至会被视为合法的食物做成烧烤;到了封建时代，诸侯国之间的战争，偶尔也会伴有对战俘的大规模屠杀，比如战神白起那令人遗憾的“坑埋赵卒”。即便到了工业社会，仍然有人将异族的性命视为草芥，美国先贤们对印第安土著的逼迫，二战中对犹太人的大规模残害，发生在中国南京的大屠杀，都是这种残忍行为的突出表现。甚至到了后工业时代，在地球上的一些落后地区，还不时发生对异族的种族灭绝惨案，比如电影《卢旺达饭店》所展现的那样。
这种种现象，背后的逻辑往往惊人的一致：非我族类，其心必异;对于这些异类，完全不必也不该采取和同类相同的道德标准，怎么狠就怎么来吧。
DNA的失败？
上述现象，无论是黑猩猩还是人类，可能有一个共同的成因：DNA。
在数万年的进化过程中，如何将自己的DNA延续下去，成为每一个物种面临的最严峻考验，也成为大多数生物建立行为模式的终极指南。为了让DNA延续下去，个体会努力争取一切繁殖的机会，会不惜代价地保护自己的幼崽;更深一步，则会尽量让拥有共同DNA的其他个体获得繁殖、生存的机会：蜜蜂和蚂蚁的行为似乎就可以归于此类。
但是，在人类脱离自然、慢慢形成更高层次的社会文明之后，DNA那说一不二的强权却被悄悄地逐渐稀释了：从有直接血缘关系的兄弟姊妹，扩展到拥有共同祖先的氏族（表现为相同的姓氏）;从以居住地为依据的诸侯国，扩展到以身份认同为主的民族国家（比如“炎黄子孙”就曾被用作与“夷狄”区分开来），人类对于“我的同类”的认定范围，不断的扩大开来，也更善待自己的同类，甚至可以为了保护同类而作出自我牺牲，而这些显然都是不利于自己的DNA延续的。
这种认同感扩大有很多可能的原因，但都和DNA或者说和血缘渐行渐远;相反，人类的思想、感情、精神因素在其中的作用则越来越大。有些人是出于宗教上的认知，基于对死后生活或者下一世生活的恐惧与期待;另一些人则完全出自道德和信念的考量，为了保护同类而甘冒生命危险，也并不追求有形或无形的报偿。战场上的军人、火灾中的消防员、面对恐怖分子的警察，都是身边常见的例子。
同时，这种高尚的品质，可以超越DNA而传播下去——人类的语言文字能力，让思想的传播不再依赖繁殖本身，由此克服了“无私的基因容易被演化淘汰”的悖论。电影中的AI机器人查派，也正是目睹了自己“父母”的英勇行为之后，才迅速形成了这种违反自我保存本能的意识，把仅有的一具机体让给了男主角，实现了认知上的飞跃。
无论是出于何种原因，借用道金斯在《自私的基因》一书中的话来说就是：“只有人类，才能够反抗基因的暴政。”
此起彼伏
进入信息时代后，对于“谁是同类”的问题，又有了一些新的波动：既有所扩大，也有所收缩。
扩大方面，是人类把对“同类”的情感延伸到非人类物种身上。很多人已经能够对动物福利有所重视，不仅是对那些看起来很可爱的宠物，也包括不那么符合人类审美情趣但更需要保护的野生动物;连一些行为有趣的机器人都能获得人类的认可，包括那只飞到月球上的兔子。
这种扩大很有意思，因为这些被视为同类的生物，实质上对于人类的利益并无直接促进。
《圣经》中有一个著名的典故：耶稣说，你们要爱你们的邻居如同你们自己;一个律师就问说那谁是我的邻居呢？耶稣就举了“好撒玛利亚人”的例子，并说能够这样帮助别人的人就是你的邻居。不考虑宗教本身的教义，这里头对于“邻居”或者说“同类”的认定标准，还是带有一定的功利主义色彩的。也就是说，无论是DNA还是价值观使得人类产生了舍己利他的行为，潜台词都是“这对人类整体利益而言是有益的”，但对于野生动物的保护则显然不在于此。
也可以说，人类此刻的共情已经超越物种间的界限，甚至超越了生物的本能。
而限缩方面，则主要体现在“敌人刑法”（Enemy Criminal Law）上。这个由德国法学家雅各布斯（Jakobs）提出的观点，简单而言就是对于“社会的敌人”要区别对待，不能给予他们和普通公民一样的法律权利，比如说允许秘密监听、限制出入境、延长审判前的羁押期限、缩短上诉期限等等;而“社会的敌人”主要指那些危害国家安全、实施恐怖袭击的特殊罪犯。
基于这种理论，美国在二战期间制定了《敌国侨民法案》，将大量的日本裔美国人“集中居住”，在反恐战争开打之后则设立了关塔那摩监狱，将大批恐怖分子不定罪即羁押。很难说清这种做法是否正确，但它显然是将一部分敌对分子从“同类”的概念中剔除出去了。
此外，“谁是同类”的问题还存在一些争议区域。比如，克隆人算不算是人类呢？电影《银翼杀手》中就表现过这种深深的纠结。而另一部经典电影《E.T.》，抛出的问题则是：如果有外星生物，我们该把它们视为同类吗？它们又会怎么看待我们呢？
人工智能
好了，绕了一大圈，该回到开头提到的主题上了：
如果一个人工智能，真的到了能够独立判断、独立学习的水平，它会把我们人类视为自己的同类吗？
如果AI走了大多数人类的路子，把人类也纳入了“同类”的范畴，那真应该庆幸，至少智能机器人在对待人类上不会随心所欲;而如果AI只把另一个AI视为同类，拒不承认人类的“同类”地位，问题可能就会非常麻烦了。正如我们煮开牛奶时不会考虑细菌的痛苦一样，《黑客帝国》里“母体”把人类做成生物电池时，也没有有任何的负疚感。
至于如何促进AI产生对人类的认同感，有个例子或许可以借鉴：频繁接触、共同生活后，人类的移情作用往往会投射到宠物身上，甚至投射到扫地机器人和家用轿车上，产生了强烈的认同感和感情。
不过，人类的行为当然也会对AI的感情产生影响，如果AI发现我们只不过把它们当作用过就扔的工具（就像是《七武士》中的那些村民那样），会不会感到愤怒和寒心呢？
然而，事情究竟会朝着哪个方向发展，我们依然不得而知。或许某一天，一台真正意义的AI，会坐在门槛上望着夕阳，苦苦的思考着：“人类和另一个AI，谁才是我的邻居？”（本文首发于果壳网，本刊略有改动）
最近，随着电影《超能查派》、《复联2》隆重上映，对“怎么让AI（人工智能）理解人类的道德体系”、“AI造反了怎么办”等问题的讨论非常热烈，“人工智能”似乎一夜之间就和普通人扯上了关系。
想要造出一个能够和人类智力水平相当的AI（比如查派），显然并不容易;而如果真的造出来了，这些个AI会如何看待我们，则是个更加复杂的问题。
内外有别
具有社会性的生物，在自然界并不罕见：蚂蚁、蜜蜂、大猩猩等等，都能在不同程度上显示出高度的分工合作，这和人类社会有些相似。实际上，这些生物的集体行为，强大得令人惊讶：工蜂可以甘心情愿地出外觅食来喂养蜂王和幼虫，面对入侵者时不惜自杀性的攻击（蜜蜂在蜇刺之后自己也会很快死去）;红火蚁在溺水时会迅速而有序地簇拥成一个漂浮的球体，保证“球心”中部分的同类有机会生存下去——大公无私的典范。
然而，这些生物的“团结友爱”往往有个决绝的界限：只对本群的同类有效。对于其他种类的生物，或是不属于本群的同类生物，其手段的残酷性同样令人咋舌，比如成年的雄性黑猩猩如果遇到其他族群的幼年黑猩猩，通常都会毫不犹豫地将其杀死。
类似的现象，其实在人类的历史上也很常见。
在氏族社会，部落冲突中的战俘往往会被杀掉祭神，在一些地区甚至会被视为合法的食物做成烧烤;到了封建时代，诸侯国之间的战争，偶尔也会伴有对战俘的大规模屠杀，比如战神白起那令人遗憾的“坑埋赵卒”。即便到了工业社会，仍然有人将异族的性命视为草芥，美国先贤们对印第安土著的逼迫，二战中对犹太人的大规模残害，发生在中国南京的大屠杀，都是这种残忍行为的突出表现。甚至到了后工业时代，在地球上的一些落后地区，还不时发生对异族的种族灭绝惨案，比如电影《卢旺达饭店》所展现的那样。
这种种现象，背后的逻辑往往惊人的一致：非我族类，其心必异;对于这些异类，完全不必也不该采取和同类相同的道德标准，怎么狠就怎么来吧。
DNA的失败？
上述现象，无论是黑猩猩还是人类，可能有一个共同的成因：DNA。
在数万年的进化过程中，如何将自己的DNA延续下去，成为每一个物种面临的最严峻考验，也成为大多数生物建立行为模式的终极指南。为了让DNA延续下去，个体会努力争取一切繁殖的机会，会不惜代价地保护自己的幼崽;更深一步，则会尽量让拥有共同DNA的其他个体获得繁殖、生存的机会：蜜蜂和蚂蚁的行为似乎就可以归于此类。
但是，在人类脱离自然、慢慢形成更高层次的社会文明之后，DNA那说一不二的强权却被悄悄地逐渐稀释了：从有直接血缘关系的兄弟姊妹，扩展到拥有共同祖先的氏族（表现为相同的姓氏）;从以居住地为依据的诸侯国，扩展到以身份认同为主的民族国家（比如“炎黄子孙”就曾被用作与“夷狄”区分开来），人类对于“我的同类”的认定范围，不断的扩大开来，也更善待自己的同类，甚至可以为了保护同类而作出自我牺牲，而这些显然都是不利于自己的DNA延续的。
这种认同感扩大有很多可能的原因，但都和DNA或者说和血缘渐行渐远;相反，人类的思想、感情、精神因素在其中的作用则越来越大。有些人是出于宗教上的认知，基于对死后生活或者下一世生活的恐惧与期待;另一些人则完全出自道德和信念的考量，为了保护同类而甘冒生命危险，也并不追求有形或无形的报偿。战场上的军人、火灾中的消防员、面对恐怖分子的警察，都是身边常见的例子。
同时，这种高尚的品质，可以超越DNA而传播下去——人类的语言文字能力，让思想的传播不再依赖繁殖本身，由此克服了“无私的基因容易被演化淘汰”的悖论。电影中的AI机器人查派，也正是目睹了自己“父母”的英勇行为之后，才迅速形成了这种违反自我保存本能的意识，把仅有的一具机体让给了男主角，实现了认知上的飞跃。
无论是出于何种原因，借用道金斯在《自私的基因》一书中的话来说就是：“只有人类，才能够反抗基因的暴政。”
此起彼伏
进入信息时代后，对于“谁是同类”的问题，又有了一些新的波动：既有所扩大，也有所收缩。
扩大方面，是人类把对“同类”的情感延伸到非人类物种身上。很多人已经能够对动物福利有所重视，不仅是对那些看起来很可爱的宠物，也包括不那么符合人类审美情趣但更需要保护的野生动物;连一些行为有趣的机器人都能获得人类的认可，包括那只飞到月球上的兔子。
这种扩大很有意思，因为这些被视为同类的生物，实质上对于人类的利益并无直接促进。
《圣经》中有一个著名的典故：耶稣说，你们要爱你们的邻居如同你们自己;一个律师就问说那谁是我的邻居呢？耶稣就举了“好撒玛利亚人”的例子，并说能够这样帮助别人的人就是你的邻居。不考虑宗教本身的教义，这里头对于“邻居”或者说“同类”的认定标准，还是带有一定的功利主义色彩的。也就是说，无论是DNA还是价值观使得人类产生了舍己利他的行为，潜台词都是“这对人类整体利益而言是有益的”，但对于野生动物的保护则显然不在于此。
也可以说，人类此刻的共情已经超越物种间的界限，甚至超越了生物的本能。
而限缩方面，则主要体现在“敌人刑法”（Enemy Criminal Law）上。这个由德国法学家雅各布斯（Jakobs）提出的观点，简单而言就是对于“社会的敌人”要区别对待，不能给予他们和普通公民一样的法律权利，比如说允许秘密监听、限制出入境、延长审判前的羁押期限、缩短上诉期限等等;而“社会的敌人”主要指那些危害国家安全、实施恐怖袭击的特殊罪犯。
基于这种理论，美国在二战期间制定了《敌国侨民法案》，将大量的日本裔美国人“集中居住”，在反恐战争开打之后则设立了关塔那摩监狱，将大批恐怖分子不定罪即羁押。很难说清这种做法是否正确，但它显然是将一部分敌对分子从“同类”的概念中剔除出去了。
此外，“谁是同类”的问题还存在一些争议区域。比如，克隆人算不算是人类呢？电影《银翼杀手》中就表现过这种深深的纠结。而另一部经典电影《E.T.》，抛出的问题则是：如果有外星生物，我们该把它们视为同类吗？它们又会怎么看待我们呢？
人工智能
好了，绕了一大圈，该回到开头提到的主题上了：
如果一个人工智能，真的到了能够独立判断、独立学习的水平，它会把我们人类视为自己的同类吗？
如果AI走了大多数人类的路子，把人类也纳入了“同类”的范畴，那真应该庆幸，至少智能机器人在对待人类上不会随心所欲;而如果AI只把另一个AI视为同类，拒不承认人类的“同类”地位，问题可能就会非常麻烦了。正如我们煮开牛奶时不会考虑细菌的痛苦一样，《黑客帝国》里“母体”把人类做成生物电池时，也没有有任何的负疚感。
至于如何促进AI产生对人类的认同感，有个例子或许可以借鉴：频繁接触、共同生活后，人类的移情作用往往会投射到宠物身上，甚至投射到扫地机器人和家用轿车上，产生了强烈的认同感和感情。
不过，人类的行为当然也会对AI的感情产生影响，如果AI发现我们只不过把它们当作用过就扔的工具（就像是《七武士》中的那些村民那样），会不会感到愤怒和寒心呢？
然而，事情究竟会朝着哪个方向发展，我们依然不得而知。或许某一天，一台真正意义的AI，会坐在门槛上望着夕阳，苦苦的思考着：“人类和另一个AI，谁才是我的邻居？”（本文首发于果壳网，本刊略有改动）