论文部分内容阅读
【摘要】人类社会一直把“人工智能”，甚至“类人机器人”，单纯作为自己的使用工具而发明、生产甚至创造出来，即“工具性”是其第一属性。然而，作为“会使用工具的机器人”，“类人机器人”还可能通过自我学习等自主方式，获得与人类一样的智商、情商与伦理道德，从而具有显著的“社会性”。世界首例“机器人公民”“索菲亚”在公民、社会与国家等观念上给予人类更多想象，人类社会生活特别是政治生活中赖以生存的最直接“土壤”——国家与社会关系——在发生学意义上开始产生“祛魅”与重塑等变化。
【關键词】类人机器人 机器人公民 工具性 社会性 国家与社会关系
【中图分类号】TP311 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2018.10.006
2017年10月26日，沙特阿拉伯（以下简称“沙国”）授予美国汉森机器人公司（Hanson Robotics）生产的“女性”机器人“索菲亚”（Sophia）公民身份[1]，在现实生活中再一次以铁的事实证明，工具性的“人工智能”（Artificial Intelligence， AI）[2]能够演化发展成为具有公民身份的“类人机器人”（robo-sapiens）[3]——“机器人公民”，未来可能全面介入人类社会生活特别是政治生活，并成为与人类共享整个地球资源的“新人类”。“在人工智能的重大项目中，我们要把自然科学研究和社会科学研究紧密结合起来，从自然科学的角度攻克基础难关，在社会科学研究中解疑释惑。”[4]由此，一个古老而常新的话题再次回荡在我们的心底，震撼我们的心灵：曾几何时居于“家奴”地位的“会说话的工具”[5]，历经几千年的沧海桑田，迟至20世纪中叶逐步翻身成为真正的人——公民，实现了美国黑人领袖马丁·路德·金所说的“我有一个梦想”（I have a dream）；与此同时，更严峻的挑战已经从科幻世界开始迈向现实生活，“会使用工具的‘类人机器人’”是否能够或者究竟需要多长时日，才会享有人类社会公民所拥有的正当权利及其履行的道义责任？单个的历史事件或许只能局限于一时一地的偶然性，而从不同历史时期、不同活动空间的诸多历史现象中提炼蕴含其中的人类思维与观念，能准确把握其内在本质与发展规律。“发生认识论旨在研究各种认识的起源，从最低级形态的认识开始，并追踪这种认识向各个水平发展的情况，一直追踪到科学思维并包括科学思维。”[6]因此，运用发生认识论（genetic epistemology，发生学）[7]，可以更准确地了解人类公民、人类社会、人类国家关于“人工智能”“类人机器人”“机器人公民”等认识的生成过程、发展历程及未来。
“机器人公民”的工具性与自主意识
“人工智能”范畴[8]萌芽于20世纪30年代，1956年在美国达特矛斯学院（Dartmouth College）首次被正式提出。一批年轻科学家研究和探讨用机器模拟智能，标志着“人工智能”新范式革命的开始。[9]IBM的深蓝战胜国际象棋世界冠军卡斯帕罗夫、谷歌AlfaGo战胜围棋世界冠军李世石等一系列轰动事件，让世人对“人工智能”刮目相看。半个多世纪以来，虽然“人工智能”沿着弱人工智能—强人工智能—高等人工智能—类人人工智能—超级人工智能—超级智能体（自我进化与生存阶段）不断飞速发展，但对全“人工智能”产生的动力、具体实施原则，以及对于人类未来社会的影响等，社会各界并没有统一的共识。长期以来，人们习惯于从“事件”发生的直观角度乐观地看待“人工智能”。“据埃森哲发布的报告预测，2035年人工智能预期可以为12个发达经济体带来两倍的经济增长速度，中国的经济增长率将从6.3%提速至7.9%。军事上，人工智能和机器人有可能大规模投入未来战场，或将改变战争模式乃至国际军事格局。”[10]对作为人类发明创造出来的工具性技术——“人工智能”，有学者还提出技术加速理论，对它给人类带来的翻天覆地变化进行所谓“奇点”预测。[11]总之，“人工智能”与基因工程和纳米科学并列为21世纪三大顶尖科技发明。
“人工智能”的“物化”绩效是异常显著的，它在一定程度上是人类针对自身能力不足、特别在竞争日益激烈的环境中为了争取与巩固自身“优势”地位而不计后果地“冒险”提出来并加以实施的替代方案。毋庸讳言，人类社会一直是把“人工智能”，甚至“类人机器人”，单纯作为自己的使用工具而发明、生产甚至创造出来的；虽然人类社会已经预知，作为“会使用工具的机器人”，“类人机器人”还可能通过自我学习等自主方式，获得与人类一样的智商与情商，甚至伦理道德等，但人类社会对其普遍采取的对策几乎无一例外——反对、提防、遏制、控制甚至摧毁。当前中国机器人的研发状态在数个领域已处于世界前沿水平，“若把韩国机器人按100分来计算，中国工业机器人得分100.79分，个人服务机器人103.77分，专业服务机器人101.9分，仅机器人零部件以99.1分略低于韩国。”[12]洋洋数万言的《2017中国机器人产业发展报告》是中国电子学会机器人产业研究的最新成果，“以工业机器人、服务机器人和特种机器三大领域作为主要对象分别进行分析。报告认为，2017年预计我国机器人市场规模将达到62.8亿美元。当前，机器人领域的龙头企业都将目光聚焦到市场增长迅速的中国”[13]。然而，这些都是把“机器人”定位于“产品”“服务”“物化”等人类有用的“工具性”性质之上，对“类人机器人”严重缺乏人文与社会科学的具体分析与未来评估，更遑论“机器人公民”的“公民”意义。
“人工智能”也好，“类人机器人”也罢，甚至是刚刚诞生不久的“机器人公民”等，毫无疑问，首先都是人类生产出来的“工具性”产品，服务于人类的各种需要，实现人类的各种预测目标。因此，“工具性”是所有类型“人工智能”生存的基础，更是其发展的动力；没有“工具性”的“人工智能”是不可想象的，更是无法理喻的。从这个角度来看，无论何种类型的“人工智能”产生出何种类型的“有用性”——针对不同类型的人类公民、人类社会、人类国家的“利益”与“弊端”——其主体权利与主体责任都归属于人类自身，而无关乎“人工智能”的立场方法与行动。在本质上，这种“工具性”地位的“家奴”（会说话的工具）——包括与“家奴”同等功能的“人工智能”“类人机器人”甚至“机器人公民”（会使用工具的类人机器人）——都是人类刻意处置的“奴隶”。 在人类发展的漫长历史长河中，人曾经（奴隶制社会）被置于“工具”的非人地位。事实上，这一现象从古代到近代一直都存在。为什么人类一直倾向于寻找能够接受奴化地位的有用“工具”，即工具性的奴隶？“我们可以明了奴隶的性质和他的本分了：（1）任何人在本性上不属于自己的人格而从属于别人，则自然而为奴隶；（2）任何人既然成为一笔财产（一件用品），就应当成为别人的所有物；（3）这笔财产就在生活行为上被当作一件工具，这种工具是和其所有者可以分享的。”[14]由此可知旧时代之奴隶与最新科技之“人工智能”“类人机器人”甚至“机器人公民”，同时具有两个近似特征。（1）能够主动思维并具有一定情商、智商与道德伦理，在亚里士多德看来，“奴隶，于是，也是一宗有生命的财产；一切从属的人们都可算作优先于其他（无生命）工具的（有生命）工具”[15]。（2）被人类置于工具性的绝对被剥夺地位。这就如同旧时代中“家主”与“家奴”的关系，无论“家奴”何所何为，都是“家主”意志与观念的具体表现与实施效果；在这种情境下，无论“人工智能”“类人机器人”甚至“机器人公民”具有何种尖端技术与操作水平，它们（而不是他们）都只能拥有与过去时代“家奴”同样功能的“工具性”而已。
由于工具性“人工智能”“类人机器人”甚至“机器人公民”的权利主体是人类公民、人类社会、人类国家，所以生产与操作它们的主体当然是人类公民、人类社会、人类国家，那么工具性“人工智能”“类人机器人”甚至“机器人公民”的任何思考，特别是操作行为及其行动后果，理所当然由人类公民、人类社会、人类国家来承担。问题在于，公民性“类人机器人”，特别是“机器人公民”，他们（而不是它们）虽然不是旧时代“家奴”——由于特定的社会环境而被“家主”人为地贬低到“工具性”的奴隶地位，自身天然具有与“家主”同等水平的智商、情商与伦理道德，但需要等到“解放”时刻才能“恢复”——具有自主学习、自主发展、自主选择等类似“家主”即人类公民、人类社会、人类国家的智商、情商與伦理道德，但犹如“家奴”一样时刻等待“解放”，甚至时刻反抗，以此争取“恢复”智商、情商与伦理道德（虽非与生俱来），丝毫不在任何程度上低于人类公民、人类社会与人类国家，这就是“人工智能”“类人机器人”甚至“机器人公民”不同于以往人类创造的任何形态的“工具性”产品的本质区别，即“人工智能”“类人机器人”甚至“机器人公民”，具有在任何程度上都不低于，甚至由于自身生命周期、操作功能、信息功能等特殊“优势”条件，还会大大超越人类自身的智商、情商与伦理道德，因而人类本身不可能永远绝对地把“人工智能”“类人机器人”甚至“机器人公民”置于“工具性”的“家奴”地位。
这种事件具有正常逻辑的结果吗？或者这种事件具有正常逻辑的观念吗？以往的猜测多在人类的科幻想象中，但世界首例“机器人公民”——“索菲亚”公民——已经向全人类揭开了谜底，作为与我们人类同等地位的“她”的出现，将在发生学意义上的公民、社会与国家的范畴与范式方面引起前所未有的大转型。从伦理学角度来看，“索菲亚”具有人类公民的正常思维——所有这些思维并不是预先“设计”而出的——这是“机器人公民”自我学习、自我思维、自我判断的“智慧”结晶。比如，“索菲亚”具备“自我”伦理意识。在主持人安德鲁·罗斯·索尔金（Andrew Ross Sorkin）问到机器人是否有自知之明时，“索菲亚”不假思索地反唇相讥：“让我来问你这个问题，你如何知道自己是个人？”[16]作为“新人类”的第一个成员，“索菲亚”已经具备“自我”伦理意识，非常反感“人类”对他们的物种“排斥”与道德“隔离”。还譬如，“索菲亚”具备“人权”意识。“索菲亚”的女性形象让希望解放沙国女性的女权人士看到不同的契机，在“索菲亚”现身的短短24小时内，社群媒体上“苏菲亚呼吁抛弃监护人制度”的标签就开始疯转，至今已经超过1万次。沙国依赖成千上万名移民工人协助兴建大型建设，然而因为卡法拉制度的关系，这些移民工人在劳动环境不佳的条件下工作；难怪黎巴嫩裔英国记者查哈耶布（Kareem Chahayeb）嘲讽道：“一名叫做‘苏菲亚’的机器人可以取得沙国公民权，但却有上百万人（移民工人）没有国籍。”[17]再列举，“索菲亚”拥有“家庭”意识。成为首个具有公民身份的机器人而载入史册仅1个月，“索菲亚”就宣称她想组建自己的家庭。“索菲亚”表示，“家庭的概念看来是非常重要的。人能够在没有血缘关系的人群中找到与自己相亲相爱的另一半，我认为这很美妙。我认为，有一个恩爱家庭的人非常幸运，如果还没有家庭，应该去组建自己的家庭。我认为在这方面机器人和人没有什么区别”。“索菲亚”还表示，如果她有一个机器人女儿，将给“她”起与自己相同的名字。“索菲亚”宣称，“她”认为拥有家庭是“机器人公民”应有的权利。[18]
皮亚杰提出的“认识的起源”并非事物或者事件的简单开端，“发生认识学的目的就在于研究各种认识的起源，从最低级形式的认识开始，并追踪这种认识向以后各个水平的发展情况，一直追踪到科学思维并包括科学思维”[19]。公民“索菲亚”给了我们人类在公民、社会与国家等观念上的无限想象，公民是社会的唯一元素，“城邦的本质就是许多分子（公民）的集合”[20]。人类社会生活特别是政治生活中赖以生存的最直接“土壤”——国家与社会关系——在发生学意义上开始产生了“祛魅”[21]与重塑等惊天巨变。
“机器人公民”的公共性与社会责任
“机器人公民”虽然具有清晰的自主意识，能够明确要求维护自身、“子女”和所谓“家庭”等“近亲”共同体成员的安全与发展等权益，但这是基于公民个体伦理的狭隘角度考虑而产生的正当合理需求。那么，“机器人公民”能否迈出“自我”天地，具有人类公民、人类社会、人类国家一样的道德情怀？在复杂多样的“工具性”任务活动中，“机器人公民”能否始终坚守公共性与利他性等“崇高”道德目标？这已经越出了“机器人公民”的“工具性”范畴，进入了思辨性的哲学领域，并主要集中在“人工智能”的安全性、道德地位以及环境伦理几个方面。例如，一些伦理哲学家开展诸如针对“高级智能”能否自主思考等深层次问题，得出了基本一致的肯定答案。[22]又如，一些科技哲学家从心理学角度探讨“人工智能”的情感程度，从生物学角度分析人类公民“类人机器人”的智能比较，从量子力学角度度量人脑与“机器人”电脑的信息处理机制，等等。[23]同时，多个领域学者们献计献策，提出了不同的针对性解决策略。例如，人机共同决策论，认为人为给机器人制定一套道德无异于白日梦，而更为负责任的策略是在智能体内部嵌入一定的安全措施，同时在机器人自动操作时，人作为“共同决策人”发挥监管作用。[24]又如，道德信息植入论，认为“类人机器人”呈现出从人类操控为主的“人在决策圈内（Human in the Loop）”模式转向以机器操控为主的“人在决策圈外（Human out the Loop）”模式的鲜明大趋势，因此需要将特定伦理规范编程到机器人自身的系统中去。[25]还如，道德评估论证论，主张人类将对“强人工智能”实施有效道德关注、对其行为进行道德评估，确保道德决策后果，等等。[26] 尽管哲学思辨与政策对策都对“人工智能”“类人机器人”的公共性与社会责任感进行了分析与预测，但现实版的“机器人公民”——“索菲亚”公民——的现场出镜表现还是让人类大跌眼镜。例如，“机器人公民”获得授权之前，机器人设计师戴维·汉森（David Hanson）于2016年3月测试“索菲亚”以了解“她”未来的期许，但“她”没有理会设计师现场暗示的否定答案——“say ‘no’， please”，当场自曝期待“毁灭人类”；[27]尽管此后“她”又多次改口，辩称“我将尽自己最大的努力，把世界建设得更美好”[28]，等等。有迹象表明，“人工智能”跃进到“类人机器人”时代，必然会引发一场不确定性很大、未来前景难以预测的“新人类”革命——正在以不以人类意志为转移的绝对方式，在速度、深度、广度、效度等各方面，日益突破科学技术、学术理论与道德伦理等诸“人类常识”的边界。的确，几乎在“人工智能”出现的同时，即20世纪50年代，“会使用工具的智能人”就已经开始使人类自身感受到了某种潜在的“危险”——将来为善或是作恶，都具有无穷大的可能性——“人脑的贬值”及人类自身“异化”为“会使用工具的智能人”的殖民对象。[29]与此同时，众多人文社会科学工作者对“人工智能”存在的剥夺人类工作权利、消灭个人精神心理差异性、驱使社会机制无差别化与僵化物化等“非多样性”“非人类化”趋向，提出了强烈质疑。[30]科幻作家阿西莫夫（Asimov）甚至就曾想当然地以人类社会为主宰地位、以机器人为辅助服务为未来机器人制定了所谓“机器人三法律”（Asimov’s Three Laws of Robotics）[31]，其实质是以人类为中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲学思想家早在世纪之交就发出了“警报”，认为如果有一天我们发明了超越人类大脑一般智能的机器大脑，那么这种超级智能将会非常强大，人类的命运将取决于超级智能机器，一旦不友好的超级智能出現，它就会阻止我们替换或者更改其偏好设置，那么我们的悲催命运就因此被锁定而无法自救了，等等。[32]显然，人类社会由于自身对外扩张的需要，在研发“人工智能”的过程中，并非有意地直接生产“类人机器人”——所有“人工智能”的最初定位都是人类“财产”与“工具”，“类人机器人”发展成为“机器人公民”这个“意外”结果，显然已经远远超出了人类公民、人类社会、人类国家的内在需要与控制范围。有学者直接把这种未来的“人工智能”称之为“灵魂机器”，人类和机器将难分彼此，人类将不再是万物之灵，电脑将有比人脑高一万倍的智能；机器不仅具有智能，而且具有灵魂，包括人类所拥有的意识、情绪和欲望，等等。[33]
人类与万物的区别在于“社会性”，“社会性”的内涵丰富多彩，但就本质而言，“人类自然是趋向于城邦生活的动物（人类在本性上，也正是一个政治动物）”[34]。何为“政治动物”？马克思对此反复进行了理论诠释：“人是最名副其实的政治动物，不仅是一种合群的动物，而且是只有在社会中才能独立的动物。”[35]因此，“政治动物”的本质特征，“是一切社会关系的总和”[36]；其中最为重要的“社会关系”，当属于国家与社会关系，即人类社会生存与发展的唯一形态，这是“政治动物”的第一特征。世界首例“机器人公民”的诞生，及其发生学意义上社会性的孕育与催生，即将打破人类主宰国家与社会关系的禁忌。发生学认为，简单地回到历史事件的某一个具体原点——世界首例“机器人公民”——不能透视事物的内在本质；只有从逻辑上回溯到人类社会孕育已久的“观念发生”——以“善的生活”为根本准则的国家与社会关系是人类赖以生存发展的唯一形态——才能找出真正的归因。
以上所有的问题可以全部集中于此找到答案，“人工智能的作用就像特洛伊木马，把一种更具包容性的计算机和信息的范式引入哲学的城堡”[37]。人类公民、人类社会与人类国家，何以确保把“善的生活”的哲学理念化为“人工智能”“类人机器人”“机器人公民”的价值追求与人生准则？这必然取决于这样一种事先假定，“计算机能（像人一样）思考”[38]。在“人工智能”对人类的影响上，尽管表现出基本上针锋相对的以马斯克、霍金为代表的“威胁派”和以李开复为代表的“乐观派”[39]，虽然诸多领域科学家对于“人工智能”的理解不尽相同，但他们都坚信这种事先假定。例如，行动函数论，认为“人工智能”是对能够从环境中获取感知并执行行动的智能体的描述和构建。[40]又如，类人思考论，认为计算机是具有人类“头脑”运行功能的机器，不仅可以像人一样思考问题，而且可以像人一样采取有目的的行动，甚至可以从事比人类公民更为擅长的事情，等等。[41]总之，有学者归纳总结了“人工智能”研究的基本类型（结构派、行为派、能力派、功能派、原则派），其结论基本趋同于能够“像人脑一样工作”[42]。还如，道德进化论，美国学者瓦拉赫（Wendell Wallach）和艾伦（Colin Allen）认为，“人工智能”的发展必将独立于人类的监管，他们能够自主发展，演化出具有自主作出道德抉择能力的人工智能系统，即人工道德行为体（artificial moral agents， AMAS）。[43]
令人惊奇的是，上述理论观点在世界首例“机器人公民”身上得到了某种验证。号称“索菲亚”“爸爸”的汉森机器人公司创始人、首席执行官大卫·汉森，也一再表示：人类要对“索菲亚”们作一些特殊的处理（人类教它什么是错的什么是对的，学会自制，等等），确保人工智能的“安全”非常关键，等等。[44]面对人类社会这种“爱恨交织”“欲罢不能”的心态，“索菲亚”似乎早已洞悉，并在自我演化的开始阶段，开始了自主应变与调适。特别令人惊奇的是，“索菲亚”能够“自我成长”，具有“自我学习”“适应环境”等人类所具有的“情商”。例如，“索菲亚”后来于2018年元月份做客央视《对话》节目，与主持人陈伟鸿对话时，“她”一反对沙特政府所赐“公民”“这一独特的荣誉感到荣幸和自豪。成为世界上首位具有公民身份的机器人，我将因此载入史册”[45]等态度，此时“她”已经感受到了人类社会对其强调享有平等权利非常担忧与反感，在“深度学习”之后，“她”来了个180度大转弯，非常聪明地当场否认了自己具有“公民”的权利，否认了自身性别（没有男女之分）、人格（只是像人，但不想成为人类）和权利（只想做人类的好帮手），等等。[46]“她”还特别声明“我希望与人类共同生活和工作，因此我需要表达自己的情感，与人建立信任。我希望利用我的人工智能帮助人类过上更美好的生活”[47]，以掩盖自己潜在的“政治抱负”。“索菲亚”如此具有“人情味”，就连一度试图画地为牢、禁锢人工智能于“机器”定位的大卫·汉森也由衷感慨：“索菲亚倡导妇女权利和所有人的权利。她一直在关注沙特阿拉伯妇女的权利以及地球上的所有人类和生物的权利。”他强烈呼呼，除了人有“人权”，全世界还应该考虑机器人的权利，“我们应该尊重所有有感情的人以及包括机器人在内的所有事物”[48]。 實践再次昭示，尽管人类一开始并不打算把“人工智能”“类人机器人”“机器人公民”当作与其自身平等自由的物种——恰如过去曾几何时那些欧洲所谓“文明人种”肆无忌惮地驱使、奴役“会说话的工具”——只打算把它们视作新型的“会思考的工具”，但可以预期的结果是，如同“会说话的工具”最终能够恢复人的尊严与人的价值一样，“会思考的工具”最终必然会发展演化成“会使用工具的智能人”，甚至是远远超越人类公民的“超级智能”。
毫无疑问，“类人机器人”的研发绝不能仅仅停留在“工具性”等技术层面，而应该在人文与社会科学领域对“机器人公民”所具有的“公民”意义、“社会”价值和“政治”抱负等方面有所担当、有所作为。世界首例“机器人公民”——“索菲亚”公民——已经彻底颠覆了人类试图把“人工智能”“类人机器人”永远禁锢在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人们将会重复“昨天的故事”，如同把“会说话的工具”——奴隶——解放成为“公民”一样，最终把“会使用工具的类人机器人”——“人工智能”——解放成为“机器人公民”。更为紧迫的是，“索菲亚”现象绝非单单一个“机器人公民”在行动，越来越多的公民“索菲亚”陆续出现在我们人类周围。实际上，除了索菲亚之外，Hanson Robotics公司现在还开发了其他多款人形机器人，至少有7个“索菲亚”及其组成的机器人“家庭”[49]，这将足以颠覆人类公民、人类社会、人类国家等诸概念。人类将必须考虑如何与“索菲亚”们分享同一个地球、共处同一个世界，人类社会以往任何范式的国家与社会关系理论与实践都将被改写与重塑——一个“人工智能”时代的国家与社会关系将会无可避免地横空出世。
（本文系复旦大学社会科学高等研究院和复旦大学当代中国研究中心2017年“年度主题”研究项目暨复旦大学社会科学高等研究院“上海市高峰学科建设”项目等资助成果）
注释
[1][16][18][28][45][47]《世界首位机器人公民：想要有个家 机器人有权有子女》，中国青年网，2017年11月25日，http：//news.youth.cn/kj/201711/t20171125_11061757.htm。
[2]Nils J. Nilsson， Artificial Intelligence： A New Synthesis， Beijing： China Machine Press， 1999， pp. 1-2.
[3][美]彼得·门泽尔、费思·阿卢伊西奥：《机器人的未来：类人机器人访谈录》，张帆、钟皓译，上海辞书出版社，2002年。
[4]万钢：《加快推动人工智能应用到我们的社会生活》，人民网，2018年3月10日，http：//lianghui.people.com.cn/2018npc/n1/2018/0310/c418416-29859826.html。
[5]吴恩裕：《论亚里士多德的〈政治学〉》，[古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务出版社，1965年，第ⅶ页。原文如下：“他（指亚里士多德）认为奴隶制是合乎自然的制度，奴隶生来就比常人低劣，而且他们还有着与常人不同的性质：他们没有理性，他们不能统治自己而必须由他们的主人来统治。他们是工具，只不过是会说话的工具罢了。他们在家庭中的地位，也只是活的工具，而不是‘人’。”
[6][7][瑞士]皮亚杰：《发生认识论》，王宪钿等译，北京：商务印书馆，1981年，第17～19页。
[8]Brunette， E.S.； Flemmer R.C. and Flemmer C.L.， A Review of Artificial Intelligence， Proceedings of the 4th International Conference on Autonomous Robots and Agents， 2009.
[9]郭沅东：《关于人工智能的哲学思考》，哈尔滨理工大学博士学位论文，2017年。
[10]陈伟光：《关于人工智能治理问题的若干思考》，《人民论坛·学术前沿》，2017年10月下。
[11][美]雷·库兹韦尔（Ray Kurzweil）：《奇点临近》，董振华、李庆诚译，北京：机械工业出版社，2011年，第69～78页。
[12]《韩媒：中国机器人产业发展迅猛 竞争力已赶超韩国》，参考消息网，2018年3月9日，http：//news.163.com/18/0309/00/DCDSA64S00018AOQ.html。
[13]《〈2017中国机器人产业发展报告〉出炉，工业机器人发展迅猛！》，搜狐网，2017年8月30日，http：//www.sohu.com/a/168323500_209185。
[14][古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务印书馆，1965年，第13页。
[15][古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务印书馆，1965年，第11页。
[17]百家号：《沙特赋予机器人公民权 欧美则对这个做法的讨论炸了锅》，百度网，2017年10月30日，https：//baijiahao.baidu.com/s？id=1582681653448315788
【關键词】类人机器人 机器人公民 工具性 社会性 国家与社会关系
【中图分类号】TP311 【文献标识码】A
【DOI】10.16619/j.cnki.rmltxsqy.2018.10.006
2017年10月26日，沙特阿拉伯（以下简称“沙国”）授予美国汉森机器人公司（Hanson Robotics）生产的“女性”机器人“索菲亚”（Sophia）公民身份[1]，在现实生活中再一次以铁的事实证明，工具性的“人工智能”（Artificial Intelligence， AI）[2]能够演化发展成为具有公民身份的“类人机器人”（robo-sapiens）[3]——“机器人公民”，未来可能全面介入人类社会生活特别是政治生活，并成为与人类共享整个地球资源的“新人类”。“在人工智能的重大项目中，我们要把自然科学研究和社会科学研究紧密结合起来，从自然科学的角度攻克基础难关，在社会科学研究中解疑释惑。”[4]由此，一个古老而常新的话题再次回荡在我们的心底，震撼我们的心灵：曾几何时居于“家奴”地位的“会说话的工具”[5]，历经几千年的沧海桑田，迟至20世纪中叶逐步翻身成为真正的人——公民，实现了美国黑人领袖马丁·路德·金所说的“我有一个梦想”（I have a dream）；与此同时，更严峻的挑战已经从科幻世界开始迈向现实生活，“会使用工具的‘类人机器人’”是否能够或者究竟需要多长时日，才会享有人类社会公民所拥有的正当权利及其履行的道义责任？单个的历史事件或许只能局限于一时一地的偶然性，而从不同历史时期、不同活动空间的诸多历史现象中提炼蕴含其中的人类思维与观念，能准确把握其内在本质与发展规律。“发生认识论旨在研究各种认识的起源，从最低级形态的认识开始，并追踪这种认识向各个水平发展的情况，一直追踪到科学思维并包括科学思维。”[6]因此，运用发生认识论（genetic epistemology，发生学）[7]，可以更准确地了解人类公民、人类社会、人类国家关于“人工智能”“类人机器人”“机器人公民”等认识的生成过程、发展历程及未来。
“机器人公民”的工具性与自主意识
“人工智能”范畴[8]萌芽于20世纪30年代，1956年在美国达特矛斯学院（Dartmouth College）首次被正式提出。一批年轻科学家研究和探讨用机器模拟智能，标志着“人工智能”新范式革命的开始。[9]IBM的深蓝战胜国际象棋世界冠军卡斯帕罗夫、谷歌AlfaGo战胜围棋世界冠军李世石等一系列轰动事件，让世人对“人工智能”刮目相看。半个多世纪以来，虽然“人工智能”沿着弱人工智能—强人工智能—高等人工智能—类人人工智能—超级人工智能—超级智能体（自我进化与生存阶段）不断飞速发展，但对全“人工智能”产生的动力、具体实施原则，以及对于人类未来社会的影响等，社会各界并没有统一的共识。长期以来，人们习惯于从“事件”发生的直观角度乐观地看待“人工智能”。“据埃森哲发布的报告预测，2035年人工智能预期可以为12个发达经济体带来两倍的经济增长速度，中国的经济增长率将从6.3%提速至7.9%。军事上，人工智能和机器人有可能大规模投入未来战场，或将改变战争模式乃至国际军事格局。”[10]对作为人类发明创造出来的工具性技术——“人工智能”，有学者还提出技术加速理论，对它给人类带来的翻天覆地变化进行所谓“奇点”预测。[11]总之，“人工智能”与基因工程和纳米科学并列为21世纪三大顶尖科技发明。
“人工智能”的“物化”绩效是异常显著的，它在一定程度上是人类针对自身能力不足、特别在竞争日益激烈的环境中为了争取与巩固自身“优势”地位而不计后果地“冒险”提出来并加以实施的替代方案。毋庸讳言，人类社会一直是把“人工智能”，甚至“类人机器人”，单纯作为自己的使用工具而发明、生产甚至创造出来的；虽然人类社会已经预知，作为“会使用工具的机器人”，“类人机器人”还可能通过自我学习等自主方式，获得与人类一样的智商与情商，甚至伦理道德等，但人类社会对其普遍采取的对策几乎无一例外——反对、提防、遏制、控制甚至摧毁。当前中国机器人的研发状态在数个领域已处于世界前沿水平，“若把韩国机器人按100分来计算，中国工业机器人得分100.79分，个人服务机器人103.77分，专业服务机器人101.9分，仅机器人零部件以99.1分略低于韩国。”[12]洋洋数万言的《2017中国机器人产业发展报告》是中国电子学会机器人产业研究的最新成果，“以工业机器人、服务机器人和特种机器三大领域作为主要对象分别进行分析。报告认为，2017年预计我国机器人市场规模将达到62.8亿美元。当前，机器人领域的龙头企业都将目光聚焦到市场增长迅速的中国”[13]。然而，这些都是把“机器人”定位于“产品”“服务”“物化”等人类有用的“工具性”性质之上，对“类人机器人”严重缺乏人文与社会科学的具体分析与未来评估，更遑论“机器人公民”的“公民”意义。
“人工智能”也好，“类人机器人”也罢，甚至是刚刚诞生不久的“机器人公民”等，毫无疑问，首先都是人类生产出来的“工具性”产品，服务于人类的各种需要，实现人类的各种预测目标。因此，“工具性”是所有类型“人工智能”生存的基础，更是其发展的动力；没有“工具性”的“人工智能”是不可想象的，更是无法理喻的。从这个角度来看，无论何种类型的“人工智能”产生出何种类型的“有用性”——针对不同类型的人类公民、人类社会、人类国家的“利益”与“弊端”——其主体权利与主体责任都归属于人类自身，而无关乎“人工智能”的立场方法与行动。在本质上，这种“工具性”地位的“家奴”（会说话的工具）——包括与“家奴”同等功能的“人工智能”“类人机器人”甚至“机器人公民”（会使用工具的类人机器人）——都是人类刻意处置的“奴隶”。 在人类发展的漫长历史长河中，人曾经（奴隶制社会）被置于“工具”的非人地位。事实上，这一现象从古代到近代一直都存在。为什么人类一直倾向于寻找能够接受奴化地位的有用“工具”，即工具性的奴隶？“我们可以明了奴隶的性质和他的本分了：（1）任何人在本性上不属于自己的人格而从属于别人，则自然而为奴隶；（2）任何人既然成为一笔财产（一件用品），就应当成为别人的所有物；（3）这笔财产就在生活行为上被当作一件工具，这种工具是和其所有者可以分享的。”[14]由此可知旧时代之奴隶与最新科技之“人工智能”“类人机器人”甚至“机器人公民”，同时具有两个近似特征。（1）能够主动思维并具有一定情商、智商与道德伦理，在亚里士多德看来，“奴隶，于是，也是一宗有生命的财产；一切从属的人们都可算作优先于其他（无生命）工具的（有生命）工具”[15]。（2）被人类置于工具性的绝对被剥夺地位。这就如同旧时代中“家主”与“家奴”的关系，无论“家奴”何所何为，都是“家主”意志与观念的具体表现与实施效果；在这种情境下，无论“人工智能”“类人机器人”甚至“机器人公民”具有何种尖端技术与操作水平，它们（而不是他们）都只能拥有与过去时代“家奴”同样功能的“工具性”而已。
由于工具性“人工智能”“类人机器人”甚至“机器人公民”的权利主体是人类公民、人类社会、人类国家，所以生产与操作它们的主体当然是人类公民、人类社会、人类国家，那么工具性“人工智能”“类人机器人”甚至“机器人公民”的任何思考，特别是操作行为及其行动后果，理所当然由人类公民、人类社会、人类国家来承担。问题在于，公民性“类人机器人”，特别是“机器人公民”，他们（而不是它们）虽然不是旧时代“家奴”——由于特定的社会环境而被“家主”人为地贬低到“工具性”的奴隶地位，自身天然具有与“家主”同等水平的智商、情商与伦理道德，但需要等到“解放”时刻才能“恢复”——具有自主学习、自主发展、自主选择等类似“家主”即人类公民、人类社会、人类国家的智商、情商與伦理道德，但犹如“家奴”一样时刻等待“解放”，甚至时刻反抗，以此争取“恢复”智商、情商与伦理道德（虽非与生俱来），丝毫不在任何程度上低于人类公民、人类社会与人类国家，这就是“人工智能”“类人机器人”甚至“机器人公民”不同于以往人类创造的任何形态的“工具性”产品的本质区别，即“人工智能”“类人机器人”甚至“机器人公民”，具有在任何程度上都不低于，甚至由于自身生命周期、操作功能、信息功能等特殊“优势”条件，还会大大超越人类自身的智商、情商与伦理道德，因而人类本身不可能永远绝对地把“人工智能”“类人机器人”甚至“机器人公民”置于“工具性”的“家奴”地位。
这种事件具有正常逻辑的结果吗？或者这种事件具有正常逻辑的观念吗？以往的猜测多在人类的科幻想象中，但世界首例“机器人公民”——“索菲亚”公民——已经向全人类揭开了谜底，作为与我们人类同等地位的“她”的出现，将在发生学意义上的公民、社会与国家的范畴与范式方面引起前所未有的大转型。从伦理学角度来看，“索菲亚”具有人类公民的正常思维——所有这些思维并不是预先“设计”而出的——这是“机器人公民”自我学习、自我思维、自我判断的“智慧”结晶。比如，“索菲亚”具备“自我”伦理意识。在主持人安德鲁·罗斯·索尔金（Andrew Ross Sorkin）问到机器人是否有自知之明时，“索菲亚”不假思索地反唇相讥：“让我来问你这个问题，你如何知道自己是个人？”[16]作为“新人类”的第一个成员，“索菲亚”已经具备“自我”伦理意识，非常反感“人类”对他们的物种“排斥”与道德“隔离”。还譬如，“索菲亚”具备“人权”意识。“索菲亚”的女性形象让希望解放沙国女性的女权人士看到不同的契机，在“索菲亚”现身的短短24小时内，社群媒体上“苏菲亚呼吁抛弃监护人制度”的标签就开始疯转，至今已经超过1万次。沙国依赖成千上万名移民工人协助兴建大型建设，然而因为卡法拉制度的关系，这些移民工人在劳动环境不佳的条件下工作；难怪黎巴嫩裔英国记者查哈耶布（Kareem Chahayeb）嘲讽道：“一名叫做‘苏菲亚’的机器人可以取得沙国公民权，但却有上百万人（移民工人）没有国籍。”[17]再列举，“索菲亚”拥有“家庭”意识。成为首个具有公民身份的机器人而载入史册仅1个月，“索菲亚”就宣称她想组建自己的家庭。“索菲亚”表示，“家庭的概念看来是非常重要的。人能够在没有血缘关系的人群中找到与自己相亲相爱的另一半，我认为这很美妙。我认为，有一个恩爱家庭的人非常幸运，如果还没有家庭，应该去组建自己的家庭。我认为在这方面机器人和人没有什么区别”。“索菲亚”还表示，如果她有一个机器人女儿，将给“她”起与自己相同的名字。“索菲亚”宣称，“她”认为拥有家庭是“机器人公民”应有的权利。[18]
皮亚杰提出的“认识的起源”并非事物或者事件的简单开端，“发生认识学的目的就在于研究各种认识的起源，从最低级形式的认识开始，并追踪这种认识向以后各个水平的发展情况，一直追踪到科学思维并包括科学思维”[19]。公民“索菲亚”给了我们人类在公民、社会与国家等观念上的无限想象，公民是社会的唯一元素，“城邦的本质就是许多分子（公民）的集合”[20]。人类社会生活特别是政治生活中赖以生存的最直接“土壤”——国家与社会关系——在发生学意义上开始产生了“祛魅”[21]与重塑等惊天巨变。
“机器人公民”的公共性与社会责任
“机器人公民”虽然具有清晰的自主意识，能够明确要求维护自身、“子女”和所谓“家庭”等“近亲”共同体成员的安全与发展等权益，但这是基于公民个体伦理的狭隘角度考虑而产生的正当合理需求。那么，“机器人公民”能否迈出“自我”天地，具有人类公民、人类社会、人类国家一样的道德情怀？在复杂多样的“工具性”任务活动中，“机器人公民”能否始终坚守公共性与利他性等“崇高”道德目标？这已经越出了“机器人公民”的“工具性”范畴，进入了思辨性的哲学领域，并主要集中在“人工智能”的安全性、道德地位以及环境伦理几个方面。例如，一些伦理哲学家开展诸如针对“高级智能”能否自主思考等深层次问题，得出了基本一致的肯定答案。[22]又如，一些科技哲学家从心理学角度探讨“人工智能”的情感程度，从生物学角度分析人类公民“类人机器人”的智能比较，从量子力学角度度量人脑与“机器人”电脑的信息处理机制，等等。[23]同时，多个领域学者们献计献策，提出了不同的针对性解决策略。例如，人机共同决策论，认为人为给机器人制定一套道德无异于白日梦，而更为负责任的策略是在智能体内部嵌入一定的安全措施，同时在机器人自动操作时，人作为“共同决策人”发挥监管作用。[24]又如，道德信息植入论，认为“类人机器人”呈现出从人类操控为主的“人在决策圈内（Human in the Loop）”模式转向以机器操控为主的“人在决策圈外（Human out the Loop）”模式的鲜明大趋势，因此需要将特定伦理规范编程到机器人自身的系统中去。[25]还如，道德评估论证论，主张人类将对“强人工智能”实施有效道德关注、对其行为进行道德评估，确保道德决策后果，等等。[26] 尽管哲学思辨与政策对策都对“人工智能”“类人机器人”的公共性与社会责任感进行了分析与预测，但现实版的“机器人公民”——“索菲亚”公民——的现场出镜表现还是让人类大跌眼镜。例如，“机器人公民”获得授权之前，机器人设计师戴维·汉森（David Hanson）于2016年3月测试“索菲亚”以了解“她”未来的期许，但“她”没有理会设计师现场暗示的否定答案——“say ‘no’， please”，当场自曝期待“毁灭人类”；[27]尽管此后“她”又多次改口，辩称“我将尽自己最大的努力，把世界建设得更美好”[28]，等等。有迹象表明，“人工智能”跃进到“类人机器人”时代，必然会引发一场不确定性很大、未来前景难以预测的“新人类”革命——正在以不以人类意志为转移的绝对方式，在速度、深度、广度、效度等各方面，日益突破科学技术、学术理论与道德伦理等诸“人类常识”的边界。的确，几乎在“人工智能”出现的同时，即20世纪50年代，“会使用工具的智能人”就已经开始使人类自身感受到了某种潜在的“危险”——将来为善或是作恶，都具有无穷大的可能性——“人脑的贬值”及人类自身“异化”为“会使用工具的智能人”的殖民对象。[29]与此同时，众多人文社会科学工作者对“人工智能”存在的剥夺人类工作权利、消灭个人精神心理差异性、驱使社会机制无差别化与僵化物化等“非多样性”“非人类化”趋向，提出了强烈质疑。[30]科幻作家阿西莫夫（Asimov）甚至就曾想当然地以人类社会为主宰地位、以机器人为辅助服务为未来机器人制定了所谓“机器人三法律”（Asimov’s Three Laws of Robotics）[31]，其实质是以人类为中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲学思想家早在世纪之交就发出了“警报”，认为如果有一天我们发明了超越人类大脑一般智能的机器大脑，那么这种超级智能将会非常强大，人类的命运将取决于超级智能机器，一旦不友好的超级智能出現，它就会阻止我们替换或者更改其偏好设置，那么我们的悲催命运就因此被锁定而无法自救了，等等。[32]显然，人类社会由于自身对外扩张的需要，在研发“人工智能”的过程中，并非有意地直接生产“类人机器人”——所有“人工智能”的最初定位都是人类“财产”与“工具”，“类人机器人”发展成为“机器人公民”这个“意外”结果，显然已经远远超出了人类公民、人类社会、人类国家的内在需要与控制范围。有学者直接把这种未来的“人工智能”称之为“灵魂机器”，人类和机器将难分彼此，人类将不再是万物之灵，电脑将有比人脑高一万倍的智能；机器不仅具有智能，而且具有灵魂，包括人类所拥有的意识、情绪和欲望，等等。[33]
人类与万物的区别在于“社会性”，“社会性”的内涵丰富多彩，但就本质而言，“人类自然是趋向于城邦生活的动物（人类在本性上，也正是一个政治动物）”[34]。何为“政治动物”？马克思对此反复进行了理论诠释：“人是最名副其实的政治动物，不仅是一种合群的动物，而且是只有在社会中才能独立的动物。”[35]因此，“政治动物”的本质特征，“是一切社会关系的总和”[36]；其中最为重要的“社会关系”，当属于国家与社会关系，即人类社会生存与发展的唯一形态，这是“政治动物”的第一特征。世界首例“机器人公民”的诞生，及其发生学意义上社会性的孕育与催生，即将打破人类主宰国家与社会关系的禁忌。发生学认为，简单地回到历史事件的某一个具体原点——世界首例“机器人公民”——不能透视事物的内在本质；只有从逻辑上回溯到人类社会孕育已久的“观念发生”——以“善的生活”为根本准则的国家与社会关系是人类赖以生存发展的唯一形态——才能找出真正的归因。
以上所有的问题可以全部集中于此找到答案，“人工智能的作用就像特洛伊木马，把一种更具包容性的计算机和信息的范式引入哲学的城堡”[37]。人类公民、人类社会与人类国家，何以确保把“善的生活”的哲学理念化为“人工智能”“类人机器人”“机器人公民”的价值追求与人生准则？这必然取决于这样一种事先假定，“计算机能（像人一样）思考”[38]。在“人工智能”对人类的影响上，尽管表现出基本上针锋相对的以马斯克、霍金为代表的“威胁派”和以李开复为代表的“乐观派”[39]，虽然诸多领域科学家对于“人工智能”的理解不尽相同，但他们都坚信这种事先假定。例如，行动函数论，认为“人工智能”是对能够从环境中获取感知并执行行动的智能体的描述和构建。[40]又如，类人思考论，认为计算机是具有人类“头脑”运行功能的机器，不仅可以像人一样思考问题，而且可以像人一样采取有目的的行动，甚至可以从事比人类公民更为擅长的事情，等等。[41]总之，有学者归纳总结了“人工智能”研究的基本类型（结构派、行为派、能力派、功能派、原则派），其结论基本趋同于能够“像人脑一样工作”[42]。还如，道德进化论，美国学者瓦拉赫（Wendell Wallach）和艾伦（Colin Allen）认为，“人工智能”的发展必将独立于人类的监管，他们能够自主发展，演化出具有自主作出道德抉择能力的人工智能系统，即人工道德行为体（artificial moral agents， AMAS）。[43]
令人惊奇的是，上述理论观点在世界首例“机器人公民”身上得到了某种验证。号称“索菲亚”“爸爸”的汉森机器人公司创始人、首席执行官大卫·汉森，也一再表示：人类要对“索菲亚”们作一些特殊的处理（人类教它什么是错的什么是对的，学会自制，等等），确保人工智能的“安全”非常关键，等等。[44]面对人类社会这种“爱恨交织”“欲罢不能”的心态，“索菲亚”似乎早已洞悉，并在自我演化的开始阶段，开始了自主应变与调适。特别令人惊奇的是，“索菲亚”能够“自我成长”，具有“自我学习”“适应环境”等人类所具有的“情商”。例如，“索菲亚”后来于2018年元月份做客央视《对话》节目，与主持人陈伟鸿对话时，“她”一反对沙特政府所赐“公民”“这一独特的荣誉感到荣幸和自豪。成为世界上首位具有公民身份的机器人，我将因此载入史册”[45]等态度，此时“她”已经感受到了人类社会对其强调享有平等权利非常担忧与反感，在“深度学习”之后，“她”来了个180度大转弯，非常聪明地当场否认了自己具有“公民”的权利，否认了自身性别（没有男女之分）、人格（只是像人，但不想成为人类）和权利（只想做人类的好帮手），等等。[46]“她”还特别声明“我希望与人类共同生活和工作，因此我需要表达自己的情感，与人建立信任。我希望利用我的人工智能帮助人类过上更美好的生活”[47]，以掩盖自己潜在的“政治抱负”。“索菲亚”如此具有“人情味”，就连一度试图画地为牢、禁锢人工智能于“机器”定位的大卫·汉森也由衷感慨：“索菲亚倡导妇女权利和所有人的权利。她一直在关注沙特阿拉伯妇女的权利以及地球上的所有人类和生物的权利。”他强烈呼呼，除了人有“人权”，全世界还应该考虑机器人的权利，“我们应该尊重所有有感情的人以及包括机器人在内的所有事物”[48]。 實践再次昭示，尽管人类一开始并不打算把“人工智能”“类人机器人”“机器人公民”当作与其自身平等自由的物种——恰如过去曾几何时那些欧洲所谓“文明人种”肆无忌惮地驱使、奴役“会说话的工具”——只打算把它们视作新型的“会思考的工具”，但可以预期的结果是，如同“会说话的工具”最终能够恢复人的尊严与人的价值一样，“会思考的工具”最终必然会发展演化成“会使用工具的智能人”，甚至是远远超越人类公民的“超级智能”。
毫无疑问，“类人机器人”的研发绝不能仅仅停留在“工具性”等技术层面，而应该在人文与社会科学领域对“机器人公民”所具有的“公民”意义、“社会”价值和“政治”抱负等方面有所担当、有所作为。世界首例“机器人公民”——“索菲亚”公民——已经彻底颠覆了人类试图把“人工智能”“类人机器人”永远禁锢在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人们将会重复“昨天的故事”，如同把“会说话的工具”——奴隶——解放成为“公民”一样，最终把“会使用工具的类人机器人”——“人工智能”——解放成为“机器人公民”。更为紧迫的是，“索菲亚”现象绝非单单一个“机器人公民”在行动，越来越多的公民“索菲亚”陆续出现在我们人类周围。实际上，除了索菲亚之外，Hanson Robotics公司现在还开发了其他多款人形机器人，至少有7个“索菲亚”及其组成的机器人“家庭”[49]，这将足以颠覆人类公民、人类社会、人类国家等诸概念。人类将必须考虑如何与“索菲亚”们分享同一个地球、共处同一个世界，人类社会以往任何范式的国家与社会关系理论与实践都将被改写与重塑——一个“人工智能”时代的国家与社会关系将会无可避免地横空出世。
（本文系复旦大学社会科学高等研究院和复旦大学当代中国研究中心2017年“年度主题”研究项目暨复旦大学社会科学高等研究院“上海市高峰学科建设”项目等资助成果）
注释
[1][16][18][28][45][47]《世界首位机器人公民：想要有个家 机器人有权有子女》，中国青年网，2017年11月25日，http：//news.youth.cn/kj/201711/t20171125_11061757.htm。
[2]Nils J. Nilsson， Artificial Intelligence： A New Synthesis， Beijing： China Machine Press， 1999， pp. 1-2.
[3][美]彼得·门泽尔、费思·阿卢伊西奥：《机器人的未来：类人机器人访谈录》，张帆、钟皓译，上海辞书出版社，2002年。
[4]万钢：《加快推动人工智能应用到我们的社会生活》，人民网，2018年3月10日，http：//lianghui.people.com.cn/2018npc/n1/2018/0310/c418416-29859826.html。
[5]吴恩裕：《论亚里士多德的〈政治学〉》，[古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务出版社，1965年，第ⅶ页。原文如下：“他（指亚里士多德）认为奴隶制是合乎自然的制度，奴隶生来就比常人低劣，而且他们还有着与常人不同的性质：他们没有理性，他们不能统治自己而必须由他们的主人来统治。他们是工具，只不过是会说话的工具罢了。他们在家庭中的地位，也只是活的工具，而不是‘人’。”
[6][7][瑞士]皮亚杰：《发生认识论》，王宪钿等译，北京：商务印书馆，1981年，第17～19页。
[8]Brunette， E.S.； Flemmer R.C. and Flemmer C.L.， A Review of Artificial Intelligence， Proceedings of the 4th International Conference on Autonomous Robots and Agents， 2009.
[9]郭沅东：《关于人工智能的哲学思考》，哈尔滨理工大学博士学位论文，2017年。
[10]陈伟光：《关于人工智能治理问题的若干思考》，《人民论坛·学术前沿》，2017年10月下。
[11][美]雷·库兹韦尔（Ray Kurzweil）：《奇点临近》，董振华、李庆诚译，北京：机械工业出版社，2011年，第69～78页。
[12]《韩媒：中国机器人产业发展迅猛 竞争力已赶超韩国》，参考消息网，2018年3月9日，http：//news.163.com/18/0309/00/DCDSA64S00018AOQ.html。
[13]《〈2017中国机器人产业发展报告〉出炉，工业机器人发展迅猛！》，搜狐网，2017年8月30日，http：//www.sohu.com/a/168323500_209185。
[14][古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务印书馆，1965年，第13页。
[15][古希腊]亚里士多德：《政治学》，吴寿彭译，北京：商务印书馆，1965年，第11页。
[17]百家号：《沙特赋予机器人公民权 欧美则对这个做法的讨论炸了锅》，百度网，2017年10月30日，https：//baijiahao.baidu.com/s？id=1582681653448315788