论文部分内容阅读
摘 要 人工智能极速发展在各个领域大展拳脚，但在我国的法律规范中，人工智能的法律人格规范尚未确定，导致社会生活中中人工智能带来的伦理道德、个人数据隐私安全以及侵权责任承担主体责任不明等问题的出现。虽目前属于弱人工智能阶段，但是法律的作用在于防范于未然。为规避日后人工智能做出独立的意思表示，应当赋予其人格，将法律规范和伦理道德结合，并设立人工智能法律代理人，建立健全智能监管体系，使人工智能在法律框架内运作。
关键词：人工智能;法律人格;监管
引言
2016年3月15日，“第一旗手”（AlphaGo）战胜韩国围棋高手李世石预示着以AlphaGo为代表的人工智能已经战胜人脑的智慧，因此不仅在围棋界引起了极大的关注，并且吸引了全世界人们的目光。一方面由于其电子化的操作代替人类大部分机械性的工作，带来社会高效率的运行。但另一方面，德国大众汽车制造厂的工人在调试汽车时被机器人碾压在金属板上致死的“机器人杀人”事件以及Google无人驾驶汽车与本田汽车相撞的交通事故事件使学者不得不思考人工智能快速发展带来的法律责任的承担问题。人工智能的未来发展方向归根结底在于人类自身，机器人终究属于人类为了自身而设计和制造出来的。
一、人工智能的法律人格定位缺失
（一）交通事故、产品质量等侵权案件发生时，责任承担主体不明
人工智能应用广泛，快速侵占诸如医疗中的精密仪器、汽车中的无人驾驶等高科技领域。将包含人工智能的产品投入到市场，由此发生侵权责任事故时，责任由谁承担？2017年百度李彦宏乘坐自动驾驶汽车试驾时，交警认为其“违法”，因为我国法律规定，机动车上路司机需要驾驶证件等，但是该车辆属于无人驾驶，不具备相关条件。虽然李彦宏所乘坐车辆未发生交通事故，但是法律制定的目的不仅仅在于事后的补救，更在于防患于而然。若由于无人驾驶发生事故时，我国尚无相关规定，责任应归属于车辆的所有者还是人工智能的开发者？抑或是乘车人？责任承担主体不明导致受害人不能获得良好的救济。
（二）大规模数据的运用，个人隐私的保护更加无力
数据时信息时代发展的重要基础源泉，谁掌握了更多的数据谁就是信息时代的赢家。人工智能掌握了大量的数据，能够运用数据进行高效的分析，并得出最有效的处理办法使得现在成为了人工智能运用的社会。然而也正是由于人工智能对数据运用方面存在天然的依赖性，丧失大规模数据的储存，人工智能也便无用武之地。个人隐私恰恰是和数据有最密切关系的一个重要方面，一旦数据被任意使用或者储存数据的电子平台遭到破坏，则人们的隐私保护岌岌可危。
（三）伦理界限模糊
如20世纪90年代克隆技术的成功引发的伦理争议一样，人工智能的运用势必会引发伦理界限的研究。机器人作为人工智能产品中最智能的代表，自2013年发生多起事件，如奥地利清洁机器人Roomba“自杀案”、日本保姆机器人ROBEAR引发的人类对机器人的依赖事件，这些事件背后隐含的伦理道德引起社会的关注。机器人是“人”还是“机器”，以机器人为代表的人工智能是否应当具有人的伦理道德，人工智能发展的价值定位为何等一系列问题尚待探讨。
法律对世间万物进行规范的主要依据之一便是该物体属于法律的约束范畴，具备受法律约束的要件。人工智能是否享有法律主体地位决定了法律的规定能否适用于人工智能，其规定的权利义务的享受和承担能否对人工智能具有约束效力。研究人工智能的法律主体地位能够为责任义务的承担明确主体性条件，并平衡各个主体之间的责任承担。
二、人工智能享有有限的法律人格
法律人格是作为法律关系的主体，有权行使法律规定的义务并承担法律施加的义务的条件，法律人格要求具备两个条件：具有独立决定自己意志的能力。是否能够独立决定自己的自由意志，确定了该主体是其他主体的工具还是具有独立的意识，法律的规范性要求均为针对具有自主意识的主体，不具有自主意识的主体，不是法律规范的主体，因此也就不具有法律人格。二是法律的确认。在人工智能高度发达的时代，权利意识将觉醒于机器人体内。[2]人工智能发展具有三个阶段，目前的人工智能尚处于弱人工智能阶段，其运行受到算法的规范，目前的机器人均是按照事先输入的算法程序运作，但是当发展到高人工智能阶段时，人工智能能够灵活运用程序员输入的数据和操作路径，行为时选择最优的方式，为平衡各个方面的利弊，人工智能的权利意识可能觉醒，人类应当在以机器人为代表的人工智能的权利意识觉醒之前，发挥法律的规范和指引作用。
（一）人工智能能够决定自己的意志
首先，人工智能能够独立作出意思表示。在人工智能的三个阶段中，人工智能运用程序员输入的算法程序，综合确定最优路径，依大量的基础数据为依托，以其自主意识作出意思表示，帕罗作为日本颇受欢迎的宠物机器人，在2010年11月7日获得了日本户籍，意味着日本政府在一定程度上承认了宠物机器人的法律主体地位。[3]其次，人工智能拥有权利能力。我国现在的法律体系中，未对人工智能的法律主体资格予以确认，但是法律主体的范围并非不可变。从世界范围中觀察权利主体的变化历程，可以发现中奴隶、妇女享有选举权、黑人享有选举权、动物享有权利、法人的主体资格均是法律主体体系不断变化的表现。公司法人作为没有生命的客体，由于社会发展的需要而赋予其法律主体资格，因此由于人工智能在社会发展中引发的一系列问题以及所起到的作用也应当被赋予行使权利的能力。西方哲学界认为技术发展到一定程度后必然会有精神，如果技术发展更加智慧，它就会像大脑成为精神的更好载体。最后，人工智能有责任承担义务。人工智能非依靠其设计人或者制作人而独立作出意思表示后，按照“责任自负”的原则，人工智能带来的法律责任不应当由他人承担。
（二）人工智能的主体资格应当在法律体系中规定
权利的发展阶段是社会生产力生产的结果。法律体系中的权利必须体现社会习惯以及社会的需要程序，而非强制改变社会的习惯，更不能仅依靠法学家在象牙塔中的设想随意创造。人工智能快速运用在各个领域并大展拳脚的情况下，在法律体系中确定人工智能的法律主体资格，不仅是社会习惯的表现，更体现了社会的需要，也将有效地减少因无法律规范人工智能的行为责任所产生的伦理冲突。在弱人工智能阶段中，人工智能作出的法律行为已经引起了社会的关注和法学学者的探讨，同时，由于人工智能发展的前提是数据的存在，人工智能拥有的权利会涉及到数据的保密以及数据的运用，因此人工智能具体拥有的权利可能和目前社会主体拥有的权利有所差别。 三、规制人工智能的法律主体地位
虽然人工智能已经历了数十年的发展，但其在法律领域的应用还处于初级阶段，单从技术层面来说，人工智能在搜索、咨询甚至是对结果的预测分析方面，发挥着越来越重要的作用。关于人工智能的使用、法律责任及未来的发展还存在诸多争议。为进一步规范人工智能在法律中的地位以及运用法律解决人工智能发展中的问题，笔者建议从以下几个角度规范人工智能的法律地位。
（一）法律规范和人工智能伦理规范的衔接
阿西莫夫提出了机器人三大定律，作为研究人工智能的伦理原则。[6]虽然机器人三大定律是由科幻小说展现给世界的，但是在现实的伦理世界仍然具有适用的空间：机器人在尊重和服从人类命令的基础上，可以为保护自己启动自身的智能保护启动。在大力加快人工智能发展的同时，人类尚需对其伦理和道德符合人类价值观的规制和约束。规范人工智能适用的一般伦理道德时，应当主要考虑人权、人类利益第一、削弱人工智能的风险。中国社会科学院段伟文也提出机器人不可能比人更有道德，并提出将伦理原则嵌入在智能机器设计之中。[8]将法律的基本原则和人工智能伦理规范相互衔接一方面能够为人工智能后续发展提供法律上适用的空间，同时也能降低人科技发展与伦理道德的碰撞。
（二）设立人工智能法律代理人
所谓法律代理人，是指中级人工智能在实施生活行为及法律行为时，辅助人工智能了解该行为的作用及法律后果，并在人工智能卷入诉讼程序时，作为人工智能的代理人，代为进行诉讼行为的主体。人工智能虽能够决定自己的意志，但是在中级人工智能阶段，由于其依托的基础数据尚不健全，无法对发生的所有事情作出适合的判断，建立人工智能法律代理人制度，能够避免人工智能因不了解其所实施行为的法律后果的出现。法律代理人与诉讼代理人和法定代理人最大的不同点在于，诉讼代理人的确定需要经过一系列的授权委托手续、法定代理人则只针对未成年人进行代理，法律代理人的确定不需要经过法律确定的手续，但是需要程序设计者在设计出人工智能时，在人工智能系统内确定该人工智能的法律代理人，辅助人工智能实施行为。
中级阶段的人工智能具有独立的意识能够自主实施行为，但是对于超过其理解范畴的内容，仍需要法律代理人的帮助。法律代理人的作用类似于法定代理人，能够代理仅具有有限法律人格的人工智能实施诉讼行为，和超出人工智能决定范围的社会行为。
（三）加大监管力度，建立监管体系
信息时代，人类的发展轨迹均可以通过数据的方式体现，也因此都在人工智能的控制范围中。作为对社会发展有重大影响的人工智能领域，政府监管的介入，可以将人工智能在社会生活领域的运用控制在一定的范围内，并随着科技的发展以及法律的完善而逐渐推进人工智能的有序进行。
人工智能的监管工作不是某个部门可以独立完成的，需要各个机关之间的配合。因此可以根据不同的责任分担情形，形成人工智能监管的框架。立法、执法、司法在各自的权限范围内实施对人工智能的监管。首先人工智能的开发和投入到市场中，需要经过严格的审批程序，因此在立法阶段，立法者可以将人工智能需要经过的程序以立法的形式予以严格的限制;其次，在开发和投入市场的过程中，行政执行机关严格按照相关法律文件的规定予以监管。最后，在人工智能使用过程中，产生的一系列侵权责任则由司法机关以诉讼的方式予以解决。建立全方位的监管系统可促进人工智能的良好运行，最大程度降低人工智能带来的威胁。
参考文献
[1]黃江，张春晏.人工智能的未来之路——普利策奖得主约翰·马尔科夫专访[J].清华管理评论，2016（1）：21-28.
[2]Mcnally P，Inayatullay S，邵水浩.机器人的权利——二十一世纪的技术、文化和法律（上）[J].世界科学，1989（6）.47-50
[3]谢晖.论新型权利生成的习惯基础[J].法商研究，2015（1）：44-53.
[4]袁曾.人工智能有限法律人格审视[J].东方法学，2017（5）.50-57
[5]齐鲲鹏."2017′人工智能：技术、伦理与法律"研讨会在京召开[J].科学与社会，2017（2）.124
作者简介：
蒋士红，1996-10，女，汉族，安徽阜阳，硕士，研究方向：司法制度、诉讼制度。
（作者单位：华东政法大学 法律学院 诉讼法专业）
关键词：人工智能;法律人格;监管
引言
2016年3月15日，“第一旗手”（AlphaGo）战胜韩国围棋高手李世石预示着以AlphaGo为代表的人工智能已经战胜人脑的智慧，因此不仅在围棋界引起了极大的关注，并且吸引了全世界人们的目光。一方面由于其电子化的操作代替人类大部分机械性的工作，带来社会高效率的运行。但另一方面，德国大众汽车制造厂的工人在调试汽车时被机器人碾压在金属板上致死的“机器人杀人”事件以及Google无人驾驶汽车与本田汽车相撞的交通事故事件使学者不得不思考人工智能快速发展带来的法律责任的承担问题。人工智能的未来发展方向归根结底在于人类自身，机器人终究属于人类为了自身而设计和制造出来的。
一、人工智能的法律人格定位缺失
（一）交通事故、产品质量等侵权案件发生时，责任承担主体不明
人工智能应用广泛，快速侵占诸如医疗中的精密仪器、汽车中的无人驾驶等高科技领域。将包含人工智能的产品投入到市场，由此发生侵权责任事故时，责任由谁承担？2017年百度李彦宏乘坐自动驾驶汽车试驾时，交警认为其“违法”，因为我国法律规定，机动车上路司机需要驾驶证件等，但是该车辆属于无人驾驶，不具备相关条件。虽然李彦宏所乘坐车辆未发生交通事故，但是法律制定的目的不仅仅在于事后的补救，更在于防患于而然。若由于无人驾驶发生事故时，我国尚无相关规定，责任应归属于车辆的所有者还是人工智能的开发者？抑或是乘车人？责任承担主体不明导致受害人不能获得良好的救济。
（二）大规模数据的运用，个人隐私的保护更加无力
数据时信息时代发展的重要基础源泉，谁掌握了更多的数据谁就是信息时代的赢家。人工智能掌握了大量的数据，能够运用数据进行高效的分析，并得出最有效的处理办法使得现在成为了人工智能运用的社会。然而也正是由于人工智能对数据运用方面存在天然的依赖性，丧失大规模数据的储存，人工智能也便无用武之地。个人隐私恰恰是和数据有最密切关系的一个重要方面，一旦数据被任意使用或者储存数据的电子平台遭到破坏，则人们的隐私保护岌岌可危。
（三）伦理界限模糊
如20世纪90年代克隆技术的成功引发的伦理争议一样，人工智能的运用势必会引发伦理界限的研究。机器人作为人工智能产品中最智能的代表，自2013年发生多起事件，如奥地利清洁机器人Roomba“自杀案”、日本保姆机器人ROBEAR引发的人类对机器人的依赖事件，这些事件背后隐含的伦理道德引起社会的关注。机器人是“人”还是“机器”，以机器人为代表的人工智能是否应当具有人的伦理道德，人工智能发展的价值定位为何等一系列问题尚待探讨。
法律对世间万物进行规范的主要依据之一便是该物体属于法律的约束范畴，具备受法律约束的要件。人工智能是否享有法律主体地位决定了法律的规定能否适用于人工智能，其规定的权利义务的享受和承担能否对人工智能具有约束效力。研究人工智能的法律主体地位能够为责任义务的承担明确主体性条件，并平衡各个主体之间的责任承担。
二、人工智能享有有限的法律人格
法律人格是作为法律关系的主体，有权行使法律规定的义务并承担法律施加的义务的条件，法律人格要求具备两个条件：具有独立决定自己意志的能力。是否能够独立决定自己的自由意志，确定了该主体是其他主体的工具还是具有独立的意识，法律的规范性要求均为针对具有自主意识的主体，不具有自主意识的主体，不是法律规范的主体，因此也就不具有法律人格。二是法律的确认。在人工智能高度发达的时代，权利意识将觉醒于机器人体内。[2]人工智能发展具有三个阶段，目前的人工智能尚处于弱人工智能阶段，其运行受到算法的规范，目前的机器人均是按照事先输入的算法程序运作，但是当发展到高人工智能阶段时，人工智能能够灵活运用程序员输入的数据和操作路径，行为时选择最优的方式，为平衡各个方面的利弊，人工智能的权利意识可能觉醒，人类应当在以机器人为代表的人工智能的权利意识觉醒之前，发挥法律的规范和指引作用。
（一）人工智能能够决定自己的意志
首先，人工智能能够独立作出意思表示。在人工智能的三个阶段中，人工智能运用程序员输入的算法程序，综合确定最优路径，依大量的基础数据为依托，以其自主意识作出意思表示，帕罗作为日本颇受欢迎的宠物机器人，在2010年11月7日获得了日本户籍，意味着日本政府在一定程度上承认了宠物机器人的法律主体地位。[3]其次，人工智能拥有权利能力。我国现在的法律体系中，未对人工智能的法律主体资格予以确认，但是法律主体的范围并非不可变。从世界范围中觀察权利主体的变化历程，可以发现中奴隶、妇女享有选举权、黑人享有选举权、动物享有权利、法人的主体资格均是法律主体体系不断变化的表现。公司法人作为没有生命的客体，由于社会发展的需要而赋予其法律主体资格，因此由于人工智能在社会发展中引发的一系列问题以及所起到的作用也应当被赋予行使权利的能力。西方哲学界认为技术发展到一定程度后必然会有精神，如果技术发展更加智慧，它就会像大脑成为精神的更好载体。最后，人工智能有责任承担义务。人工智能非依靠其设计人或者制作人而独立作出意思表示后，按照“责任自负”的原则，人工智能带来的法律责任不应当由他人承担。
（二）人工智能的主体资格应当在法律体系中规定
权利的发展阶段是社会生产力生产的结果。法律体系中的权利必须体现社会习惯以及社会的需要程序，而非强制改变社会的习惯，更不能仅依靠法学家在象牙塔中的设想随意创造。人工智能快速运用在各个领域并大展拳脚的情况下，在法律体系中确定人工智能的法律主体资格，不仅是社会习惯的表现，更体现了社会的需要，也将有效地减少因无法律规范人工智能的行为责任所产生的伦理冲突。在弱人工智能阶段中，人工智能作出的法律行为已经引起了社会的关注和法学学者的探讨，同时，由于人工智能发展的前提是数据的存在，人工智能拥有的权利会涉及到数据的保密以及数据的运用，因此人工智能具体拥有的权利可能和目前社会主体拥有的权利有所差别。 三、规制人工智能的法律主体地位
虽然人工智能已经历了数十年的发展，但其在法律领域的应用还处于初级阶段，单从技术层面来说，人工智能在搜索、咨询甚至是对结果的预测分析方面，发挥着越来越重要的作用。关于人工智能的使用、法律责任及未来的发展还存在诸多争议。为进一步规范人工智能在法律中的地位以及运用法律解决人工智能发展中的问题，笔者建议从以下几个角度规范人工智能的法律地位。
（一）法律规范和人工智能伦理规范的衔接
阿西莫夫提出了机器人三大定律，作为研究人工智能的伦理原则。[6]虽然机器人三大定律是由科幻小说展现给世界的，但是在现实的伦理世界仍然具有适用的空间：机器人在尊重和服从人类命令的基础上，可以为保护自己启动自身的智能保护启动。在大力加快人工智能发展的同时，人类尚需对其伦理和道德符合人类价值观的规制和约束。规范人工智能适用的一般伦理道德时，应当主要考虑人权、人类利益第一、削弱人工智能的风险。中国社会科学院段伟文也提出机器人不可能比人更有道德，并提出将伦理原则嵌入在智能机器设计之中。[8]将法律的基本原则和人工智能伦理规范相互衔接一方面能够为人工智能后续发展提供法律上适用的空间，同时也能降低人科技发展与伦理道德的碰撞。
（二）设立人工智能法律代理人
所谓法律代理人，是指中级人工智能在实施生活行为及法律行为时，辅助人工智能了解该行为的作用及法律后果，并在人工智能卷入诉讼程序时，作为人工智能的代理人，代为进行诉讼行为的主体。人工智能虽能够决定自己的意志，但是在中级人工智能阶段，由于其依托的基础数据尚不健全，无法对发生的所有事情作出适合的判断，建立人工智能法律代理人制度，能够避免人工智能因不了解其所实施行为的法律后果的出现。法律代理人与诉讼代理人和法定代理人最大的不同点在于，诉讼代理人的确定需要经过一系列的授权委托手续、法定代理人则只针对未成年人进行代理，法律代理人的确定不需要经过法律确定的手续，但是需要程序设计者在设计出人工智能时，在人工智能系统内确定该人工智能的法律代理人，辅助人工智能实施行为。
中级阶段的人工智能具有独立的意识能够自主实施行为，但是对于超过其理解范畴的内容，仍需要法律代理人的帮助。法律代理人的作用类似于法定代理人，能够代理仅具有有限法律人格的人工智能实施诉讼行为，和超出人工智能决定范围的社会行为。
（三）加大监管力度，建立监管体系
信息时代，人类的发展轨迹均可以通过数据的方式体现，也因此都在人工智能的控制范围中。作为对社会发展有重大影响的人工智能领域，政府监管的介入，可以将人工智能在社会生活领域的运用控制在一定的范围内，并随着科技的发展以及法律的完善而逐渐推进人工智能的有序进行。
人工智能的监管工作不是某个部门可以独立完成的，需要各个机关之间的配合。因此可以根据不同的责任分担情形，形成人工智能监管的框架。立法、执法、司法在各自的权限范围内实施对人工智能的监管。首先人工智能的开发和投入到市场中，需要经过严格的审批程序，因此在立法阶段，立法者可以将人工智能需要经过的程序以立法的形式予以严格的限制;其次，在开发和投入市场的过程中，行政执行机关严格按照相关法律文件的规定予以监管。最后，在人工智能使用过程中，产生的一系列侵权责任则由司法机关以诉讼的方式予以解决。建立全方位的监管系统可促进人工智能的良好运行，最大程度降低人工智能带来的威胁。
参考文献
[1]黃江，张春晏.人工智能的未来之路——普利策奖得主约翰·马尔科夫专访[J].清华管理评论，2016（1）：21-28.
[2]Mcnally P，Inayatullay S，邵水浩.机器人的权利——二十一世纪的技术、文化和法律（上）[J].世界科学，1989（6）.47-50
[3]谢晖.论新型权利生成的习惯基础[J].法商研究，2015（1）：44-53.
[4]袁曾.人工智能有限法律人格审视[J].东方法学，2017（5）.50-57
[5]齐鲲鹏."2017′人工智能：技术、伦理与法律"研讨会在京召开[J].科学与社会，2017（2）.124
作者简介：
蒋士红，1996-10，女，汉族，安徽阜阳，硕士，研究方向：司法制度、诉讼制度。
（作者单位：华东政法大学 法律学院 诉讼法专业）