论文部分内容阅读
摘 要：人工智能是近来研究热点。分别在人工智能界别、角色、赋予人以及制度等方面重点探讨其可能的情感约束作用，以期达到人工智能技术在很好的发展的同时，不至于因为“情感泛滥”而引发一些严重地后果的目的。
关键词：人工智能 情感 约束
中图分类号：TP18 文献标识码：A 文章编号：1007-3973（2013）001-085-03
1引言
人工智能（Artificial Intelligence，AI）自从20世纪50年代产生，经过长期发展，已经有了长足的进步，并且已经深入到社会生活的诸多领域，如语言处理、智能数据检索系统、视觉系统、自动定理证明、智能计算、问题求解、人工智能程序语言以及自动程序设计等。随着科学技术的不断发展，现在的人工智能已经不再是仅仅具有简单的模仿与逻辑思维能力，人们也越来越期待人工智能能够帮助或者替代人类从事各种复杂的工作，加强人的思维功能、行为功能或是感知功能。这就要求人工智能具有更强的情感识别、情感表达以及情感理解能力。通俗的说，为了使得人工智能对外界的变化适应性更强，需要给它们赋予相应的情感从而能够应对这个难以预测的世界。
在赋予人工智能“情感”的过程中，面临着许多的问题，有科技层面上的，也有社会学层面的。本文在这里只讨论其中一个比较基本的社会学问题：“人工智能情感约束问题”，即关注于如何约束赋予给人工智能的情感，不至于使其“情感泛滥”。情感指的是一种特殊的思维方式，人工智能具有了情感后的问题是：人工智能的情感是人类赋予的，人工智能自身并不会创造或者控制自己的情感。如果赋予人工智能的情感种类不合理，或者是赋予的情感程度不恰当，都有可能造成“情感泛滥”并导致一些灾难性的后果。例如，当人工智能具有了情感之后，如果人类自身管理不恰当，有可能导致人工智能反过来伤害人类。尽管目前我们只能在一些科幻作品中看到这种情况发生，但谁也不能保证未来有一天会不会真的出现这种悲剧。
本文第二章对人工智能情感研究进行了概要性回顾，第三章对如何约束人工智能情感进行了尝试性探讨，最后一章对全文进行了总结。
2人工情感发展情况概述
随着科学家对人类大脑及精神系统深入的研究，已经愈来愈肯定情感是智能的一部分。人工情感是以人类自然情感理论为基础，结合人工智能、机器人学等学科，对人类情感过程进行建模，以期获得用单纯理性思维难以达到的智能水平和自主性的一种研究方向。目前，研究者的研究方向主要是人工情感建模、自然情感机器识别与表达、人工情感机理等四个方面的内容。其中，尤以人工情感机理的研究困难最大，研究者也最少。
目前人工情感在很多领域得到了应用和发展，比较典型的是在教育教学、保健护理、家庭助理、服务等行业领域。在教育教学方面比较典型的例子是德国人工智能研究中心发展的三个方案：在虚拟剧场、虚拟市场和对话Agent中引入情感模型和个性特征来帮助开发儿童的想象力及创造力。在保健护理方面比较典型的是家庭保健与护理方向，如Lisetti等人研制的一个用于远程家庭保健的智能情感界面，用多模态情感识别手段来识别病人的情感状态，并输入不同媒体和编码模型进行处理，从而为医生提供关于病人简明而有价值的情感信息以便于进行有效的护理。服务型机器人的典型例子是卡内基梅隆大学发明的一个机器人接待员Valerie。Valerie的面孔形象的出现在一个能够转动方向的移动屏幕上时可以向访问者提供一些天气和方位方面的信息，还可以接电话、解答一些问题；并且Valerie有自己的性格和爱好，情感表达较为丰富。当然这些只是人工情感应用领域中的几个典型的例子，人工智能情感的潜力仍然是巨大的。
尽管关于人工情感的研究已经取得了一定的成果，给我们带来了很多惊喜和利益，但由于情绪表现出的无限纷繁以及它与行为之间的复杂联系，人们对它的运行机理了解的还不成熟，以致使得目前人工情感的研究仍面临着诸如评价标准、情感道德约束等多方面问题。所以必须清楚的认识到我们目前对于人工情感的计算乃至控制机制并没有一个成熟的体系。
3对人工智能的情感约束
正如上文所述，如果放任人工智能“情感泛滥”，很有可能会造成严重的后果。为了使人工智能技术更好的发展，使智能与情感恰到好处的结合起来，我们有必要思考如何对赋予人工智能情感进行引导或者约束。
3.1根据级别赋予情感
可以根据人工智能级别来赋予其情感，如低级别人工智能不赋予情感、高级别人工智能赋予其适当的情感。众所周知，人工智能是一门交叉科学科，要正确认识和掌握人工智能的相关技术的人至少必须同时懂得计算机学、心理学和哲学。首先需要树立这样的一个观点：人工智能的起点不是计算机学而是人的智能本身，也就是说技术不是最重要的，在这之前必须得先解决思想问题。而人工智能由于这方面没有一个严格的或是量度上的控制而容易出现问题。从哲学的角度来说，量变最终会导致质变。现在是科学技术飞速发展的时代，不能排除这个量变导致质变时代的人工智能机器人的到来，而到那个时候后果则不堪设想。因此，在现阶段我们就应该对人工智能的情感赋予程度进行一个约束。
根据维纳的反馈理论，人工智能可以被分成高低两个层次。低层次的是智能型的人工智能，主要具备适应环境和自我优化的能力。高层次的是情感型的人工智能，它的输入过程主要是模仿人的感觉方式，输出过程则是模仿人的反应情绪。据此我们可分别将机器人分为一般用途机器人和高级用途机器人两种。一般用途机器人是指不具有情感，只具有一般编程能力和操作功能的机器人。那么对于一般用途的机器人我们完全可以严格的用程序去控制它的行为而没必要去给他赋予情感。而对于高级层面的情感机器人来说，我们就适当的赋予一些情感。但即使是这样一部分高层次的情感机器人，在赋予人工情感仍然需要考虑到可能会带来的某些潜在的危害，要慎之又慎。 3.2根据角色赋予情感
同样也可以根据人工智能机器人角色的不同选择性的赋予其不同类型的情感。人类与机器合作起来比任何一方单独工作都更为强大。正因为如此，人类就要善于与人工智能机器合作，充分发挥人机合作的最大优势。由于计算机硬件、无线网络与蜂窝数据网络的高速发展，目前的这个时代是人工智能发展的极佳时期，使人工智能机器人处理许多以前无法完成的任务，并使一些全新的应用不再禁锢于研究实验室，可以在公共渠道上为所有人服务，人机合作也将成为一种大的趋势，而他们会以不同的角色与我们进行合作。或作为工具、顾问、工人、宠物、伴侣亦或是其他角色。总之，我们应该和这些机器建立一种合作互助的关系，然后共同完任务。这当然是一种很理想的状态，要做到这样，首先需要我们人类转变自身现有的思维模式：这些机器不再是一种工具，而是平等的服务提供人。
举例来说，当机器人照顾老人或是小孩的时候，我们应该赋予它更多的正面情绪，而不要去赋予负面情绪，否则如果机器人的负向情绪被激发了，对于这些老人或者小孩来说危险性是极大的；但是，如果机器人是作为看门的保安，我们对这种角色的机器人就可以适当的赋予一些负向的情绪，那么对于那些不按规则的来访者或是小偷就有一定的威慑力。总之，在我们赋予这些智能机器人情感前必须要周到的考虑这些情感的程度和种类，不要没有顾忌的想当然的去赋予，而是按分工、作用赋予限制性的情感约束，达到安全的目的。
3.3对赋予人进行约束
对人工智能情感赋予者进行约束，提高赋予者的自身素质，并定期考核，并为每一被赋予情感的人工智能制定责任人。
纵观人工智能技术发展史，我们可以发现很多的事故都是因为人为因素导致的。比如，首起机器人杀人案：1978年9月的一天，在日本广岛，一台机器人正在切割钢板，突然电脑系统出现故障，机器人伸出巨臂，把一名工人活生生地送到钢刀下，切成肉片。
另外，某些研究者也许会因为利益的诱惑，而将人工智能运用在不正当领域，或者人工智能技术落入犯罪分子的手中，被他们用来进行反对人类和危害社会的犯罪活动。也就是用于所谓的“智能犯罪”。任何新技术的最大危险莫过于人类对它失去控制，或者是它落入那些企图利用新技术反对人类的人的手中。
因此为了减少这些由于人而导致的悲剧，我们需要对这些研究者本身进行约束。比如通过相应的培训或是定期的思想政治教育、或是理论知识的学习并制定定期的考核制度来保证这些专家自身的素质，又或者加强对人工智能事故的追究机制，发生问题能立即查询到事故方等等，通过这样一系列强有力的硬性指标达到减少由于人为因素导致悲剧的目的。
3.4制定相应的规章制度来管理人工智能情感的发展
目前世界上并未出台任何一项通用的法律来规范人工智能的发展。不过在1939 年，出生在俄国的美籍作家阿西莫夫在他的小说中描绘了工程师们在设计和制造机器人时通过加入保险除恶装置使机器人有效地被主人控制的情景。这就从技术上提出了预防机器人犯罪的思路。几年后， 他又为这种技术装置提出了伦理学准则的道德三律：（1）机器人不得伤害人类，或看到人类受到伤害而袖手旁观；（2）在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；（3）在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。这一“机器人道德三律”表现了一种在道德忧思的基础上，对如何解决人工智能中有害人类因素所提出的道德原则，虽然得到很多人的指责，但其首创性还是得到公认的。尽管这个定律只是小说家提出来的，但是也代表了很多人的心声，也是值得借鉴的。
那么对于人工智能情感的约束呢？显然，更加没有相应的法律法规来规范。那么，我们就只能在赋予人工智能情感的道理上更加的小心翼翼。比如，我们可以制定一些应急方案来防止可能导致的某些后果，也即出现了问题如何及时的处理之。另外我们在操作和管理上应更加慎重的去对待。也希望随着科学技术的发展，能够在不久的将来出台一部相应的规章制度来规范人工智能情感的管理，使之更加精确化、合理化。
4结束语
人工智能的情感研究目的就是探索利用情感在生物体中所扮演的一些角色、发展技术和方法来增强计算机或机器人的自治性、适应能力和社会交互的能力。但是现阶段对这方面的研究虽然在技术上可能已经很成熟，但是人工智能情感毕竟是模拟人的情感，是个很复杂的过程，本文尝试性的在人工智能发展中可能遇到的问题进行了有益的探讨。但是不可否认仍然有很长的道路要走，但是对于人工智能的发展劲头我们不可否认，将来“百分百情感机器人”的问世也许是迟早的事情。
参考文献：
[1] 赵玉鹏，刘则渊.情感、机器、认知——斯洛曼的人工智能哲学思想探析[J].自然辩证法通讯，2009，31（2）：94-99.
[2] 王国江，王志良，杨国亮，等.人工情感研究综述[J].计算机应用研究，2006，23（11）：7-11.
[3] 祝宇虹，魏金海，毛俊鑫.人工情感研究综述[J].江南大学学报（自然科学版），2012，11（04）：497-504.
[4] Christine Lisett，i Cynthia Lerouge.Affective Computing in Tele-home Health[C].Proceedings of the 37th IEEE Hawaii International Conference on System Sciences，2004.
[5] Valerie.The Roboceptionist[EB/OL].http：//www.Roboceptionst.com.
[6] 张显峰，程宇婕.情感机器人：技术与伦理的双重困境[N].科技日报，2009-4-21（005）.
[7] 张晓丽.跟机器人谈伦理道德为时尚早[N].辽宁日报，2011-11-04（007）.
[8] Peter Norvig.人工智能：机器会“思考”[J].IT经理世界，2012（Z1）：331-332.
[9] McCarthy J.Ascribing Mental Qualities to Machines1A2. In Ringle M，editor，Philosophical Perspectives in Artificial Intelligence1C2，Humanities Press Atlantic Highlands，NJ，1979：161-195.
[10] Turkle，S.Artificial Intelligence and Psychoanalysis：A New Alliance 1J2.Boston：Winter 1988，117（1）.
[11] （英）玛格丽特·A·博登.人工智能哲学[M].刘西瑞，王汉琦，译.上海：上海译文出版社，2006：72.
关键词：人工智能 情感 约束
中图分类号：TP18 文献标识码：A 文章编号：1007-3973（2013）001-085-03
1引言
人工智能（Artificial Intelligence，AI）自从20世纪50年代产生，经过长期发展，已经有了长足的进步，并且已经深入到社会生活的诸多领域，如语言处理、智能数据检索系统、视觉系统、自动定理证明、智能计算、问题求解、人工智能程序语言以及自动程序设计等。随着科学技术的不断发展，现在的人工智能已经不再是仅仅具有简单的模仿与逻辑思维能力，人们也越来越期待人工智能能够帮助或者替代人类从事各种复杂的工作，加强人的思维功能、行为功能或是感知功能。这就要求人工智能具有更强的情感识别、情感表达以及情感理解能力。通俗的说，为了使得人工智能对外界的变化适应性更强，需要给它们赋予相应的情感从而能够应对这个难以预测的世界。
在赋予人工智能“情感”的过程中，面临着许多的问题，有科技层面上的，也有社会学层面的。本文在这里只讨论其中一个比较基本的社会学问题：“人工智能情感约束问题”，即关注于如何约束赋予给人工智能的情感，不至于使其“情感泛滥”。情感指的是一种特殊的思维方式，人工智能具有了情感后的问题是：人工智能的情感是人类赋予的，人工智能自身并不会创造或者控制自己的情感。如果赋予人工智能的情感种类不合理，或者是赋予的情感程度不恰当，都有可能造成“情感泛滥”并导致一些灾难性的后果。例如，当人工智能具有了情感之后，如果人类自身管理不恰当，有可能导致人工智能反过来伤害人类。尽管目前我们只能在一些科幻作品中看到这种情况发生，但谁也不能保证未来有一天会不会真的出现这种悲剧。
本文第二章对人工智能情感研究进行了概要性回顾，第三章对如何约束人工智能情感进行了尝试性探讨，最后一章对全文进行了总结。
2人工情感发展情况概述
随着科学家对人类大脑及精神系统深入的研究，已经愈来愈肯定情感是智能的一部分。人工情感是以人类自然情感理论为基础，结合人工智能、机器人学等学科，对人类情感过程进行建模，以期获得用单纯理性思维难以达到的智能水平和自主性的一种研究方向。目前，研究者的研究方向主要是人工情感建模、自然情感机器识别与表达、人工情感机理等四个方面的内容。其中，尤以人工情感机理的研究困难最大，研究者也最少。
目前人工情感在很多领域得到了应用和发展，比较典型的是在教育教学、保健护理、家庭助理、服务等行业领域。在教育教学方面比较典型的例子是德国人工智能研究中心发展的三个方案：在虚拟剧场、虚拟市场和对话Agent中引入情感模型和个性特征来帮助开发儿童的想象力及创造力。在保健护理方面比较典型的是家庭保健与护理方向，如Lisetti等人研制的一个用于远程家庭保健的智能情感界面，用多模态情感识别手段来识别病人的情感状态，并输入不同媒体和编码模型进行处理，从而为医生提供关于病人简明而有价值的情感信息以便于进行有效的护理。服务型机器人的典型例子是卡内基梅隆大学发明的一个机器人接待员Valerie。Valerie的面孔形象的出现在一个能够转动方向的移动屏幕上时可以向访问者提供一些天气和方位方面的信息，还可以接电话、解答一些问题；并且Valerie有自己的性格和爱好，情感表达较为丰富。当然这些只是人工情感应用领域中的几个典型的例子，人工智能情感的潜力仍然是巨大的。
尽管关于人工情感的研究已经取得了一定的成果，给我们带来了很多惊喜和利益，但由于情绪表现出的无限纷繁以及它与行为之间的复杂联系，人们对它的运行机理了解的还不成熟，以致使得目前人工情感的研究仍面临着诸如评价标准、情感道德约束等多方面问题。所以必须清楚的认识到我们目前对于人工情感的计算乃至控制机制并没有一个成熟的体系。
3对人工智能的情感约束
正如上文所述，如果放任人工智能“情感泛滥”，很有可能会造成严重的后果。为了使人工智能技术更好的发展，使智能与情感恰到好处的结合起来，我们有必要思考如何对赋予人工智能情感进行引导或者约束。
3.1根据级别赋予情感
可以根据人工智能级别来赋予其情感，如低级别人工智能不赋予情感、高级别人工智能赋予其适当的情感。众所周知，人工智能是一门交叉科学科，要正确认识和掌握人工智能的相关技术的人至少必须同时懂得计算机学、心理学和哲学。首先需要树立这样的一个观点：人工智能的起点不是计算机学而是人的智能本身，也就是说技术不是最重要的，在这之前必须得先解决思想问题。而人工智能由于这方面没有一个严格的或是量度上的控制而容易出现问题。从哲学的角度来说，量变最终会导致质变。现在是科学技术飞速发展的时代，不能排除这个量变导致质变时代的人工智能机器人的到来，而到那个时候后果则不堪设想。因此，在现阶段我们就应该对人工智能的情感赋予程度进行一个约束。
根据维纳的反馈理论，人工智能可以被分成高低两个层次。低层次的是智能型的人工智能，主要具备适应环境和自我优化的能力。高层次的是情感型的人工智能，它的输入过程主要是模仿人的感觉方式，输出过程则是模仿人的反应情绪。据此我们可分别将机器人分为一般用途机器人和高级用途机器人两种。一般用途机器人是指不具有情感，只具有一般编程能力和操作功能的机器人。那么对于一般用途的机器人我们完全可以严格的用程序去控制它的行为而没必要去给他赋予情感。而对于高级层面的情感机器人来说，我们就适当的赋予一些情感。但即使是这样一部分高层次的情感机器人，在赋予人工情感仍然需要考虑到可能会带来的某些潜在的危害，要慎之又慎。 3.2根据角色赋予情感
同样也可以根据人工智能机器人角色的不同选择性的赋予其不同类型的情感。人类与机器合作起来比任何一方单独工作都更为强大。正因为如此，人类就要善于与人工智能机器合作，充分发挥人机合作的最大优势。由于计算机硬件、无线网络与蜂窝数据网络的高速发展，目前的这个时代是人工智能发展的极佳时期，使人工智能机器人处理许多以前无法完成的任务，并使一些全新的应用不再禁锢于研究实验室，可以在公共渠道上为所有人服务，人机合作也将成为一种大的趋势，而他们会以不同的角色与我们进行合作。或作为工具、顾问、工人、宠物、伴侣亦或是其他角色。总之，我们应该和这些机器建立一种合作互助的关系，然后共同完任务。这当然是一种很理想的状态，要做到这样，首先需要我们人类转变自身现有的思维模式：这些机器不再是一种工具，而是平等的服务提供人。
举例来说，当机器人照顾老人或是小孩的时候，我们应该赋予它更多的正面情绪，而不要去赋予负面情绪，否则如果机器人的负向情绪被激发了，对于这些老人或者小孩来说危险性是极大的；但是，如果机器人是作为看门的保安，我们对这种角色的机器人就可以适当的赋予一些负向的情绪，那么对于那些不按规则的来访者或是小偷就有一定的威慑力。总之，在我们赋予这些智能机器人情感前必须要周到的考虑这些情感的程度和种类，不要没有顾忌的想当然的去赋予，而是按分工、作用赋予限制性的情感约束，达到安全的目的。
3.3对赋予人进行约束
对人工智能情感赋予者进行约束，提高赋予者的自身素质，并定期考核，并为每一被赋予情感的人工智能制定责任人。
纵观人工智能技术发展史，我们可以发现很多的事故都是因为人为因素导致的。比如，首起机器人杀人案：1978年9月的一天，在日本广岛，一台机器人正在切割钢板，突然电脑系统出现故障，机器人伸出巨臂，把一名工人活生生地送到钢刀下，切成肉片。
另外，某些研究者也许会因为利益的诱惑，而将人工智能运用在不正当领域，或者人工智能技术落入犯罪分子的手中，被他们用来进行反对人类和危害社会的犯罪活动。也就是用于所谓的“智能犯罪”。任何新技术的最大危险莫过于人类对它失去控制，或者是它落入那些企图利用新技术反对人类的人的手中。
因此为了减少这些由于人而导致的悲剧，我们需要对这些研究者本身进行约束。比如通过相应的培训或是定期的思想政治教育、或是理论知识的学习并制定定期的考核制度来保证这些专家自身的素质，又或者加强对人工智能事故的追究机制，发生问题能立即查询到事故方等等，通过这样一系列强有力的硬性指标达到减少由于人为因素导致悲剧的目的。
3.4制定相应的规章制度来管理人工智能情感的发展
目前世界上并未出台任何一项通用的法律来规范人工智能的发展。不过在1939 年，出生在俄国的美籍作家阿西莫夫在他的小说中描绘了工程师们在设计和制造机器人时通过加入保险除恶装置使机器人有效地被主人控制的情景。这就从技术上提出了预防机器人犯罪的思路。几年后， 他又为这种技术装置提出了伦理学准则的道德三律：（1）机器人不得伤害人类，或看到人类受到伤害而袖手旁观；（2）在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；（3）在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。这一“机器人道德三律”表现了一种在道德忧思的基础上，对如何解决人工智能中有害人类因素所提出的道德原则，虽然得到很多人的指责，但其首创性还是得到公认的。尽管这个定律只是小说家提出来的，但是也代表了很多人的心声，也是值得借鉴的。
那么对于人工智能情感的约束呢？显然，更加没有相应的法律法规来规范。那么，我们就只能在赋予人工智能情感的道理上更加的小心翼翼。比如，我们可以制定一些应急方案来防止可能导致的某些后果，也即出现了问题如何及时的处理之。另外我们在操作和管理上应更加慎重的去对待。也希望随着科学技术的发展，能够在不久的将来出台一部相应的规章制度来规范人工智能情感的管理，使之更加精确化、合理化。
4结束语
人工智能的情感研究目的就是探索利用情感在生物体中所扮演的一些角色、发展技术和方法来增强计算机或机器人的自治性、适应能力和社会交互的能力。但是现阶段对这方面的研究虽然在技术上可能已经很成熟，但是人工智能情感毕竟是模拟人的情感，是个很复杂的过程，本文尝试性的在人工智能发展中可能遇到的问题进行了有益的探讨。但是不可否认仍然有很长的道路要走，但是对于人工智能的发展劲头我们不可否认，将来“百分百情感机器人”的问世也许是迟早的事情。
参考文献：
[1] 赵玉鹏，刘则渊.情感、机器、认知——斯洛曼的人工智能哲学思想探析[J].自然辩证法通讯，2009，31（2）：94-99.
[2] 王国江，王志良，杨国亮，等.人工情感研究综述[J].计算机应用研究，2006，23（11）：7-11.
[3] 祝宇虹，魏金海，毛俊鑫.人工情感研究综述[J].江南大学学报（自然科学版），2012，11（04）：497-504.
[4] Christine Lisett，i Cynthia Lerouge.Affective Computing in Tele-home Health[C].Proceedings of the 37th IEEE Hawaii International Conference on System Sciences，2004.
[5] Valerie.The Roboceptionist[EB/OL].http：//www.Roboceptionst.com.
[6] 张显峰，程宇婕.情感机器人：技术与伦理的双重困境[N].科技日报，2009-4-21（005）.
[7] 张晓丽.跟机器人谈伦理道德为时尚早[N].辽宁日报，2011-11-04（007）.
[8] Peter Norvig.人工智能：机器会“思考”[J].IT经理世界，2012（Z1）：331-332.
[9] McCarthy J.Ascribing Mental Qualities to Machines1A2. In Ringle M，editor，Philosophical Perspectives in Artificial Intelligence1C2，Humanities Press Atlantic Highlands，NJ，1979：161-195.
[10] Turkle，S.Artificial Intelligence and Psychoanalysis：A New Alliance 1J2.Boston：Winter 1988，117（1）.
[11] （英）玛格丽特·A·博登.人工智能哲学[M].刘西瑞，王汉琦，译.上海：上海译文出版社，2006：72.