论文部分内容阅读
从《变形金刚》《机械公敌》等好莱坞大片在全球的票房大卖可以看出,人们对于智能机器人参与的战争有着各种想象。不过,很少有人知道,这些想象其实离现实已不远。
近日,欧盟人机交互研发项目专家指出,基于人机交互理论,未来五年内机器人将会具有人的意识。而让机器人拥有人的意识并代替士兵,已引发各国军事研究者的兴趣,一旦这种机器人被应用于战场,将会成为杀人机器人。日前在瑞士日内瓦举行的联合国人权理事会上,“杀人机器人”将被叫停,联合国成员国接下来将就此议题成立专门委员会展开讨论。
对“杀人机器人”说NO
1944年,著名科幻大师阿西莫夫在机器人短篇集《我,机器人》中,首先提出了《机器人三大定律》,其中第一条就是:“机器人必须保护人类的整体利益不受伤害。”然而在好莱坞电影中,这一定律从未实现,从《终结者》到《变形金刚》,各种高科技机器人相互厮杀甚至杀人的场面屡见不鲜。
联合国人权理事会特别调查员克里斯多夫·海因斯宣称,这种行为正在变成现实,各国在没有相对道德和法律约束的情况下,正在加快研制智能“杀人机器人”的步伐,这一切应被禁止。
目前,海因斯已经向人权理事会提交一份报告,建议这一联合国机构呼吁各国冻结这类“杀人机器人”的试验、生产和使用。海因斯表示,自己作这个报告就是受前段时间美国无人机在打击“基地”恐怖分子时误伤了周围贫民的事件的启发。
据了解,美国已经在作战行动中使用远程遥控的无人驾驶飞机并多次引起爭议。2011年,美军无人机在巴基斯坦部落地区的一次袭击中杀死4人,原因是美军认为他们应该是“武装分子”。但后来事实证明这4人中有3人是妇女儿童。无人机的争议铺天盖地而来,人们将它叫做“遥控杀人狂”。
海因斯在报告中指出,这种“杀人机器人”将从由人远程遥控,发展至由计算机软件和传感器装置控制,进而全自动执行识别敌人、判断敌情和杀死敌人等任务。然而,这一技术突破是非常令人担心的,因为这种机器人可能误伤已经丧失战斗力的伤员和准备投降的士兵。海因斯还表示,由于“杀人机器人”缺乏人类的情感,所以会对人类的生命造成潜在的伤害。
“杀人机器人”便宜了恐怖组织
之所以要制止“杀人机器人”,海因斯的用意在于,他担心这样下去,“杀人机器人”早晚会“升级”为“全自动杀人机器人”,代替人类上战场并自主决定人类的生死。
因发起国际禁止地雷运动而于1997年获得诺贝尔和平奖的美国人乔迪·威廉姆斯认为,“关于科技会完全改变战争的讨论一直在进行,当有人说这是不流血的战争时,我很愤怒。”乔迪指出,人类目前已拥有制造“自动杀人机器人”的能力,这种技术有望在20年内被广泛运用。不过,这一说法尚未得到证实。
目前最接近自动“杀人机器人”的是韩国研发并开始使用的一款哨兵机器人。它的个头与3岁孩子相当,体重只有17公斤,却能不知疲倦地长时间站岗。
这款造价约20万美元的机器人能识别2千米(白天)和1千米(夜间)以外的人、汽车或树木,还可探测到4千米(白天)和 2千米(夜间)以外的移动物体;能够盘问10米以内的来客,并在侦测到闯入者时发出警报。这些功能可以由机器人自动完成,也可以由管理员操纵。一名管理员可同时操纵16个机器人士兵。
虽然“自动杀人机器人”还未发展成熟,但英国谢菲尔德大学人工智能与机器人技术教授诺埃尔·夏基还是警告说,“机器人大战”给人们带来的远非科技进步的喜悦,而是忧虑。他认为,让机器人自己决定是否杀人难以保证它们不会滥杀无辜。他举例说,如果一所学校的楼顶发现藏有一名敌军狙击手,但大量学生也在楼内,大部分真人士兵不会选择炸掉学校,但谁知道机器人会怎么做。
更令人担忧的是,一旦这种机器人落入恐怖组织之手,后果不堪设想。夏基认为,恐怖分子利用“杀人机器人”取代自杀袭击发动恐怖袭击,只是“时间问题”。
近日,欧盟人机交互研发项目专家指出,基于人机交互理论,未来五年内机器人将会具有人的意识。而让机器人拥有人的意识并代替士兵,已引发各国军事研究者的兴趣,一旦这种机器人被应用于战场,将会成为杀人机器人。日前在瑞士日内瓦举行的联合国人权理事会上,“杀人机器人”将被叫停,联合国成员国接下来将就此议题成立专门委员会展开讨论。
对“杀人机器人”说NO
1944年,著名科幻大师阿西莫夫在机器人短篇集《我,机器人》中,首先提出了《机器人三大定律》,其中第一条就是:“机器人必须保护人类的整体利益不受伤害。”然而在好莱坞电影中,这一定律从未实现,从《终结者》到《变形金刚》,各种高科技机器人相互厮杀甚至杀人的场面屡见不鲜。
联合国人权理事会特别调查员克里斯多夫·海因斯宣称,这种行为正在变成现实,各国在没有相对道德和法律约束的情况下,正在加快研制智能“杀人机器人”的步伐,这一切应被禁止。
目前,海因斯已经向人权理事会提交一份报告,建议这一联合国机构呼吁各国冻结这类“杀人机器人”的试验、生产和使用。海因斯表示,自己作这个报告就是受前段时间美国无人机在打击“基地”恐怖分子时误伤了周围贫民的事件的启发。
据了解,美国已经在作战行动中使用远程遥控的无人驾驶飞机并多次引起爭议。2011年,美军无人机在巴基斯坦部落地区的一次袭击中杀死4人,原因是美军认为他们应该是“武装分子”。但后来事实证明这4人中有3人是妇女儿童。无人机的争议铺天盖地而来,人们将它叫做“遥控杀人狂”。
海因斯在报告中指出,这种“杀人机器人”将从由人远程遥控,发展至由计算机软件和传感器装置控制,进而全自动执行识别敌人、判断敌情和杀死敌人等任务。然而,这一技术突破是非常令人担心的,因为这种机器人可能误伤已经丧失战斗力的伤员和准备投降的士兵。海因斯还表示,由于“杀人机器人”缺乏人类的情感,所以会对人类的生命造成潜在的伤害。
“杀人机器人”便宜了恐怖组织
之所以要制止“杀人机器人”,海因斯的用意在于,他担心这样下去,“杀人机器人”早晚会“升级”为“全自动杀人机器人”,代替人类上战场并自主决定人类的生死。
因发起国际禁止地雷运动而于1997年获得诺贝尔和平奖的美国人乔迪·威廉姆斯认为,“关于科技会完全改变战争的讨论一直在进行,当有人说这是不流血的战争时,我很愤怒。”乔迪指出,人类目前已拥有制造“自动杀人机器人”的能力,这种技术有望在20年内被广泛运用。不过,这一说法尚未得到证实。
目前最接近自动“杀人机器人”的是韩国研发并开始使用的一款哨兵机器人。它的个头与3岁孩子相当,体重只有17公斤,却能不知疲倦地长时间站岗。
这款造价约20万美元的机器人能识别2千米(白天)和1千米(夜间)以外的人、汽车或树木,还可探测到4千米(白天)和 2千米(夜间)以外的移动物体;能够盘问10米以内的来客,并在侦测到闯入者时发出警报。这些功能可以由机器人自动完成,也可以由管理员操纵。一名管理员可同时操纵16个机器人士兵。
虽然“自动杀人机器人”还未发展成熟,但英国谢菲尔德大学人工智能与机器人技术教授诺埃尔·夏基还是警告说,“机器人大战”给人们带来的远非科技进步的喜悦,而是忧虑。他认为,让机器人自己决定是否杀人难以保证它们不会滥杀无辜。他举例说,如果一所学校的楼顶发现藏有一名敌军狙击手,但大量学生也在楼内,大部分真人士兵不会选择炸掉学校,但谁知道机器人会怎么做。
更令人担忧的是,一旦这种机器人落入恐怖组织之手,后果不堪设想。夏基认为,恐怖分子利用“杀人机器人”取代自杀袭击发动恐怖袭击,只是“时间问题”。