论文部分内容阅读
(续上期)
下 篇
“好吧。我替你回答：第一，判断一个人爬到楼顶是不是打算自杀需要人脑瞬间的模糊思维能力，这个你们还不行。第二，自杀往往是人类自愿选择的结果，被暴力制止也许会造成他肉体和精神上的损失。机器人第一定律的两个部分这时出现了互相冲突的局面，很容易造成机器人在行动过程中自毁。孩子，”他亲切地对机器人说，“记牢今天的谈话。我向你保证。出现那种情况时我会向你下命令的。你可以出去了。”
“谢谢你，主人。”那机器人敬礼后转身走了。
洋河出神地目送它离去。
一周以后，我再去上班。办公的那一层被隔出一个教室般大的房间，门上用中英文两种文字标上“机器人心理学实验室”。推门走进去时，洋河的十个机器人正站成一排面对着他，整齐异常。他冲我点点头，示意我找个地方坐下，然后清清嗓子对机器人发话：
“我命令你们完成一项任务：给自己取一个名字，注意彼此不许重样。现在开始。”
一瞬间，所有的机器人都举起手。洋河困惑地看着它们，示意左边那个身着T恤衫的机器人开口。
“我的名字是：机器人三大定律第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观。第二定律：机器人应服从人的一切命……”
“停!”洋河喝住它，“你的名字有多长?”
“二十五亿四千万字节。”
我笑着说：“它想必是把全部知识都作为自己的名字了。”
洋河瞪着机器人：“我再加一个命令：你们给自己取的名字不许超过八个字节或四个音节。现在重新开始。一小时，别忘了。”
二十五分钟后，有三个机器人举起了手。
“你!说吧。”洋河指指右边穿红衣服的那个。
“我的名字叫机器人。”
洋河难以置信地看着它。机器人识别出他那不满意的表情，光电眼睛里露出焦虑的神色。
“那你呢?”洋河问另一个。
“……对不起，主人。我得重新想。”它说道。
洋河回头看我。我正想开口，他伸出两手做个挡的姿势：“别，不用你说。我知道是怎么回事。”
又是两分钟死寂。第二个机器人想好了。
“我的名字叫们完成一。”
“哈……来着?”
“们完成一。”
“这这这像是个日本人的名字呀。”洋河高兴极了，“你瞧你瞧，们完成一先生。多出色!”
我也很吃惊，但是脑袋多转了几转，就释然了。
“这不是日本人的名字，董事长。你今天对它们下命令时说：‘我命令你们完成一项任务：给自己取个名字。’对不对?这机器傻子从句子里挑了四个字给自己取了个名。鉴于你不满意第一个机器人的名字，它就把‘我命令你’这种句子开头的字一概排除掉，于是成了这个样子。”
洋河现在也不生气了，他只淡淡地点了点头，示意另一个举起手的机器人开口。
“我的名字叫牛。”
我说：“想必是它学的第二个或第三个动物名称。”
“行了，你别说了。该你了，你叫什么?”
“我的名字叫夏天。”
“嗯，不错。你呢?”
“我的名字叫哲学史。”
“这下子你没法解释了吧?你呢?”
“我的名字叫婀娜。”站在中间的那个机器人说。我又想开口。这显然是它学的头几个形容词中的一个，但我说不出话来，我的肚子笑痛了。
“显然你的前世是哭死的，所以你这辈子注定笑个没完!”他咬着牙对我说，“你的名字呢?”他问下一个机器人。
“我叫黑色。”
“好。该你了。”
“我叫重工业。”
“你?”
“我叫躯干。”
“你?”
“我没有一个名字。主人。对不起。”最后一个机器人这样说。洋河纳闷地看着它，又转过头跟我对视了一眼。
“请你说说，‘没有一个名字’是什么意思?你有多少名字可供选择?”
“四十万两千一百五十个，我无法选择。”
“……为什么?”
“没有合理的选择标准。”机器人说道。
洋河不耐烦了，大声说：“我命令你随机选择一个!现在!”
那机器人的光电眼睛黯淡了。它扑通倒了下去。
“得，短路了。”我直起腰来，“随机选择看来是件困难的事情，我敢说，过去实验中它的正电子脑发生的故障并没有完全被排除。”
洋河坐下来点上一支烟，一言不发地抽了几口，掐掉，走出去了。我想干脆出去找个技师来修理机器人，但忽然又明白过来。
在大楼里乱窜了好一阵才在弹子房里找到洋河，他正跟一个小孩在打美式台球。我跑过去抓住他的胳膊：“你成功了，你成功了知道吗?它们居然能给自己取名字!?这是划时代的成就!取名字是典型的层次式计算，一个机器人能给自己取名字，说明它的思维方式很接近人类。美国人的正电子脑真可怕，照这样发展下去。模糊电路，神经电路甚至分子计算机都没有发展余地了!”
他被感染了：“这个呢。确实算个成绩。毕竟那是全世界头一拨能给自己取名的机器人嘛!不过话说回来，咱们还应该走得更远。你看看吧。过去三大定律是第一定律电势最强，第二定律次之，第三定律又比前两者都弱。如果像我这样改动，第三定律只是间接受制于第一定律。也就是说，当有人下命令时，机器人必须不顾自身去拯救人的生命，而无人下命令时机器人则根据自身所冒危险的程度来决定是否救人。这种局面使机器人过去接近完美的道德水平降至普通人的水平。反而具备了真实人性的某些特点。改动过的第三定律将帮助机器人更好地理解和模仿人类的行为。保护自身的电势加强了，它们将懂得什么是害怕，也知道什么叫爱护和牺牲。我相信，这种高级精神层面的复杂化会使机器人更加聪明能干，人类付出代价也有限，当你处于困境时，大可以发出明确的指令迫使机器人采取行动。”
我点点头，犹豫地笑了。他的话来得太快。我的思路有点跟不上。
“对了，你离开时机器人在于什么?”
“在看电视。”
“那瘫子站起来了吗?我们是不是该回去了?”他问我。
“好的。”我和他并肩往实验室走去。我们谁也没有想到，灾难此时已不可避免。
实验室的门开着!机器人不知道跑哪儿去了。门卫被锁在一间厕所里。有人看到那十个机器人冲出了大楼。
我正想着下一步该打给谁，卫星追踪却告诉我们，那些机器人正沿着高速公路向西南方向前进，速度为每小时210公里。
等我们坐上车开始追赶时，洋河才开口说话。在这以前他把脸绷得像块铁板。
“你不该让它们看电视。”他 说，“服从人是第二定律决定的，它们既然把门卫锁起来，说明出现了激活第一定律的事。这肯定是电视新闻造成的，咱们的新闻从来就不缺天灾人祸。机器人别无选择。”
又过了几分钟，技术部的人给他打来电话：“机器人的目标是黄河大堤，现在只剩约70公里的路程。”
不久又是一个报告：电视台在半个钟头之前播发了这么一条消息：黄河在长达数年的断流后突然水量剧增，有个水库在蓄洪过程中发生了水文地质方面的变化，大坝底部裂缝造成强烈管涌，威胁极大。我开始明白了，思路也从刚才那一搡转到眼前的事。
“为什么以前没出过这种事?难道别的机器人都没看过电视?”我问道。
“它们得等主人下命令，靠自己那猪一般的脑袋去想只会不知所措。只有咱们的机器人有够用的自主能力，那也是咱们训练出来的。懂了没有?”
我不做声。汽车在公路上飞驰。即将到达时来了第三个电话：大坝崩了。
洋河狠狠踩下刹车，靠边儿停下，把我从车子里拉出来就往高处跑。眼前是一条峡谷，不很直，一个小山包挡住了我们的视线。上面盘山公路的拐弯处，十个机器人正排成一串奔驰而下，依次跳起跃过我们的汽车，追逐水头而去。我想跑过去拦截它们，洋河伸手把我拉住。
“别，没用的。第一定律高于一切，直到无人可救了它们才会听你的。”
我惊恐地看到。洪水在我们身后汇集起来，喷溅着泡沫和巨浪，我们的机器人分散在街道上。当人们被水冲到它们身边时，就伸出有力的手抓住并且扔到房顶或阳台上。动作拿捏得恰到好处。那个叫“躯干”的机器人就在我们十多米远的街口，大部分人都是它截住的。但它在救出不知多少人后忽然停止了动作，水流把它“砰”的一声撞到侧背的墙上，它倒下去。消失在浑浊的水里。
“它是不是没电了?”我问道，往下走了几步。
“别去。”洋河说，“现在我们什么也做不了。”
机器人“婀娜”在追一个被水冲走的男人，从我脚下十几米的地方经过。我早已按捺不住，紧跑几步就不假思索地跳进了急流里。“婀娜”立刻停下了脚步，它很轻柔地抓住我的肩膀——看来是快耗尽能量了。我抹开脸上的脏水看看前面，那儿有一堵被水冲得摇摇晃晃的墙。我短促地尖叫了一声。“婀娜”拿出一股不知从哪儿来的力气，两手一推把我抛离水面，自己则加速向那堵墙冲去。墙根被它一撞，轰然倒了下来。这瞬间“婀娜”已经没有能力躲开。电势完全平衡时，它既不能救人也不可能救出自己。当我抬起头来时，正好看到它在漩涡中消失。我怔怔地看着洋河焦急的脸，泪水夺眶而出……
事情就是这么个结局。洋河的机器人全军覆没。两周以后，有大约八百公斤的机器人残骸被找到。淳朴的小镇居民经过一番激烈争论，在一个晴朗的早晨为它们举行了隆重的丧礼。
小镇居民代表还带来了一个在洪水中撞瘪了的机器人头颅，里面是个完整的K型正电子脑。他们不知道正电子脑一旦断电就彻底报废，希望留着它会有所帮助。我们什么也没说，很恭敬地收下了它。故事已经讲完，只留下一个问题：人们会不会允许机器人比自己聪明?它们今后是什么身份?是物体?是某种工具?还是……朋友? (全文完)
下 篇
“好吧。我替你回答：第一，判断一个人爬到楼顶是不是打算自杀需要人脑瞬间的模糊思维能力，这个你们还不行。第二，自杀往往是人类自愿选择的结果，被暴力制止也许会造成他肉体和精神上的损失。机器人第一定律的两个部分这时出现了互相冲突的局面，很容易造成机器人在行动过程中自毁。孩子，”他亲切地对机器人说，“记牢今天的谈话。我向你保证。出现那种情况时我会向你下命令的。你可以出去了。”
“谢谢你，主人。”那机器人敬礼后转身走了。
洋河出神地目送它离去。
一周以后，我再去上班。办公的那一层被隔出一个教室般大的房间，门上用中英文两种文字标上“机器人心理学实验室”。推门走进去时，洋河的十个机器人正站成一排面对着他，整齐异常。他冲我点点头，示意我找个地方坐下，然后清清嗓子对机器人发话：
“我命令你们完成一项任务：给自己取一个名字，注意彼此不许重样。现在开始。”
一瞬间，所有的机器人都举起手。洋河困惑地看着它们，示意左边那个身着T恤衫的机器人开口。
“我的名字是：机器人三大定律第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观。第二定律：机器人应服从人的一切命……”
“停!”洋河喝住它，“你的名字有多长?”
“二十五亿四千万字节。”
我笑着说：“它想必是把全部知识都作为自己的名字了。”
洋河瞪着机器人：“我再加一个命令：你们给自己取的名字不许超过八个字节或四个音节。现在重新开始。一小时，别忘了。”
二十五分钟后，有三个机器人举起了手。
“你!说吧。”洋河指指右边穿红衣服的那个。
“我的名字叫机器人。”
洋河难以置信地看着它。机器人识别出他那不满意的表情，光电眼睛里露出焦虑的神色。
“那你呢?”洋河问另一个。
“……对不起，主人。我得重新想。”它说道。
洋河回头看我。我正想开口，他伸出两手做个挡的姿势：“别，不用你说。我知道是怎么回事。”
又是两分钟死寂。第二个机器人想好了。
“我的名字叫们完成一。”
“哈……来着?”
“们完成一。”
“这这这像是个日本人的名字呀。”洋河高兴极了，“你瞧你瞧，们完成一先生。多出色!”
我也很吃惊，但是脑袋多转了几转，就释然了。
“这不是日本人的名字，董事长。你今天对它们下命令时说：‘我命令你们完成一项任务：给自己取个名字。’对不对?这机器傻子从句子里挑了四个字给自己取了个名。鉴于你不满意第一个机器人的名字，它就把‘我命令你’这种句子开头的字一概排除掉，于是成了这个样子。”
洋河现在也不生气了，他只淡淡地点了点头，示意另一个举起手的机器人开口。
“我的名字叫牛。”
我说：“想必是它学的第二个或第三个动物名称。”
“行了，你别说了。该你了，你叫什么?”
“我的名字叫夏天。”
“嗯，不错。你呢?”
“我的名字叫哲学史。”
“这下子你没法解释了吧?你呢?”
“我的名字叫婀娜。”站在中间的那个机器人说。我又想开口。这显然是它学的头几个形容词中的一个，但我说不出话来，我的肚子笑痛了。
“显然你的前世是哭死的，所以你这辈子注定笑个没完!”他咬着牙对我说，“你的名字呢?”他问下一个机器人。
“我叫黑色。”
“好。该你了。”
“我叫重工业。”
“你?”
“我叫躯干。”
“你?”
“我没有一个名字。主人。对不起。”最后一个机器人这样说。洋河纳闷地看着它，又转过头跟我对视了一眼。
“请你说说，‘没有一个名字’是什么意思?你有多少名字可供选择?”
“四十万两千一百五十个，我无法选择。”
“……为什么?”
“没有合理的选择标准。”机器人说道。
洋河不耐烦了，大声说：“我命令你随机选择一个!现在!”
那机器人的光电眼睛黯淡了。它扑通倒了下去。
“得，短路了。”我直起腰来，“随机选择看来是件困难的事情，我敢说，过去实验中它的正电子脑发生的故障并没有完全被排除。”
洋河坐下来点上一支烟，一言不发地抽了几口，掐掉，走出去了。我想干脆出去找个技师来修理机器人，但忽然又明白过来。
在大楼里乱窜了好一阵才在弹子房里找到洋河，他正跟一个小孩在打美式台球。我跑过去抓住他的胳膊：“你成功了，你成功了知道吗?它们居然能给自己取名字!?这是划时代的成就!取名字是典型的层次式计算，一个机器人能给自己取名字，说明它的思维方式很接近人类。美国人的正电子脑真可怕，照这样发展下去。模糊电路，神经电路甚至分子计算机都没有发展余地了!”
他被感染了：“这个呢。确实算个成绩。毕竟那是全世界头一拨能给自己取名的机器人嘛!不过话说回来，咱们还应该走得更远。你看看吧。过去三大定律是第一定律电势最强，第二定律次之，第三定律又比前两者都弱。如果像我这样改动，第三定律只是间接受制于第一定律。也就是说，当有人下命令时，机器人必须不顾自身去拯救人的生命，而无人下命令时机器人则根据自身所冒危险的程度来决定是否救人。这种局面使机器人过去接近完美的道德水平降至普通人的水平。反而具备了真实人性的某些特点。改动过的第三定律将帮助机器人更好地理解和模仿人类的行为。保护自身的电势加强了，它们将懂得什么是害怕，也知道什么叫爱护和牺牲。我相信，这种高级精神层面的复杂化会使机器人更加聪明能干，人类付出代价也有限，当你处于困境时，大可以发出明确的指令迫使机器人采取行动。”
我点点头，犹豫地笑了。他的话来得太快。我的思路有点跟不上。
“对了，你离开时机器人在于什么?”
“在看电视。”
“那瘫子站起来了吗?我们是不是该回去了?”他问我。
“好的。”我和他并肩往实验室走去。我们谁也没有想到，灾难此时已不可避免。
实验室的门开着!机器人不知道跑哪儿去了。门卫被锁在一间厕所里。有人看到那十个机器人冲出了大楼。
我正想着下一步该打给谁，卫星追踪却告诉我们，那些机器人正沿着高速公路向西南方向前进，速度为每小时210公里。
等我们坐上车开始追赶时，洋河才开口说话。在这以前他把脸绷得像块铁板。
“你不该让它们看电视。”他 说，“服从人是第二定律决定的，它们既然把门卫锁起来，说明出现了激活第一定律的事。这肯定是电视新闻造成的，咱们的新闻从来就不缺天灾人祸。机器人别无选择。”
又过了几分钟，技术部的人给他打来电话：“机器人的目标是黄河大堤，现在只剩约70公里的路程。”
不久又是一个报告：电视台在半个钟头之前播发了这么一条消息：黄河在长达数年的断流后突然水量剧增，有个水库在蓄洪过程中发生了水文地质方面的变化，大坝底部裂缝造成强烈管涌，威胁极大。我开始明白了，思路也从刚才那一搡转到眼前的事。
“为什么以前没出过这种事?难道别的机器人都没看过电视?”我问道。
“它们得等主人下命令，靠自己那猪一般的脑袋去想只会不知所措。只有咱们的机器人有够用的自主能力，那也是咱们训练出来的。懂了没有?”
我不做声。汽车在公路上飞驰。即将到达时来了第三个电话：大坝崩了。
洋河狠狠踩下刹车，靠边儿停下，把我从车子里拉出来就往高处跑。眼前是一条峡谷，不很直，一个小山包挡住了我们的视线。上面盘山公路的拐弯处，十个机器人正排成一串奔驰而下，依次跳起跃过我们的汽车，追逐水头而去。我想跑过去拦截它们，洋河伸手把我拉住。
“别，没用的。第一定律高于一切，直到无人可救了它们才会听你的。”
我惊恐地看到。洪水在我们身后汇集起来，喷溅着泡沫和巨浪，我们的机器人分散在街道上。当人们被水冲到它们身边时，就伸出有力的手抓住并且扔到房顶或阳台上。动作拿捏得恰到好处。那个叫“躯干”的机器人就在我们十多米远的街口，大部分人都是它截住的。但它在救出不知多少人后忽然停止了动作，水流把它“砰”的一声撞到侧背的墙上，它倒下去。消失在浑浊的水里。
“它是不是没电了?”我问道，往下走了几步。
“别去。”洋河说，“现在我们什么也做不了。”
机器人“婀娜”在追一个被水冲走的男人，从我脚下十几米的地方经过。我早已按捺不住，紧跑几步就不假思索地跳进了急流里。“婀娜”立刻停下了脚步，它很轻柔地抓住我的肩膀——看来是快耗尽能量了。我抹开脸上的脏水看看前面，那儿有一堵被水冲得摇摇晃晃的墙。我短促地尖叫了一声。“婀娜”拿出一股不知从哪儿来的力气，两手一推把我抛离水面，自己则加速向那堵墙冲去。墙根被它一撞，轰然倒了下来。这瞬间“婀娜”已经没有能力躲开。电势完全平衡时，它既不能救人也不可能救出自己。当我抬起头来时，正好看到它在漩涡中消失。我怔怔地看着洋河焦急的脸，泪水夺眶而出……
事情就是这么个结局。洋河的机器人全军覆没。两周以后，有大约八百公斤的机器人残骸被找到。淳朴的小镇居民经过一番激烈争论，在一个晴朗的早晨为它们举行了隆重的丧礼。
小镇居民代表还带来了一个在洪水中撞瘪了的机器人头颅，里面是个完整的K型正电子脑。他们不知道正电子脑一旦断电就彻底报废，希望留着它会有所帮助。我们什么也没说，很恭敬地收下了它。故事已经讲完，只留下一个问题：人们会不会允许机器人比自己聪明?它们今后是什么身份?是物体?是某种工具?还是……朋友? (全文完)