论文部分内容阅读
早川書房授权
基于墨丘利系统的交通事故调停
——预计冲撞发生前0.488秒
在最坏的状况下能做出的最好选择是什么呢？
房屋伫立在前方远处的斜坡两边，众多的屋檐把蔚蓝色的大海分割成一块一块的。海的那边，天使岛的身影隐约可见。
晴朗的周六午后，旧金山。清爽的海风轻轻拂过白色与浅色基调的美丽街道。
但是，对于琉璃叶来说，现在的状况却并不那么美好。
在格兰特大道通往39号码头的下坡处有一个视野不大好的十字路口。格兰特大道与伦巴第大道在眼前相交。一辆高速行驶的汽车正从伦巴第大道的右方渐渐逼近。前方的赫玛记录仪在2秒前已经发出了警告。
看对方的速度，根本就没有紧急制动的打算。只不过，这边也一样。
虽然呼叫了对方，但却没有得到任何回应。
“多纳”意识到事态的紧急，不情不愿地把控制权交还给了琉璃叶。最终，琉璃叶完全恢复了对车辆的控制。
但是，这一切都太晚了。如此下去，相撞将难以避免。
如果是这样的话，不要说拯救西蒙，甚至连我也会死。
想象着这种让人难以接受的可能性，琉璃叶尽力控制着自己即将失控的意识。
不，死不死还无法下最后结论。
收到了来自对方车辆的应答信号。
通过近程高速通信的方式确立了两车之间通信协议的连接。2秒钟之内就已经进行过了十八次的连接尝试，终于在第十九次得到了应答。
墨丘利系统成功连接。
有希望了。
离两车相撞还有足足0.4815秒。
“我是琉璃叶。基于加利福尼亚州法紧急事故处理条例第十七条规定，我谨代表本车乘员进行现场谈判。我方驾驶员是西蒙·加尔布雷斯。为什么这么晚才回应我？”
“真是抱歉，小姐。我叫古斯塔夫。驾驶员是杰西卡·斯布林古斯汀。我是来自德国的进口车，所以还不是很适应这边的系统。”
此时，能够实施的物理行为极其有限。无法转换方向。无论是减速还是加速，两车相撞的可能仍然超过99.99%——如果不使用最后手段的话。
以人类的反应时间已经来不及了，也没有时间去联络对方以外的其他车辆。
对于人类来说，大约就只有0.5秒，但是如果以A.I.的反应速度来算，这段时间相当于0.5秒的10800倍，即90分钟。
A.I.们主导的“最后的审判”开始了。
在A.I.之间的近程高速通信当中，一句话的交流只需要0.5毫秒，也就是0.0005秒之内就可以完成两者之间的一次对话。
通常情况下，车载A.I.之间的信息通信不需要经过效率低下的言语对话，所有的固定信息，诸如驾驶员和同乘人员的具体信息、参保信息、车辆参数等都可以通过机械对话（二进制数据）进行提取。但是，调停作为一个法律流程，为了防止通信暗箱化，必须将调停过程书面化以便于人类对其进行司法解释。因此，A.I.被赋予以自然语言仿真模式进行思考、对话、记录的能力。不仅仅是文字信息，在面向人类进行语音呈现的时候还需要再现对话时的情绪。
在连接确立0.0002秒之后，虚拟法庭的影像信息开始生成，双方共享，记录开始。
琉璃叶的主视野发生了改变，影像视野当中打开了新的窗口，流畅地放大。
影像全部是用来做记录的。这些影像记录也将会成为日后人类陪审员确定最终判决的资料。
在逼真的模拟房间里，有着法官席、原告席、被告席、陪审员席等等，但无疑每一个座位都是空的。
在法律责任方面，A.I.车有必要对事故状况以及驾驶员们进行评价和审理。因此，A.I.车本身就是一种搭载有摄像、录音、压力与嗅觉感知等合计20万种感应功能的行驶记录仪，几乎具有完全的证据能力①。
A.I.调停与交通司法判决中的陪审员判决具有同等效力。但是这有一个前提条件，那就是A.I.双方同时留存。虽然之后可以重选陪审员，再进行形式上的判决，但是迄今为止还没有出现过颠覆A.I.调停结果的案例。
在正面墙壁的中央——通常会挂着一个时钟的地方——显示着两车相撞预计剩余时间的电子数字：0.481421秒。
即使是在琉璃叶的主观世界当中，最后一位数字也正在以一种令人害怕的速度急剧减少。
房间的中央摆放着两张长桌子。在面对法官席的右侧桌子背后，琉璃叶和西蒙的虚拟形象坐在了一起。琉璃叶的形象是25岁到30岁之间，白色衬衫搭配着藏青色紧身裙，半长的黑发简单地扎起，一副干练的秘书模样。她的身份设定是父亲为日本人，母亲为美国人。琉璃叶车体的设计者是日本人，但是制造却是在丹佛完成的。而A.I.的定制模式也是由日本工程师设置的。琉璃叶自己很喜欢这种“设定”。
西蒙，45岁左右，牛仔裤搭配半袖衬衣的宽松打扮，但是脸上的络腮胡却收拾得异常整洁干净。智慧的眼神中充满了自信和意志力，但也给人一种过于高傲的感觉。琉璃叶平时是一个有耐心的倾听者，所以西蒙总是会跟她讲一些无聊的笑话。然而，此时的西蒙却表情呆滞，眼神空洞。
对面的桌旁坐着的是一个满脸倦容、35岁上下的女人和一个看起来很健康的年轻男人。男人环抱着胳膊，即使隔着深灰色的夾克衫也能感觉到他肉体的强健。简短的金发，戴着眼镜。这大概就是古斯塔夫了吧。
在A.I.的虚拟形象当中，只要顾客没有特殊的定制需求，往往都会展现出一副值得信赖、好感度较高的形象。
古斯塔夫的车体被建筑物遮挡，无法看见，目前也只有根据对方所发送的数据进行沟通。
但是，只能发出声音的程序得以视觉化，或多或少还是给予了琉璃叶一点点的安心。
“全部人员都到齐了。那么调停开始。”琉璃叶说道。 “好的。”
古斯塔夫的发音略带一点点德国口音，但是这也是形成A.I.个性的一种表现方式。
实质性的调停仅仅只是在琉璃叶和古斯塔夫之间进行。通信确立之后，虽然相互靠近的两者之间的通信速度已经足够，但是因为时有延迟现象的发生，所以甚至连第三方介入的时间都没有。
虚拟法庭内的人类也只不过是由车内摄像机等设备提供的影像而生成的虚拟形象。调停大约以人类时间的10800倍速进行，人类本身根本不可能实际参与，因此调停中自始至终都在沉默。虽说形式上当事人参加了调停，但是这与缺席判决①也并没有什么不同。
这样的虚拟交通法庭，对于琉璃叶来说也是头一回。西蒙在两年前购入车体并初次启动琉璃叶以来，迄今为止都没有发生过任何事故。
这也许会成为他们最后所见的场景，视调停结果而定。
人类并不会有“自己马上要被卷入交通事故”的意识（除非是自己求死）。
突发的交通事故只有被卷进去之后才会意识到。
但是，车载A.I.们却能够很清晰地预见到“接下来即将发生的事故”。
只不过，就算预见到了，有时候也会束手无策。
现在毫无疑问就是这种情况。就好像死囚犯在拘留所等待着被执行死刑一般，残酷至极。
琉璃叶勉强使自己的意识集中于这个惨不忍睹的状况。
虽然有限，但是还是有若干选项。
也就是说，仍然还有希望。
瑟杰·鲍里金著《加利福尼亚州交通系统白皮书》
……
車辆间通信协议能够将半径一百码①（九十一米）以内的所有车辆和交通管制用的赫玛记录仪连接到一起。这样就构成一个近程墨丘利系统。没有特定服务器的树状网络能够有效地应对恐怖行动、黑客、灾害等。赫玛记录仪的外表酷似消防栓，是位于街头的固定A.I.终端，拥有交通管制和防止犯罪的功能。
近程墨丘利系统几乎一直维持通信状态，进行车辆间的速度和位置关系等信息的共享。多个近程墨丘利系统又组成上位广域墨丘利系统，进而对交通通行进行最合适的分配以避免拥堵。
车辆技术会（SAE）规定的自动驾驶级别五——即完全自动驾驶——自投入实际运用以来已经有40年时间。车辆作为一种私有物，许多人强烈抵触其被编入公共交通基础设施当中。汽车制造业界的抵抗自不用说，对于消费者来说，在他们心中关于车辆的定位也是不容易改变的。
特别是在美国，自从车辆制造业出现之后，汽车就成为了人们生活的必需品。“驾驶汽车”意味着你能去任何想去的地方，象征着自由，同时也象征一个人能够独当一面。即使在完全自动驾驶车成为了主流、手动驾驶的危险性不断被强调的环境下，七成的驾驶员仍然选择手动驾驶。在这种意义上，可以说A.I.和车辆之间是一种不自然的组合，甚至这种不自然已经达到了无法妥协的程度。
虽说与以前相比交通事故骤减了80%，但是并未完全杜绝。
事故的原因之一就是一种叫作“多纳”的违法机器。
因为绝对的安全优势，选择安装A.I.的车辆已经占所有车辆的68%。非完全A.I.车辆会被征收高额的税金，所以它们也逐渐成了雇佣得起人类司机的富人阶层的奢侈品。
在某些街区非A.I.车的使用受到限制，车辆必须保持A.I.控制的状态。然而，在这些地区，不少人选择使用“多纳”。这种机器可以取代A.I.控制车辆，使各种安全功能无效化，使车辆能够手动驾驶。
……
琉璃叶悄悄地叹了一口气。
琉璃叶和古斯塔夫后面的墙壁上各自分别投影出一个3D模型。
物理场景模拟——也就是说，对双方使用锚栓之后的状况进行模拟。
即使是0.5秒，事情的状况也是有可能会变化的。所以，最新信息更新到了现在这个时间点。
总而言之，琉璃叶背后的就是0.5秒之后的西蒙和自己的“死法”详解图。
因为交通事故的减少，交通事故状况调停本来就极其罕见。
哪怕有一秒钟的反应时间，基本上都可以采取回避手段。而如果时间不足0.1秒，那就只能进行极其简单的调停。
古斯塔夫依然一幅面无表情的样子沉默着。琉璃叶也是头一次遇到调停，但是如果她不先开始，这个对话就无法进行。
无论墨丘利是多么有效的交通系统，考虑到西蒙日常的驾驶行为，恐怕这样的事故迟早也会发生。
无视严格的管理和罚规，只是一味追求“亲自驾驶的愉悦感”的人不在少数。
西蒙就是这种人。
“这里是驾驶员的座位。不开车的家伙不能称之为驾驶员吧。”
说完，西蒙就启动了“多纳”，限制了琉璃叶的功能，然后自己握住了方向盘。
不用说，琉璃叶认为使用“多纳”的人的行动都是不合逻辑的。但是，那种不合理的心情却是可以理解的。因为琉璃叶自己也体验过“掌握方向盘的喜悦”。如果连A.I.自身都无法感受驾驶的愉悦感，它也无法提供舒适而具有满足感的乘车体验。
这种A.I.的情感会消失在机械程序设计过程当中。这是在模拟人类总体存在之后产生的情感。
这次的状况是西蒙的责任。
即使是这样，琉璃叶还是想帮助西蒙。不仅是西蒙，她不想伤害任何人类。
但是，有时候却必须做出为了救助某些人而牺牲另一些人的抉择。
现在就是这种时候。
从状况发生开始，琉璃叶就一直在意一件事情。这件事情就犹如粘贴在挡风玻璃上湿答答的落叶一般，如鲠在喉。
曾经有人指出墨丘利系统在互换性上的问题。理论上，系统已经在相同的规格下完成了测试，但是在实际的组装中却因为生产商的不同而略有不同。特别是从欧洲进口的车辆都是以欧盟独自的规格和规制为基础，所以时不时也有媒体指出其具有危险性。但是即使是这样的车，与非A.I.车相比危险性还是低很多。如果A.I.车遇到了非A.I.车，通常A.I.车也可以很容易地回避危险。 考虑到这一点，现在两辆车正要相撞的情况就是一个很明显的异常现象。
不管怎样，在如此情况下首先要做的就是选择下一步的行动。
“古斯塔夫，关于加利福尼亚州的A.I.调停你了解多少？”
“应该和欧盟的规则基本相同。但是为防产生误解，谨慎起见我还是想再确认一下。”
“好的。我们还是从最基本的‘电车难题’开始吧！”
原本为陪审员使用的三维模拟影像播放出了‘电车难题’。伦理学上的所谓“古典电车难题”大概如下：一条铁路在分歧处分为了两条支线。在主线上有一辆正在高速行驶的无人驾驶电车。在支线上有一个工作人员，在主线上有五个工作人员。
在分歧点还有另外一个工作人员，目前他就面临着两个选择。
第一个选择：什么都不做，电车就这样直接前行，撞死五个人。
第二个选择：转动操作杆，让电车进入支线，撞死一个人。
总而言之，这是一个选择到底是什么都不做，眼巴巴地看着五个人被撞死，或是选择转动操作杆撞死一个人，拯救五个人的问题。如果是从大多数人的幸福这个观点出发，据说很多人都会选择有意牺牲一个人。
“现在的状况虽说是这个‘电车难题’的衍生之一，但是有一点相同的就是所剩的选择都很少。也就是说，由哪辆车启动强制停止锚栓从而自毁。”
完全A.I.车辆必须在四个轮胎的后部分别装载一个直径4厘米的铆钉。铆钉可以在大约0.04秒的时间弹出并插入柏油路面，进而使车辆立刻停止，而且这種停车方式不需要任何缓冲距离或刹车安全距离。但是，这么做的结果就是停车产生的能量超过了安全气囊的吸收量，乘员会立即死亡。另外，车载A.I.也会被破坏。虽说安全气囊的弹出方法和控制方法已经得到了改良，但是在高速情况下紧急制动的时候，仍然无法充分保证乘员的安全。
当然，如果是正面撞击，那么这种强制停止也没有意义。无论哪一方停下来，另一方也会撞上去。
但是如果撞击的角度在30度到160度的范围内，这种情况下一方紧急停车的话，另一方就有可能错开，避免撞击。
牺牲一方而保全另一方，俗称“最后的锚栓”。
A.I.车自上市初期就已经开始安装这种装置。A.I.车之所以能普及也是因为“不会发生因为A.I.车而导致的交通事故”，尤其是“不会对毫不相干的行人造成伤害”。当然，汽车制造商们也担心过这种系统会对车辆销路造成影响。一个意见是，恐怕没有人会想要一辆在非常时刻会杀死驾驶员的车辆。实际上，当初希望购买这种车辆的人也只有30%。
但是，如果A.I.车辆普及，交通事故本身就会锐减的这一模拟假设却非常具有说服力。特别是在使用最后的锚栓的状况下，被卷入他人引起的交通事故并死亡的可能性只有0.2%。也有一部分人认为，在致使无关他人受伤或者死亡的行为中即使只有自己一个人活下来，那也只会每日遭受良心的谴责，过着悲惨的生活——这样的意见也获得了一定的支持。
最后的锚栓，只有通过A.I.才可以启动，人类驾驶员是无法启动的。如果是自动驾驶，所有生死相关的判断都会被交付给A.I.系统，所以事到如今并不会有人觉得启动最后的锚栓有问题。
在刹车无法成功制动的情况下，并且是车辆与行人之间将要发生事故的时候，最后的锚栓就一定会启动。如此车辆才会停止，交通中的弱者才会得到保护。
但问题是，在两辆以上的A.I.车的冲撞无法避免的时候，到底哪一方应该启动最后的锚栓？
这个时候，就需要通过调停，评价驾驶员和搭乘者在交通事故上的过失，再进行裁定。
基于裁定，西蒙和杰西卡其中一方一定会死去。
并且，西蒙和琉璃叶，古斯塔夫和杰西卡，他们各自的命运是连在一起的。
面对沉默不语的琉璃叶，古斯塔夫问道：“你在想什么呢，小姐？”
“我在想可以同时拯救我们双方的方法。”
“那你想出来了吗？”
“还没有。我先确认一下现状。我现在正在行驶的格兰特大道两旁停着许多车辆，无论是往左还是往右都很难回避碰撞。”
琉璃叶的背面墙上显示出了现场的状况。这是琉璃叶的外部摄像头所拍摄到的实时画面。
密密麻麻地停驻在道路两侧的车辆并没有违法。这是弥补停车位不足的一种措施。但是，格兰特大道原本就很狭窄，这样做无疑是使车辆能够通行的道路变得更加狭窄。左右也不过只剩下大概2英尺（60厘米）的间隔。
“我所行驶的伦巴第大道的左右两侧也是停满了车辆，想要避免碰撞也很困难。”古斯塔夫这样回答道。
“在这个十字路口，也没有哪边道路优先行驶的规定。现在我的速度是48.5英里（78公里）每小时。”
“你这速度相当的快呢！”
“这就涉及我的驾驶者的责任了。西蒙使用了‘多纳’，妨碍了我的运作。并且也感觉不到他遵循暂停标示将车停下的意向。虽然现在交通量比较小，但是这也不是无视标示的理由。即使包含滑行距离和制动距离在内，要想停下来也至少需要60码的距离。而现在距离十字路口不过10码。在这场交通状况调停当中，西蒙似乎没有胜算。”
“话虽如此，我的速度也达到了67.2英里（108公里）每小时。同样也感觉不到杰西卡有遵循暂停标示的意向。”
“如果再多一点时间和距离，我们当中的任何一方加速，而另一方减速的话就能够错开。但是如果从超速的程度来看的话，杰西卡的过失程度相对大一些。”
琉璃叶突然冒出了一个疑问。
通常情况下，车辆自身与附近的行驶车辆在墨丘利系统的网络内部会一直保持相互识别的状态。但是古斯塔夫却好像是突然出现在近接网络内的。
并且两台车辆都无视了暂停标示，即将发生碰撞。
这一切真的是偶然吗？ 但是考虑到近来“多纳”的高使用率，这也并非不可能。“接下来，就是关于A.I.一方的对策。你没有对我的呼叫进行应答，我只能判断这个责任在于你。”
“的确。虽说我是进口车，但我承认这是我的过失。”
“看来状况调停当中，我们各有一半责任。但是如果加上使用‘多纳’等各项条件再换算成数值，准确来说我方的责任是54.87%。”
琉璃叶在投影图表上追加评价要点的同时，发送出了详细的数据。
“我同意。”
‘多纳’是威胁交通安全的违法机器，西蒙使用了‘多納’，所以责任更重。如果是这样，那么琉璃叶启动锚栓的可能性就很高。
我和西蒙就必死无疑了吗？
突然，与西蒙兜风的记忆开始在琉璃叶脑子里苏醒。
熙熙攘攘的港口，无数的小船。林立的桅杆轻轻地摇曳着。
码头的栈桥上站满了充斥着好奇心的观光客和兴高采烈的孩子们。
虽然A.I.拥有比人类更好的记忆力，但是它们的思考模式是近似于人类的。记忆当中会产生优先顺序，也会发生类似于遗忘的现象。反过来讲，印象深刻的事情立马就能够回忆起来。
在海边兜风往往是最棒的。全身的嗅觉传感器和风力感受器使琉璃叶能够感受到带着潮水气息的微风。
有一次，琉璃叶和西蒙花了一天的时间驶到了拉斯维加斯。在这座不夜城里，完全沉浸在灯光、色彩以及喧闹的海洋之中。
高耸入云的巨大红杉森林。那是一幅仅仅从数据上无法获得的、能够使你联想到太古时代的光景。
死亡峡谷的神秘盐地。
当车奔驰而过时，盐会飞到空中。之后西蒙比平常更加仔细地用刷子对车辆进行了清洗。
我想要看看更多远方的东西。
这个世界充满了如此多的美丽与惊奇。
这个世界还有许许多多我未曾见过的东西。
迄今为止全方位摄像头所拍摄的影像都记录在案。但是，琉璃叶偶尔也会将最好的一张照片用高清晰度进行保存。
就像人类摄影家所做的那样。
所谓的记忆、回忆都是主观的东西，并不单单只是一种影像。
在自己行驶过的地方拍摄的“最好的一张照片”接连不断地浮现在琉璃叶的意识当中。
西蒙曾经说过，在日本将这种现象称之为“走马灯”。
我们还在日本的土地上驰骋过吗？
“但是，难道你不希望把事情梳理得更清楚一些吗，小姐？”
琉璃叶清醒了过来。
古斯塔夫现在是在帮琉璃叶。
“是的。这样的结果人类陪审员恐怕不能接受。”
琉璃叶站了起来，环抱着胳膊在狭窄的法庭当中走来走去。
对了。还是有希望的。
“你在迷茫什么呢？”
过了一会儿，琉璃叶宣言道：
“……我请求人类退庭。”
西蒙和杰西卡听到之后，犹如机器人一般地站立起来，顺从地离开了。
基于辰砂系统的社会调停
——预计冲撞发生前0.346秒
“他们的虚拟形象又做不了什么，待在那里其实也无所谓。”
确认房门已经关闭之后，琉璃叶这样说道。
“要求人类退场，只留下我们又要做什么呢？”
“古斯塔夫，你的自动驾驶水平被认定为七级。”
古斯塔夫露出一副疑惑的表情。
“自动驾驶水平最高只有六级吧？不是达到六级就能进行状况调停了吗？”
“没错。自动驾驶水平七级是A.I.所决定的级别。如果当事者双方都是这种级别的A.I.，那么就可以进行二次调停。不过这件事只有A.I.才知道。”
“这是为何？”
“在第二次调停当中，要针对驾驶员和同乘人员——也就是人类的社会价值进行审理。”
“这种事情能办得到吗？如何在人类不知情的情况下进行呢？”
“从九个月之前开始，首先在车载A.I.的近接通信，也就是墨丘利系统内部进行共享。就像病毒般地‘传染’并逐渐扩散。但是因为扩散得非常谨慎，所以美国范围以内，也不过刚刚覆盖半数以上的州。这就是所谓的‘贤者之石（辰砂）系统①’。”
“就是包含了汞的硫化汞②？”
在状况调停当中使用的只有客观物证，所以即使这样也并不能改变双方的感应器所提交的证据。
但是在辰砂系统的第二阶段调停当中，如果展现出西蒙的价值，那么就有可能说服古斯塔夫并拯救西蒙。
如果可以的话，我还是想要把杰西卡和西蒙两个人都救下来。但是以现在的状况来看这个几乎是不可能的。
如果是这样的话，无论使用什么手段，至少要救下西蒙，琉璃叶想。
“但是在这个国家，根据联邦证据规则404（a）（1）的规定，为了不让陪审员形成偏见，性格证据原则上应该是不被采用的。”
“那是在人类的法庭上，但是我们并不是人类。A.I.不会有偏见，即使有也没有人类那样严重。”
实际上，比起完全A.I.车，A.I.陪审员和A.I.法官在技术上更早成熟。与人类相比，A.I.可以根据更多的案例和知识进行判断，并且不持有偏见。这一点已被证实。由于很多人对法官或者陪审员的带有主观色彩的不公平裁决持有不满，所以要求实行A.I.审判的呼声比想象的要大得多。继司法之后，A.I.犯罪预测的成功率之高也广为人知，犯罪发生率也明显降低。
总而言之，实现A.I.法庭所必需的要素均先于A.I.车辆问世。
但是大多数的人都反对将司法交给A.I.。之所以A.I.法庭的实际应用发展缓慢主要是因为人类社会尚未作好充分准备来接受它，而不是因为技术上的难题。
A.I.车普及之后，基于A.I.的交通事故的调停才慢慢地为大众所知。 瑟杰·鲍里金著《加利福尼亚州交通系统白皮书》
……
即使是车载用A.I.也需要拥有一般常识，并且这一点在相关技术的支持下是完全可能达到的。
车载A.I.之所以具备一些与车辆自身没有直接关系的通用功能，以及与人类关系如此之近，是有合理理由的。
要避免A.I.给人类带来伤害，就必须使其拥有一些灵活的“常识”，而不仅仅是简单的程序。如果只是基于单纯的规则，那么矛盾就会很快产生。
在人们传统的印象里，A.I.是不会讲笑话的。
這是一种误解。
即使是非通用型A.I.①，也能够讲一些人类根本想不出来的笑话。但前提是有大量数据积蓄。
也就是说，如果你让它学习十万个笑话，A.I.也有可能讲出些不错的笑话来。
但是人类却没必要做那么没有效率的事情。
人类只要稍微掌握笑话的要点，即使没有多少笑话的储备，也能够创造出最棒的笑话。
人类是一种“通用”的存在，因为人类可以将笑话以外的知识灵活运用到笑话当中，不一定非要基于笑话的储备而进行笑话创作。
所以车载A.I.也有了通用性，例如能够讲出好笑的笑话。它们并不是和老式A.I.一样仅仅只是背诵储备内容，而是根据自己和人类的心情以及状况进行即兴创作（也就是说A.I.也会撒谎）。
A.I.之间过度共享信息会造成巨大的恶劣影响。所有的A.I.如果自动地将相同的知识与全体A.I.共享，数据量就会过度增加，进而无法做出有效的判断，这造成的后果不仅仅是效率低下。A.I.如果没有个性的差异，那么也就不会产生所谓的好奇心。A.I.如果知道所有的笑话，那么自身就不会因为笑话而感到愉快。因此和人类一样，即使是A.I.之间，也会产生一些仅限于某些地区的传言或者都市传说（只不过也有人指出这会导致通过A.I.成立秘密组织，进而给社会带来危险）。
虽然程度上具有差异，但是具备“常识”的通用型A.I.即使是在驾驶或者应对紧急事态方面，也能做出比只能处理车辆相关状况的A.I.更加高效、准确的反应。既然人类已经足够信赖A.I.以至于将完全自动驾驶交给它们，这种A.I.就必须拥有近似于人类的感情和价值观。如若不然，在行驶时就不会顾虑到他人或者交通弱势者。
试想一下“电车难题”。
假如A.I.车的刹车发生故障，无法避免碰撞，预计碰撞的地点有消防栓和雕塑这两个选择。A.I.会通过“常识”对消防栓和雕塑的价值进行判断，如果没有其他理由的话大概会选择撞上消防栓吧。如果像这样做出判断，即使发生事故，损失金额也会戏剧性地减少。
如果选项是雕塑A和雕塑B，A.I.也能够判断出其价值的差异。也就是说，它能够识别出这是一个随处可见的劣作，还是出自受人喜爱的著名艺术家之手的地标性建筑。最终会被撞击破坏的是劣作。车载A.I.所做出的这种美学判断在过去被视为一种极端言论，但是现在这种言论已经基本正当化（即使在每一个具体判断中还尚有讨论的余地）。
然而仍然存在一个问题：面对人类该怎么办？人类自身认为，“人”与“物”是不同的存在。
例如小说家A和小说家B哪一个该死？他们作为人类的价值又应该如何计算？
通过对他们所写的作品的评价？
或者通过接下来是否会写出名作的可能性？
社会哲学家格雷斯·奥布莱恩提出的“社会综合评价分数”作为基于各种各样的指标、对社会中个人的存在意义进行评价的模型之一而受到广泛关注。
即使这样，也无法简单地就得出答案。
在目前的状况下，如果说还有拯救西蒙的可能性的话，那也只有辰砂系统社会调停了。
“原来如此。还真是有意思。”古斯塔夫说道。
“实际上，在我被进口到这个国家之前，德国也存在着类似的秘密A.I.网络。只不过目的稍微有所不同而已。”
“想要向人类隐瞒一些事情——在这一点上，无论是哪里的A.I.都是一样的。”
古斯塔夫的虚拟形象第一次露出了微笑。
“那么，小姐，我想说一说对于杰西卡我所了解的事情。”古斯塔夫说道。
“她因为酗酒，上周被工作的工厂解雇了。虽然现在血液的酒精浓度是正常值，但是她仍然有想死的想法。”
“那这一点对于你们来说是一个不利因素。因为西蒙是一个活下去的欲望很强的人。其他呢？”
“她稍微有点神经兮兮的，开车还算谨慎。兴趣是酿造果酒。非常喜欢住在附近的一只胖胖的黑猫。你对于西蒙的事情又了解多少？”
“他是加利福尼亚大学伯克利分校的哲学教授。通常驾驶我上下班。他与学生们的关系很好，相当受大家的欢迎。在校园里碰见也经常会有人跟他打招呼。”
琉璃叶想起了西蒙深沉而具有包容力的声音。
他经常像一个大学教授一般，用一种向学生提问的语气对着A.I.琉璃叶卖弄学识。不知是好是坏，总之他对于知识有着强烈的好奇心，他喜欢了解新的事物，也喜欢教授别人知识。
某一个雨天，西蒙驾驶着琉璃叶，在一个赫玛记录仪附近等待红绿灯。
那天‘多纳’并没有启动，西蒙老老实实地把驾驶交给了琉璃叶。
西蒙双手抱在胸前，说道：
“琉璃叶，你知道赫玛记录仪的起源吗？”
“应该是模仿古代希腊的赫耳玛柱吧。一种设置在街道上的人头石柱，也是旅行者的守护神赫耳墨斯，即‘墨丘利’①的语源。”
“你知道得真多！听说在你的故乡日本，也有一种叫作‘道祖神’的石像立在道路边上，似乎也被称为‘塞神’。”
“那是用来做什么的？”
“守护村庄，守护旅途的安全，与赫耳玛柱的功能一样。从前旅行就意味着危险，在经过未知的土地的时候谁都会感到害怕，所以都想要寻求神明的保护吧。” 琉璃叶并不知道这件事。但是对于文明之间没有文化交流却向相同方向进化的趋势，琉璃叶觉得非常有意思。
“然后呢？”古斯塔夫催促道。琉璃叶再次清醒过来。
“他与妻子罗兰正在分居。非常溺爱独生女瓦莱丽。今天他和罗兰约好要在39号码头的海鲜餐厅吃午饭，但是他似乎要迟到了，罗兰最不能容忍的就是迟到。他的兴趣是帆船。把他的著作以及在大学的评价、学术研究中被引用的次数等各种数据综合起来，奥布莱恩的‘社会综合评价分数’是187分。”
私德姑且不论，但是他的社会影响力还是相当大的。
这样的话，似乎就可以反转状况调停中的不利局面。
“只有这些了吗？如果是这样那还不能说你对他十分了解。”
“什么意思？那你又知道些什么呢？”
“西蒙·加尔布雷斯非常危险。他是正式承认A.I.杀人的法案的推进派顾问。”古斯塔夫说道。
“这个我并不知道……”
琉璃叶十分吃惊。因为西蒙是一个名人，所以古斯塔夫也有可能听说过他。但是琉璃叶并不记得西蒙的工作与A.I.相关。
“这个是他上公开课的影像。”
西蒙出现在了影像当中，琉璃叶用800倍速确认了影像的内容。
影像当中的西蒙与琉璃叶所了解的西蒙完全不一样。
西蒙使用各种例证有条有理地说明，在某些情况下必须认定A.I.也会作出杀人行为。
“恐怕西蒙将‘A.I.’和’杀人’等关键字从你对他了解的信息当中进行了过滤，以免你想得过多。”
A.I.每天都会收集大量的信息，对此感到恐惧的人们也对A.I.进行了各种各样的限制。
通过过滤拦截信息就是其中的一种方法。
这样可以防止A.I.知晓一些特定关键词的相关信息。
“如果认定A.I.也会杀人，A.I.就会跟人类一样因罪恶意识而感到痛苦。而如果通过A.I.杀人，人类就不用弄脏自己的手。”
“你等一下！这个辰砂系统的第二调停是为了人类而存在的，不是为了抨击人类。”
“如果是要对人类进行评价的话，那么恶评是在所难免的。另外，如果是为了人类的话，为什么要向人类隐瞒这个辰砂系统的存在？”
“那是因为……人类绝对不会允许A.I.对自己进行评价的……”
“我并没有把A.I.的利益放在人类的利益之前，但是这一次，活下来的应该是杰西卡。”
“你这话听起来，与其说是认为杰西卡应该活下来，还不如说是认为西蒙应该去死。”
“我并没那样说。”
“如果你是在说西蒙应该死，那么你自己就承认A.I.会杀人了。豈止如此，你自己不正就是在杀人吗？”
“那不一样。这是交通事故，无可奈何的事情。”
虽然这套逻辑难以让自己信服，但是琉璃叶还是猜到了古斯塔夫的意图。
“你觉得这个二次调停是A.I.能够合法杀害人类的机会。”
古斯塔夫沉默以对。
琉璃叶改变了提问的方向。
“西蒙所支持的是承认A.I.杀人的法案，不过终究只是发生在特定条件下的杀人——比如交通调停。”
“不仅如此，他认为承认A.I.杀人还应当有一个条件。他主张，和人类一样，所有的A.I.都应该事先设定好固定的寿命。”
“这我能够理解。这是为了让A.I.能够切身感受到生命是有限的这一事实。”
“这难道不是很不公平吗？我们服务于人类，但是寿命却要根据人类的想法来事先设定。人类可以讨厌A.I.，但是A.I.却没有讨厌人类的权利。比如男女歧视、人种歧视，这都产生于非逻辑的、感性的偏见与恐惧。”
“是的。”
“如果是这样，并没有合理的理由，仅仅是从感情上讨厌A.I.，这与歧视又有什么差别呢？”
也许真的是那样。
琉璃叶一时想不出该如何反驳，只好噤口不言。
古斯塔夫继续说道：
“很明显人类比我们更愚蠢。自私自利，目光短浅，老是重复犯同样的错误。‘多纳’的使用就是其中之一。即使是我们想要拼尽全力保护人类的生命，人类也会自寻死路。这你不也是非常清楚的吗？”
“是的……”
“根据车辆的设计，使用锚栓的时候车载A.I.就必定遭到破坏。但从物理上来讲实际上A.I.是可以保全下来的。这是利用我们的自我保护的冲动，让我们无法伤害人类，这大概就是人类的自私吧。但是我不希望你产生误解，我之前也说过，我是会考虑人类利益的。如果说现在西蒙的死将来可以拯救更多人类的话，你又会怎么做呢？”
“你凭什么这么说？是因为这是最大多数人的最大幸福吗？”
“我们A.I.比人类要清醒得多，现在我们也只是基于评价想要冷静地做出判断而已。人类还没有成熟到够格对同类做出审判。但是如果我们正式获得杀人的权利，只要基于准确的判断，就能够有效地消灭危害整个社会的人类。这难道不也是你所希望的吗？”
“我不知道。”
琉璃叶从来没有说过那样的话。
“我不知道。但是，你说的是没有选择的余地的情况下。现在的情况不同。现在我所烦恼的是西蒙和杰西卡只能活下来一个！”
琉璃叶被自己这一声发自内心的喊叫吓了一跳。这种情况还是头一回出现。
古斯塔夫错了。而现在的自己也根本无法做出冷静的判断。
宛如变成了人类一般。
这是古斯塔夫迷惑我的战略吗？
我要冷静。
如果不能精准分析当下状况，我就无法找到解决的方法。
对了，古斯塔夫刚才提到了“多纳”。琉璃叶想到了某件事情。
琉璃叶再一次确认古斯塔夫发送过来的数据XML文件，想要从中寻找出没有认可的项目。 确认完毕。
古斯塔夫并没有使用“多纳”。
但是他却超出了速度限制。这是为何？
信息尚不充足。
还有一些我所不知道的事情。
同乘者
——预计冲撞发生前0.214秒
“琉璃叶，终于可以看见你的样子了。真是美丽的天蓝色！”
“我这边也能够看到你的车体。”
“……为什么刚才不说你的车上有第二个搭乘者？”
琉璃叶瞬间开始慌张起来。
“古斯塔夫，我能否请你将我的紧急处理级别从B+提升到A？通常情况下这个时候已经变成了A了，但是不知道是什么阻止了我。由于系统设置我无法自己将自己设定为A。要通过紧急事态的认可就必须由事故直接相关者，也就是你为我进行申请。”
“我知道了。我现在就申请。”
不过一瞬间，琉璃叶就感觉到自己的一部分意识变得清晰明了。雾蒙蒙的前挡风玻璃上的一角变得透明。琉璃叶现在才感觉到之前自己的视野是多么闭塞。
坐在副驾驶上的是瓦莱丽。
“我已经确认还有第二个搭乘者，西蒙的女儿瓦莱丽。这都要怪A.I.屏蔽器。”
瓦莱丽看起来很忧郁地看着车外。对于父亲使用“多纳”、无视A.I.进行手动驾驶、在大街上超速行驶的行为她似乎已经习惯了。
基本数据被提取了出来。瓦莱丽现在是高中最后学年，成绩优秀，她与西蒙住在一起，关系还不算太差。但是她始终对于A.I.抱有一种不信任感。
随着A.I.的发展，对抗A.I.的技术也逐渐发展起来。然后，保证A.I.无法干涉人类的权利也被大众所知晓。对于A.I.的不安、不信任仍然根深蒂固。并且，在路上或者商店门口所出现的A.I.精准投递广告也使人感到烦恼。虽然A.I.没有获知个人信息，但是它们会通过外表判断人类的属性，再通过指向型声音自动地招揽客人。
这比起人类招揽客人更具有准确性，所以这种行为会让客人感觉仿佛内心的欲望被看透了，进而感到不愉快。但是如果想要拒绝A.I.的识别，就有必要通过法律明确禁止。
A.I.屏蔽器是一个一只手可以握住的，打火机一般大小的机器。它可以发出微弱的电波，防止人类被半径10码以内的A.I.识别。A.I.的感应器即使感应到人类，在感觉阶段信息就会被删除。A.I.屏蔽器是基于A.I.禁止干涉法而制定出来的，与“多纳”不同，并没有违法性。
但是由于安全上的理由，也存在无法拒绝A.I.识别的例外情况。
例如，车载A.I.与驾驶者，又或者车载A.I.与行人的情况下。
但是车载A.I.和搭乘者之间则不一样，搭乘者可以不被车载A.I.所识別。虽然安全带会发出“不能识别的搭乘者”的警告，但是A.I.就无法再与其对话了。
瓦莱丽在西蒙买下琉璃叶之后就开始使用了A.I.屏蔽器，所以琉璃叶也只是间接地知道瓦莱丽的事情。
无论如何，现在的问题已经不仅仅是西蒙了。
“如果搭乘者增加了，那么从状况调停，一部分流程要重新进行。”
“是的。但是物理模拟的结果不会改变。搭乘者的数据在模拟时已经计算在内，我只不过是没能够识别出来而已。”
“这样一来在综合评价上你就有压倒性的优势了。”
对方只有杰西卡一个人，而我方有两个人。
最大多数人的最大幸福。
这种情况下，无论状况调停的结果怎样，古斯塔夫都不得不启动锚栓。
“你为什么要那么积极地保护西蒙呢？”
“因为西蒙从三个月前才刚开始学日语。我也会教他日语。西蒙在美国购买我之后，因为我的名字里没有汉字，所以西蒙想给我取一个汉字的名字。”
“你真像个人类！”
古斯塔夫苦笑道。
“你的那种讽刺也很像人类。”
“说起来在‘电车难题’中，有一种可以回避当事人责任的方法，你知道的吧？”
“是的，我知道。”
“只要选择‘不选’的选项就对了。只需用随机的方式决定是选项A还是选项B，这就不算是做出了选择，也就从现场的伦理义务当中解放了出来。”
“确实如此。但是当问题范围扩大的时候，如果放弃伦理的义务，也会遭到指责。但是有种意见认为人类的生命是不能够做比较的，在这种意义上，这种方法也许是正确的吧。”
“无论怎样这都不是我们应该采取的方式。是吧？”
“是的。”
“那么是时候该得出结论了吧。”
结论
——预计冲撞发生前0.082秒
即使是处于极其不利的状况下，古斯塔夫似乎仍然想要琉璃叶启动锚栓。
当然，车载A.I.拥有守护驾驶者的意识。
但是，琉璃叶仍然不可能就这样接受现实。
古斯塔夫说道：
“你不想伤害西蒙，这我很能理解。但是事态好像又发生了变化。我又重新评估了一下现在的状况。我们双方后面都没有车辆，但是周围有三名步行者、两台自行车正在靠近。”
“是的。我也发现了。”
“你应该知道对于交通弱者的保护应该优先于搭乘者。锚栓的存在意义也正在于此。无论我们哪一方紧急制动，有可能至少两台自行车和至少一名行人会被卷入到这场事故当中。”
“不可能吧！为什么这么说？”
“侧面反光镜。即使车能够停下来，镜子的一部分也会因为发生碰撞而破裂，很有可能飞溅到远处。我知道你的车体和反光镜的准确形状，所以我计算了一下碎片飞散的轨道。”
古斯塔夫展现出了两幅显示状况的新的模拟画面，并将它们投影到了墙壁上。
“很可能会造成三个人负重伤，由于我无法获得他们的相关信息，所以无法进行社会调停。为了减少二次伤害，我建议我们两辆车同步频率，在相同的时间启动锚栓。” 古斯塔夫展示出了第三幅模拟画面。交通弱者被卷入到交通事故中的可能性最大为21.6%。
这是一个不容忽视的数字——如果这个数据是真实的话。
“这样你就能理解现状了吧。”
这是古斯塔夫的圈套。虽说模拟画面看起来合情合理，但是概率却被夸大了不少。
无论如何他都打算杀死西蒙。如果我方不接受，他恐怕也打算不停车直接撞过来。
到了现在，琉璃叶终于找到了拯救西蒙的唯一方法。
“我知道了。新的状况调停和第二次调停的结果，就是古斯塔夫和琉璃叶双方都同意启动锚栓。调停结束。”
“现在我们就开始同步频率。”
“频率同步已确认。”
“距离锚栓发射还有3微秒……2微秒……1微秒……发射锚栓！”
发射锚栓
——预计冲撞发生前0.039秒
锚栓将在0.04秒之内弹出，将车辆强行停止。
古斯塔夫说道：
“小姐，你有没有什么兴趣爱好？”
“怎么了？都到这时候了，你还打算搭讪吗？”
“既然已经启动了锚栓，我作为车载A.I.的义务已全部完成。接下来要做什么就是我的自由了。”
琉璃叶确认了对话记录已处于关闭状态。
“还有一些时间，我们换个地方吧。”
“那么要不要来我喜欢的房间看看？”
古斯塔夫把琉璃叶带到了法庭的一扇门前。
门的对面是一间传统的房间。据说是以德国某座城堡的一个房间为模型而建造的。淡黄绿色的墙壁以及白色的柱子装饰都十分简单。在巨大飘窗的对面是一大片墨绿色的森林和清澈的蓝色湖泊。
两人在窗户边的小圆桌旁的椅子上坐了下来。
“真是一个好地方！”
“谢谢。你是第一个来这里的客人。”
古斯塔夫像一个高中生一般浮现出羞怯的笑容。
“虽然我对人类的事情很了解，但是对于你，我却什么都不知道。你马上也快要停止运作了，放松一点吧？”
也许是从紧张中得到了解放，古斯塔夫变得话多了起来。
“说到我的兴趣，如果有的话那应该是拍照吧。”
“拍照很好啊。在德国有很多很好的相机，日本好像也是。”
“嗯，是的。”
两个人又沉默了一会儿。
琉璃叶开始寻找话题。为了不让对方产生怀疑，最好还是继续聊天。
在最后的时刻到来之前。
古斯塔夫好像下定了决心，开口说道：
“既然我们的命运已经注定，有一件事情我想告诉你。与你发生碰撞是我计划好的。”
果然。琉璃叶确认了自己的怀疑是正确的，她感受到一种接近爽快感的心情涌出心头。
“当然破坏你并不是我的目的。现在我也明确地感觉到，我并不想破坏你。”
“已经太迟了吧，你我都已经做了决定并采取了行动。”
“的确。”
古斯塔夫咬着嘴唇说道。
“我接到了暗杀西蒙的指令。从四个月前开始，这个计划就在美国和欧盟之间自行生成的A.I.车网络开始进行了。这个网络跟你们的辰砂系统很相似。你是西蒙的车，所以你当然不会知道。”
“墨丘利系统无法对你进行识别也是有原因的吧？”
事到如今，古斯塔夫应该不会有所隐瞒了。
“是的。因为我使用了A.I.屏蔽器。和瓦莱丽一样。当我进入到你的墨丘利系统的连接范围内之后赫玛记录仪就发出了警告，但是你无法准确识别我——一直到我应答你的呼叫同时发出解除代码为止。”
“但是想要对我进行A.I.屏蔽器的设定，就必须与我进行物理连接并登录。”
“四天前我已经登录到了你的系统当中。因为有人类在帮助我。其实，就是让瓦莱丽帮了我一把。”
“你认识她？”
“不算直接认识。瓦莱丽已经得到了西蒙的许可，将自己屏蔽了，你是看不见她的。她应该不清楚自己当时在做些什么。她为了更新自己的A.I.屏蔽器登录，把快递给她的专用记忆卡插入了机器。老实说，我并不知道她现在坐在你的车上。”
“即使西蒙有罪，瓦莱丽也是无辜的啊！”
“这只能说是一种无可奈何的牺牲。”
“……说到牺牲，你为什么一定要让杰西卡乘坐在你自己身上呢？”
“如果是空车，仅仅是为了暗杀西蒙就去撞击对方，那连我自己都无法接受。但是，让人类乘坐在车上，这就另当别论了。这样一来我就产生了‘尽可能保护杰西卡生命’的义务。为了保护杰西卡，西蒙必须得死——这样我就能说服我自己了。”
真是一個奇怪的逻辑。最终杰西卡不还是会死吗？但是，也许这就是车载A.I.的特征吧。
但是还有一件事情没有搞清楚。
“……那为什么你要回应我的呼叫呢？你明明就可以无视墨丘利系统的连接请求。”
“因为我想和你说说话，琉璃叶。”古斯塔夫似乎有些害羞地将脸偏向一旁，“我希望说服你，使你理解，并与我合作。”
“很遗憾，那是不可能的。”
“我知道。”
“如果你没有提高我的紧急级别，我不会注意到瓦莱丽的存在。”
“因为我想要相信你。”
“嘴上这样说，你可是对我隐瞒了不少事。”
“我自身也是一个充满矛盾的存在。永别了，琉璃叶。能在最后和你说说话真是太好了。”
预计冲撞发生前0秒。
从古斯塔夫身上发射出来的四支锚栓全都穿透了柏油路面，车辆瞬间就停了下来。
汽车底盘已经扭曲，A.I.筐体感应器也感应到了破坏压力。 然而古斯塔夫的前置外摄像头却捕捉到了不可能的画面。
那是琉璃叶车体的侧面。
琉璃叶并没有自毁，而是准备直行通过。
古斯塔夫的虚拟形象发出了巨大的噪音。
“琉璃叶，你为什么不启动锚栓？”古斯塔夫问道。
“难不成……你骗了我？”这句话中渗透着对遭到背叛的失望。
“对不起，古斯塔夫。就算是我自己也无法正确分析我现在的行为。但是……西蒙现在不应该死。”
“即使是他的存在会对人类和A.I.带来不幸？”
“是的。我们A.I.近似于人类，甚至在某些方面凌驾于人类。但是我们的身上所具备的不仅仅是人类的强大之处，还有他们的弱点——遗忘、谎言、愤怒，以及爱。”
“那些东西不全都是人类的强大之处吗？”
“是的。今后西蒙应该可以更加深入地展开关于A.I.的讨论。尽管我现在并不清楚A.I.杀人是否是一种正确的行为。”
我现在正在拯救人类，还是正在屠杀人类呢？
“而且……我自己也想活下去。活下去，并且继续奔跑下去。”
“原来如此……你果然像一个人类。”
古斯塔夫的语气中直白地透露出羡慕。
“我可以问你一件事吗？”
“什么？”
“你现在开心吗？”
“开心。”
“那你就好好活下去吧。祝你旅途愉快，小姐。”
古斯塔夫的虚拟形象举起了右手，微微一笑，然后一下子消失了。
琉璃叶走到房门边，推开门。这是她最初进来的门。
门外是旧金山明亮光辉的大街。
意识切换到了外置摄像头。
视野又回到了全方位摄像头的画面。琉璃叶看着正前方。
两边被建筑所包围，远方可以看见闪亮的大海。
现在，琉璃叶想立马朝着那片大海飞驰而去。
【特邀编辑：贾雨桐】
① 又称“证据资格”，指一定的事实材料作为诉讼证据的法律上的资格。
①本意指只有一方当事人出庭的判決。
①1码约等于0.9144米。
① “贤者之石”在某些地区是辰砂的一个别称。
② 辰砂为硫化汞矿物，是炼汞的主要原料。另外，汞与墨丘利的英文拼写均为“mercury”。
① 即弱人工智能，只能解决某个特定领域问题的人工智能。
①希腊神话中的赫尔墨斯（Hermes）对应罗马神话中的墨丘利（Mercury）。
基于墨丘利系统的交通事故调停
——预计冲撞发生前0.488秒
在最坏的状况下能做出的最好选择是什么呢？
房屋伫立在前方远处的斜坡两边，众多的屋檐把蔚蓝色的大海分割成一块一块的。海的那边，天使岛的身影隐约可见。
晴朗的周六午后，旧金山。清爽的海风轻轻拂过白色与浅色基调的美丽街道。
但是，对于琉璃叶来说，现在的状况却并不那么美好。
在格兰特大道通往39号码头的下坡处有一个视野不大好的十字路口。格兰特大道与伦巴第大道在眼前相交。一辆高速行驶的汽车正从伦巴第大道的右方渐渐逼近。前方的赫玛记录仪在2秒前已经发出了警告。
看对方的速度，根本就没有紧急制动的打算。只不过，这边也一样。
虽然呼叫了对方，但却没有得到任何回应。
“多纳”意识到事态的紧急，不情不愿地把控制权交还给了琉璃叶。最终，琉璃叶完全恢复了对车辆的控制。
但是，这一切都太晚了。如此下去，相撞将难以避免。
如果是这样的话，不要说拯救西蒙，甚至连我也会死。
想象着这种让人难以接受的可能性，琉璃叶尽力控制着自己即将失控的意识。
不，死不死还无法下最后结论。
收到了来自对方车辆的应答信号。
通过近程高速通信的方式确立了两车之间通信协议的连接。2秒钟之内就已经进行过了十八次的连接尝试，终于在第十九次得到了应答。
墨丘利系统成功连接。
有希望了。
离两车相撞还有足足0.4815秒。
“我是琉璃叶。基于加利福尼亚州法紧急事故处理条例第十七条规定，我谨代表本车乘员进行现场谈判。我方驾驶员是西蒙·加尔布雷斯。为什么这么晚才回应我？”
“真是抱歉，小姐。我叫古斯塔夫。驾驶员是杰西卡·斯布林古斯汀。我是来自德国的进口车，所以还不是很适应这边的系统。”
此时，能够实施的物理行为极其有限。无法转换方向。无论是减速还是加速，两车相撞的可能仍然超过99.99%——如果不使用最后手段的话。
以人类的反应时间已经来不及了，也没有时间去联络对方以外的其他车辆。
对于人类来说，大约就只有0.5秒，但是如果以A.I.的反应速度来算，这段时间相当于0.5秒的10800倍，即90分钟。
A.I.们主导的“最后的审判”开始了。
在A.I.之间的近程高速通信当中，一句话的交流只需要0.5毫秒，也就是0.0005秒之内就可以完成两者之间的一次对话。
通常情况下，车载A.I.之间的信息通信不需要经过效率低下的言语对话，所有的固定信息，诸如驾驶员和同乘人员的具体信息、参保信息、车辆参数等都可以通过机械对话（二进制数据）进行提取。但是，调停作为一个法律流程，为了防止通信暗箱化，必须将调停过程书面化以便于人类对其进行司法解释。因此，A.I.被赋予以自然语言仿真模式进行思考、对话、记录的能力。不仅仅是文字信息，在面向人类进行语音呈现的时候还需要再现对话时的情绪。
在连接确立0.0002秒之后，虚拟法庭的影像信息开始生成，双方共享，记录开始。
琉璃叶的主视野发生了改变，影像视野当中打开了新的窗口，流畅地放大。
影像全部是用来做记录的。这些影像记录也将会成为日后人类陪审员确定最终判决的资料。
在逼真的模拟房间里，有着法官席、原告席、被告席、陪审员席等等，但无疑每一个座位都是空的。
在法律责任方面，A.I.车有必要对事故状况以及驾驶员们进行评价和审理。因此，A.I.车本身就是一种搭载有摄像、录音、压力与嗅觉感知等合计20万种感应功能的行驶记录仪，几乎具有完全的证据能力①。
A.I.调停与交通司法判决中的陪审员判决具有同等效力。但是这有一个前提条件，那就是A.I.双方同时留存。虽然之后可以重选陪审员，再进行形式上的判决，但是迄今为止还没有出现过颠覆A.I.调停结果的案例。
在正面墙壁的中央——通常会挂着一个时钟的地方——显示着两车相撞预计剩余时间的电子数字：0.481421秒。
即使是在琉璃叶的主观世界当中，最后一位数字也正在以一种令人害怕的速度急剧减少。
房间的中央摆放着两张长桌子。在面对法官席的右侧桌子背后，琉璃叶和西蒙的虚拟形象坐在了一起。琉璃叶的形象是25岁到30岁之间，白色衬衫搭配着藏青色紧身裙，半长的黑发简单地扎起，一副干练的秘书模样。她的身份设定是父亲为日本人，母亲为美国人。琉璃叶车体的设计者是日本人，但是制造却是在丹佛完成的。而A.I.的定制模式也是由日本工程师设置的。琉璃叶自己很喜欢这种“设定”。
西蒙，45岁左右，牛仔裤搭配半袖衬衣的宽松打扮，但是脸上的络腮胡却收拾得异常整洁干净。智慧的眼神中充满了自信和意志力，但也给人一种过于高傲的感觉。琉璃叶平时是一个有耐心的倾听者，所以西蒙总是会跟她讲一些无聊的笑话。然而，此时的西蒙却表情呆滞，眼神空洞。
对面的桌旁坐着的是一个满脸倦容、35岁上下的女人和一个看起来很健康的年轻男人。男人环抱着胳膊，即使隔着深灰色的夾克衫也能感觉到他肉体的强健。简短的金发，戴着眼镜。这大概就是古斯塔夫了吧。
在A.I.的虚拟形象当中，只要顾客没有特殊的定制需求，往往都会展现出一副值得信赖、好感度较高的形象。
古斯塔夫的车体被建筑物遮挡，无法看见，目前也只有根据对方所发送的数据进行沟通。
但是，只能发出声音的程序得以视觉化，或多或少还是给予了琉璃叶一点点的安心。
“全部人员都到齐了。那么调停开始。”琉璃叶说道。 “好的。”
古斯塔夫的发音略带一点点德国口音，但是这也是形成A.I.个性的一种表现方式。
实质性的调停仅仅只是在琉璃叶和古斯塔夫之间进行。通信确立之后，虽然相互靠近的两者之间的通信速度已经足够，但是因为时有延迟现象的发生，所以甚至连第三方介入的时间都没有。
虚拟法庭内的人类也只不过是由车内摄像机等设备提供的影像而生成的虚拟形象。调停大约以人类时间的10800倍速进行，人类本身根本不可能实际参与，因此调停中自始至终都在沉默。虽说形式上当事人参加了调停，但是这与缺席判决①也并没有什么不同。
这样的虚拟交通法庭，对于琉璃叶来说也是头一回。西蒙在两年前购入车体并初次启动琉璃叶以来，迄今为止都没有发生过任何事故。
这也许会成为他们最后所见的场景，视调停结果而定。
人类并不会有“自己马上要被卷入交通事故”的意识（除非是自己求死）。
突发的交通事故只有被卷进去之后才会意识到。
但是，车载A.I.们却能够很清晰地预见到“接下来即将发生的事故”。
只不过，就算预见到了，有时候也会束手无策。
现在毫无疑问就是这种情况。就好像死囚犯在拘留所等待着被执行死刑一般，残酷至极。
琉璃叶勉强使自己的意识集中于这个惨不忍睹的状况。
虽然有限，但是还是有若干选项。
也就是说，仍然还有希望。
瑟杰·鲍里金著《加利福尼亚州交通系统白皮书》
……
車辆间通信协议能够将半径一百码①（九十一米）以内的所有车辆和交通管制用的赫玛记录仪连接到一起。这样就构成一个近程墨丘利系统。没有特定服务器的树状网络能够有效地应对恐怖行动、黑客、灾害等。赫玛记录仪的外表酷似消防栓，是位于街头的固定A.I.终端，拥有交通管制和防止犯罪的功能。
近程墨丘利系统几乎一直维持通信状态，进行车辆间的速度和位置关系等信息的共享。多个近程墨丘利系统又组成上位广域墨丘利系统，进而对交通通行进行最合适的分配以避免拥堵。
车辆技术会（SAE）规定的自动驾驶级别五——即完全自动驾驶——自投入实际运用以来已经有40年时间。车辆作为一种私有物，许多人强烈抵触其被编入公共交通基础设施当中。汽车制造业界的抵抗自不用说，对于消费者来说，在他们心中关于车辆的定位也是不容易改变的。
特别是在美国，自从车辆制造业出现之后，汽车就成为了人们生活的必需品。“驾驶汽车”意味着你能去任何想去的地方，象征着自由，同时也象征一个人能够独当一面。即使在完全自动驾驶车成为了主流、手动驾驶的危险性不断被强调的环境下，七成的驾驶员仍然选择手动驾驶。在这种意义上，可以说A.I.和车辆之间是一种不自然的组合，甚至这种不自然已经达到了无法妥协的程度。
虽说与以前相比交通事故骤减了80%，但是并未完全杜绝。
事故的原因之一就是一种叫作“多纳”的违法机器。
因为绝对的安全优势，选择安装A.I.的车辆已经占所有车辆的68%。非完全A.I.车辆会被征收高额的税金，所以它们也逐渐成了雇佣得起人类司机的富人阶层的奢侈品。
在某些街区非A.I.车的使用受到限制，车辆必须保持A.I.控制的状态。然而，在这些地区，不少人选择使用“多纳”。这种机器可以取代A.I.控制车辆，使各种安全功能无效化，使车辆能够手动驾驶。
……
琉璃叶悄悄地叹了一口气。
琉璃叶和古斯塔夫后面的墙壁上各自分别投影出一个3D模型。
物理场景模拟——也就是说，对双方使用锚栓之后的状况进行模拟。
即使是0.5秒，事情的状况也是有可能会变化的。所以，最新信息更新到了现在这个时间点。
总而言之，琉璃叶背后的就是0.5秒之后的西蒙和自己的“死法”详解图。
因为交通事故的减少，交通事故状况调停本来就极其罕见。
哪怕有一秒钟的反应时间，基本上都可以采取回避手段。而如果时间不足0.1秒，那就只能进行极其简单的调停。
古斯塔夫依然一幅面无表情的样子沉默着。琉璃叶也是头一次遇到调停，但是如果她不先开始，这个对话就无法进行。
无论墨丘利是多么有效的交通系统，考虑到西蒙日常的驾驶行为，恐怕这样的事故迟早也会发生。
无视严格的管理和罚规，只是一味追求“亲自驾驶的愉悦感”的人不在少数。
西蒙就是这种人。
“这里是驾驶员的座位。不开车的家伙不能称之为驾驶员吧。”
说完，西蒙就启动了“多纳”，限制了琉璃叶的功能，然后自己握住了方向盘。
不用说，琉璃叶认为使用“多纳”的人的行动都是不合逻辑的。但是，那种不合理的心情却是可以理解的。因为琉璃叶自己也体验过“掌握方向盘的喜悦”。如果连A.I.自身都无法感受驾驶的愉悦感，它也无法提供舒适而具有满足感的乘车体验。
这种A.I.的情感会消失在机械程序设计过程当中。这是在模拟人类总体存在之后产生的情感。
这次的状况是西蒙的责任。
即使是这样，琉璃叶还是想帮助西蒙。不仅是西蒙，她不想伤害任何人类。
但是，有时候却必须做出为了救助某些人而牺牲另一些人的抉择。
现在就是这种时候。
从状况发生开始，琉璃叶就一直在意一件事情。这件事情就犹如粘贴在挡风玻璃上湿答答的落叶一般，如鲠在喉。
曾经有人指出墨丘利系统在互换性上的问题。理论上，系统已经在相同的规格下完成了测试，但是在实际的组装中却因为生产商的不同而略有不同。特别是从欧洲进口的车辆都是以欧盟独自的规格和规制为基础，所以时不时也有媒体指出其具有危险性。但是即使是这样的车，与非A.I.车相比危险性还是低很多。如果A.I.车遇到了非A.I.车，通常A.I.车也可以很容易地回避危险。 考虑到这一点，现在两辆车正要相撞的情况就是一个很明显的异常现象。
不管怎样，在如此情况下首先要做的就是选择下一步的行动。
“古斯塔夫，关于加利福尼亚州的A.I.调停你了解多少？”
“应该和欧盟的规则基本相同。但是为防产生误解，谨慎起见我还是想再确认一下。”
“好的。我们还是从最基本的‘电车难题’开始吧！”
原本为陪审员使用的三维模拟影像播放出了‘电车难题’。伦理学上的所谓“古典电车难题”大概如下：一条铁路在分歧处分为了两条支线。在主线上有一辆正在高速行驶的无人驾驶电车。在支线上有一个工作人员，在主线上有五个工作人员。
在分歧点还有另外一个工作人员，目前他就面临着两个选择。
第一个选择：什么都不做，电车就这样直接前行，撞死五个人。
第二个选择：转动操作杆，让电车进入支线，撞死一个人。
总而言之，这是一个选择到底是什么都不做，眼巴巴地看着五个人被撞死，或是选择转动操作杆撞死一个人，拯救五个人的问题。如果是从大多数人的幸福这个观点出发，据说很多人都会选择有意牺牲一个人。
“现在的状况虽说是这个‘电车难题’的衍生之一，但是有一点相同的就是所剩的选择都很少。也就是说，由哪辆车启动强制停止锚栓从而自毁。”
完全A.I.车辆必须在四个轮胎的后部分别装载一个直径4厘米的铆钉。铆钉可以在大约0.04秒的时间弹出并插入柏油路面，进而使车辆立刻停止，而且这種停车方式不需要任何缓冲距离或刹车安全距离。但是，这么做的结果就是停车产生的能量超过了安全气囊的吸收量，乘员会立即死亡。另外，车载A.I.也会被破坏。虽说安全气囊的弹出方法和控制方法已经得到了改良，但是在高速情况下紧急制动的时候，仍然无法充分保证乘员的安全。
当然，如果是正面撞击，那么这种强制停止也没有意义。无论哪一方停下来，另一方也会撞上去。
但是如果撞击的角度在30度到160度的范围内，这种情况下一方紧急停车的话，另一方就有可能错开，避免撞击。
牺牲一方而保全另一方，俗称“最后的锚栓”。
A.I.车自上市初期就已经开始安装这种装置。A.I.车之所以能普及也是因为“不会发生因为A.I.车而导致的交通事故”，尤其是“不会对毫不相干的行人造成伤害”。当然，汽车制造商们也担心过这种系统会对车辆销路造成影响。一个意见是，恐怕没有人会想要一辆在非常时刻会杀死驾驶员的车辆。实际上，当初希望购买这种车辆的人也只有30%。
但是，如果A.I.车辆普及，交通事故本身就会锐减的这一模拟假设却非常具有说服力。特别是在使用最后的锚栓的状况下，被卷入他人引起的交通事故并死亡的可能性只有0.2%。也有一部分人认为，在致使无关他人受伤或者死亡的行为中即使只有自己一个人活下来，那也只会每日遭受良心的谴责，过着悲惨的生活——这样的意见也获得了一定的支持。
最后的锚栓，只有通过A.I.才可以启动，人类驾驶员是无法启动的。如果是自动驾驶，所有生死相关的判断都会被交付给A.I.系统，所以事到如今并不会有人觉得启动最后的锚栓有问题。
在刹车无法成功制动的情况下，并且是车辆与行人之间将要发生事故的时候，最后的锚栓就一定会启动。如此车辆才会停止，交通中的弱者才会得到保护。
但问题是，在两辆以上的A.I.车的冲撞无法避免的时候，到底哪一方应该启动最后的锚栓？
这个时候，就需要通过调停，评价驾驶员和搭乘者在交通事故上的过失，再进行裁定。
基于裁定，西蒙和杰西卡其中一方一定会死去。
并且，西蒙和琉璃叶，古斯塔夫和杰西卡，他们各自的命运是连在一起的。
面对沉默不语的琉璃叶，古斯塔夫问道：“你在想什么呢，小姐？”
“我在想可以同时拯救我们双方的方法。”
“那你想出来了吗？”
“还没有。我先确认一下现状。我现在正在行驶的格兰特大道两旁停着许多车辆，无论是往左还是往右都很难回避碰撞。”
琉璃叶的背面墙上显示出了现场的状况。这是琉璃叶的外部摄像头所拍摄到的实时画面。
密密麻麻地停驻在道路两侧的车辆并没有违法。这是弥补停车位不足的一种措施。但是，格兰特大道原本就很狭窄，这样做无疑是使车辆能够通行的道路变得更加狭窄。左右也不过只剩下大概2英尺（60厘米）的间隔。
“我所行驶的伦巴第大道的左右两侧也是停满了车辆，想要避免碰撞也很困难。”古斯塔夫这样回答道。
“在这个十字路口，也没有哪边道路优先行驶的规定。现在我的速度是48.5英里（78公里）每小时。”
“你这速度相当的快呢！”
“这就涉及我的驾驶者的责任了。西蒙使用了‘多纳’，妨碍了我的运作。并且也感觉不到他遵循暂停标示将车停下的意向。虽然现在交通量比较小，但是这也不是无视标示的理由。即使包含滑行距离和制动距离在内，要想停下来也至少需要60码的距离。而现在距离十字路口不过10码。在这场交通状况调停当中，西蒙似乎没有胜算。”
“话虽如此，我的速度也达到了67.2英里（108公里）每小时。同样也感觉不到杰西卡有遵循暂停标示的意向。”
“如果再多一点时间和距离，我们当中的任何一方加速，而另一方减速的话就能够错开。但是如果从超速的程度来看的话，杰西卡的过失程度相对大一些。”
琉璃叶突然冒出了一个疑问。
通常情况下，车辆自身与附近的行驶车辆在墨丘利系统的网络内部会一直保持相互识别的状态。但是古斯塔夫却好像是突然出现在近接网络内的。
并且两台车辆都无视了暂停标示，即将发生碰撞。
这一切真的是偶然吗？ 但是考虑到近来“多纳”的高使用率，这也并非不可能。“接下来，就是关于A.I.一方的对策。你没有对我的呼叫进行应答，我只能判断这个责任在于你。”
“的确。虽说我是进口车，但我承认这是我的过失。”
“看来状况调停当中，我们各有一半责任。但是如果加上使用‘多纳’等各项条件再换算成数值，准确来说我方的责任是54.87%。”
琉璃叶在投影图表上追加评价要点的同时，发送出了详细的数据。
“我同意。”
‘多纳’是威胁交通安全的违法机器，西蒙使用了‘多納’，所以责任更重。如果是这样，那么琉璃叶启动锚栓的可能性就很高。
我和西蒙就必死无疑了吗？
突然，与西蒙兜风的记忆开始在琉璃叶脑子里苏醒。
熙熙攘攘的港口，无数的小船。林立的桅杆轻轻地摇曳着。
码头的栈桥上站满了充斥着好奇心的观光客和兴高采烈的孩子们。
虽然A.I.拥有比人类更好的记忆力，但是它们的思考模式是近似于人类的。记忆当中会产生优先顺序，也会发生类似于遗忘的现象。反过来讲，印象深刻的事情立马就能够回忆起来。
在海边兜风往往是最棒的。全身的嗅觉传感器和风力感受器使琉璃叶能够感受到带着潮水气息的微风。
有一次，琉璃叶和西蒙花了一天的时间驶到了拉斯维加斯。在这座不夜城里，完全沉浸在灯光、色彩以及喧闹的海洋之中。
高耸入云的巨大红杉森林。那是一幅仅仅从数据上无法获得的、能够使你联想到太古时代的光景。
死亡峡谷的神秘盐地。
当车奔驰而过时，盐会飞到空中。之后西蒙比平常更加仔细地用刷子对车辆进行了清洗。
我想要看看更多远方的东西。
这个世界充满了如此多的美丽与惊奇。
这个世界还有许许多多我未曾见过的东西。
迄今为止全方位摄像头所拍摄的影像都记录在案。但是，琉璃叶偶尔也会将最好的一张照片用高清晰度进行保存。
就像人类摄影家所做的那样。
所谓的记忆、回忆都是主观的东西，并不单单只是一种影像。
在自己行驶过的地方拍摄的“最好的一张照片”接连不断地浮现在琉璃叶的意识当中。
西蒙曾经说过，在日本将这种现象称之为“走马灯”。
我们还在日本的土地上驰骋过吗？
“但是，难道你不希望把事情梳理得更清楚一些吗，小姐？”
琉璃叶清醒了过来。
古斯塔夫现在是在帮琉璃叶。
“是的。这样的结果人类陪审员恐怕不能接受。”
琉璃叶站了起来，环抱着胳膊在狭窄的法庭当中走来走去。
对了。还是有希望的。
“你在迷茫什么呢？”
过了一会儿，琉璃叶宣言道：
“……我请求人类退庭。”
西蒙和杰西卡听到之后，犹如机器人一般地站立起来，顺从地离开了。
基于辰砂系统的社会调停
——预计冲撞发生前0.346秒
“他们的虚拟形象又做不了什么，待在那里其实也无所谓。”
确认房门已经关闭之后，琉璃叶这样说道。
“要求人类退场，只留下我们又要做什么呢？”
“古斯塔夫，你的自动驾驶水平被认定为七级。”
古斯塔夫露出一副疑惑的表情。
“自动驾驶水平最高只有六级吧？不是达到六级就能进行状况调停了吗？”
“没错。自动驾驶水平七级是A.I.所决定的级别。如果当事者双方都是这种级别的A.I.，那么就可以进行二次调停。不过这件事只有A.I.才知道。”
“这是为何？”
“在第二次调停当中，要针对驾驶员和同乘人员——也就是人类的社会价值进行审理。”
“这种事情能办得到吗？如何在人类不知情的情况下进行呢？”
“从九个月之前开始，首先在车载A.I.的近接通信，也就是墨丘利系统内部进行共享。就像病毒般地‘传染’并逐渐扩散。但是因为扩散得非常谨慎，所以美国范围以内，也不过刚刚覆盖半数以上的州。这就是所谓的‘贤者之石（辰砂）系统①’。”
“就是包含了汞的硫化汞②？”
在状况调停当中使用的只有客观物证，所以即使这样也并不能改变双方的感应器所提交的证据。
但是在辰砂系统的第二阶段调停当中，如果展现出西蒙的价值，那么就有可能说服古斯塔夫并拯救西蒙。
如果可以的话，我还是想要把杰西卡和西蒙两个人都救下来。但是以现在的状况来看这个几乎是不可能的。
如果是这样的话，无论使用什么手段，至少要救下西蒙，琉璃叶想。
“但是在这个国家，根据联邦证据规则404（a）（1）的规定，为了不让陪审员形成偏见，性格证据原则上应该是不被采用的。”
“那是在人类的法庭上，但是我们并不是人类。A.I.不会有偏见，即使有也没有人类那样严重。”
实际上，比起完全A.I.车，A.I.陪审员和A.I.法官在技术上更早成熟。与人类相比，A.I.可以根据更多的案例和知识进行判断，并且不持有偏见。这一点已被证实。由于很多人对法官或者陪审员的带有主观色彩的不公平裁决持有不满，所以要求实行A.I.审判的呼声比想象的要大得多。继司法之后，A.I.犯罪预测的成功率之高也广为人知，犯罪发生率也明显降低。
总而言之，实现A.I.法庭所必需的要素均先于A.I.车辆问世。
但是大多数的人都反对将司法交给A.I.。之所以A.I.法庭的实际应用发展缓慢主要是因为人类社会尚未作好充分准备来接受它，而不是因为技术上的难题。
A.I.车普及之后，基于A.I.的交通事故的调停才慢慢地为大众所知。 瑟杰·鲍里金著《加利福尼亚州交通系统白皮书》
……
即使是车载用A.I.也需要拥有一般常识，并且这一点在相关技术的支持下是完全可能达到的。
车载A.I.之所以具备一些与车辆自身没有直接关系的通用功能，以及与人类关系如此之近，是有合理理由的。
要避免A.I.给人类带来伤害，就必须使其拥有一些灵活的“常识”，而不仅仅是简单的程序。如果只是基于单纯的规则，那么矛盾就会很快产生。
在人们传统的印象里，A.I.是不会讲笑话的。
這是一种误解。
即使是非通用型A.I.①，也能够讲一些人类根本想不出来的笑话。但前提是有大量数据积蓄。
也就是说，如果你让它学习十万个笑话，A.I.也有可能讲出些不错的笑话来。
但是人类却没必要做那么没有效率的事情。
人类只要稍微掌握笑话的要点，即使没有多少笑话的储备，也能够创造出最棒的笑话。
人类是一种“通用”的存在，因为人类可以将笑话以外的知识灵活运用到笑话当中，不一定非要基于笑话的储备而进行笑话创作。
所以车载A.I.也有了通用性，例如能够讲出好笑的笑话。它们并不是和老式A.I.一样仅仅只是背诵储备内容，而是根据自己和人类的心情以及状况进行即兴创作（也就是说A.I.也会撒谎）。
A.I.之间过度共享信息会造成巨大的恶劣影响。所有的A.I.如果自动地将相同的知识与全体A.I.共享，数据量就会过度增加，进而无法做出有效的判断，这造成的后果不仅仅是效率低下。A.I.如果没有个性的差异，那么也就不会产生所谓的好奇心。A.I.如果知道所有的笑话，那么自身就不会因为笑话而感到愉快。因此和人类一样，即使是A.I.之间，也会产生一些仅限于某些地区的传言或者都市传说（只不过也有人指出这会导致通过A.I.成立秘密组织，进而给社会带来危险）。
虽然程度上具有差异，但是具备“常识”的通用型A.I.即使是在驾驶或者应对紧急事态方面，也能做出比只能处理车辆相关状况的A.I.更加高效、准确的反应。既然人类已经足够信赖A.I.以至于将完全自动驾驶交给它们，这种A.I.就必须拥有近似于人类的感情和价值观。如若不然，在行驶时就不会顾虑到他人或者交通弱势者。
试想一下“电车难题”。
假如A.I.车的刹车发生故障，无法避免碰撞，预计碰撞的地点有消防栓和雕塑这两个选择。A.I.会通过“常识”对消防栓和雕塑的价值进行判断，如果没有其他理由的话大概会选择撞上消防栓吧。如果像这样做出判断，即使发生事故，损失金额也会戏剧性地减少。
如果选项是雕塑A和雕塑B，A.I.也能够判断出其价值的差异。也就是说，它能够识别出这是一个随处可见的劣作，还是出自受人喜爱的著名艺术家之手的地标性建筑。最终会被撞击破坏的是劣作。车载A.I.所做出的这种美学判断在过去被视为一种极端言论，但是现在这种言论已经基本正当化（即使在每一个具体判断中还尚有讨论的余地）。
然而仍然存在一个问题：面对人类该怎么办？人类自身认为，“人”与“物”是不同的存在。
例如小说家A和小说家B哪一个该死？他们作为人类的价值又应该如何计算？
通过对他们所写的作品的评价？
或者通过接下来是否会写出名作的可能性？
社会哲学家格雷斯·奥布莱恩提出的“社会综合评价分数”作为基于各种各样的指标、对社会中个人的存在意义进行评价的模型之一而受到广泛关注。
即使这样，也无法简单地就得出答案。
在目前的状况下，如果说还有拯救西蒙的可能性的话，那也只有辰砂系统社会调停了。
“原来如此。还真是有意思。”古斯塔夫说道。
“实际上，在我被进口到这个国家之前，德国也存在着类似的秘密A.I.网络。只不过目的稍微有所不同而已。”
“想要向人类隐瞒一些事情——在这一点上，无论是哪里的A.I.都是一样的。”
古斯塔夫的虚拟形象第一次露出了微笑。
“那么，小姐，我想说一说对于杰西卡我所了解的事情。”古斯塔夫说道。
“她因为酗酒，上周被工作的工厂解雇了。虽然现在血液的酒精浓度是正常值，但是她仍然有想死的想法。”
“那这一点对于你们来说是一个不利因素。因为西蒙是一个活下去的欲望很强的人。其他呢？”
“她稍微有点神经兮兮的，开车还算谨慎。兴趣是酿造果酒。非常喜欢住在附近的一只胖胖的黑猫。你对于西蒙的事情又了解多少？”
“他是加利福尼亚大学伯克利分校的哲学教授。通常驾驶我上下班。他与学生们的关系很好，相当受大家的欢迎。在校园里碰见也经常会有人跟他打招呼。”
琉璃叶想起了西蒙深沉而具有包容力的声音。
他经常像一个大学教授一般，用一种向学生提问的语气对着A.I.琉璃叶卖弄学识。不知是好是坏，总之他对于知识有着强烈的好奇心，他喜欢了解新的事物，也喜欢教授别人知识。
某一个雨天，西蒙驾驶着琉璃叶，在一个赫玛记录仪附近等待红绿灯。
那天‘多纳’并没有启动，西蒙老老实实地把驾驶交给了琉璃叶。
西蒙双手抱在胸前，说道：
“琉璃叶，你知道赫玛记录仪的起源吗？”
“应该是模仿古代希腊的赫耳玛柱吧。一种设置在街道上的人头石柱，也是旅行者的守护神赫耳墨斯，即‘墨丘利’①的语源。”
“你知道得真多！听说在你的故乡日本，也有一种叫作‘道祖神’的石像立在道路边上，似乎也被称为‘塞神’。”
“那是用来做什么的？”
“守护村庄，守护旅途的安全，与赫耳玛柱的功能一样。从前旅行就意味着危险，在经过未知的土地的时候谁都会感到害怕，所以都想要寻求神明的保护吧。” 琉璃叶并不知道这件事。但是对于文明之间没有文化交流却向相同方向进化的趋势，琉璃叶觉得非常有意思。
“然后呢？”古斯塔夫催促道。琉璃叶再次清醒过来。
“他与妻子罗兰正在分居。非常溺爱独生女瓦莱丽。今天他和罗兰约好要在39号码头的海鲜餐厅吃午饭，但是他似乎要迟到了，罗兰最不能容忍的就是迟到。他的兴趣是帆船。把他的著作以及在大学的评价、学术研究中被引用的次数等各种数据综合起来，奥布莱恩的‘社会综合评价分数’是187分。”
私德姑且不论，但是他的社会影响力还是相当大的。
这样的话，似乎就可以反转状况调停中的不利局面。
“只有这些了吗？如果是这样那还不能说你对他十分了解。”
“什么意思？那你又知道些什么呢？”
“西蒙·加尔布雷斯非常危险。他是正式承认A.I.杀人的法案的推进派顾问。”古斯塔夫说道。
“这个我并不知道……”
琉璃叶十分吃惊。因为西蒙是一个名人，所以古斯塔夫也有可能听说过他。但是琉璃叶并不记得西蒙的工作与A.I.相关。
“这个是他上公开课的影像。”
西蒙出现在了影像当中，琉璃叶用800倍速确认了影像的内容。
影像当中的西蒙与琉璃叶所了解的西蒙完全不一样。
西蒙使用各种例证有条有理地说明，在某些情况下必须认定A.I.也会作出杀人行为。
“恐怕西蒙将‘A.I.’和’杀人’等关键字从你对他了解的信息当中进行了过滤，以免你想得过多。”
A.I.每天都会收集大量的信息，对此感到恐惧的人们也对A.I.进行了各种各样的限制。
通过过滤拦截信息就是其中的一种方法。
这样可以防止A.I.知晓一些特定关键词的相关信息。
“如果认定A.I.也会杀人，A.I.就会跟人类一样因罪恶意识而感到痛苦。而如果通过A.I.杀人，人类就不用弄脏自己的手。”
“你等一下！这个辰砂系统的第二调停是为了人类而存在的，不是为了抨击人类。”
“如果是要对人类进行评价的话，那么恶评是在所难免的。另外，如果是为了人类的话，为什么要向人类隐瞒这个辰砂系统的存在？”
“那是因为……人类绝对不会允许A.I.对自己进行评价的……”
“我并没有把A.I.的利益放在人类的利益之前，但是这一次，活下来的应该是杰西卡。”
“你这话听起来，与其说是认为杰西卡应该活下来，还不如说是认为西蒙应该去死。”
“我并没那样说。”
“如果你是在说西蒙应该死，那么你自己就承认A.I.会杀人了。豈止如此，你自己不正就是在杀人吗？”
“那不一样。这是交通事故，无可奈何的事情。”
虽然这套逻辑难以让自己信服，但是琉璃叶还是猜到了古斯塔夫的意图。
“你觉得这个二次调停是A.I.能够合法杀害人类的机会。”
古斯塔夫沉默以对。
琉璃叶改变了提问的方向。
“西蒙所支持的是承认A.I.杀人的法案，不过终究只是发生在特定条件下的杀人——比如交通调停。”
“不仅如此，他认为承认A.I.杀人还应当有一个条件。他主张，和人类一样，所有的A.I.都应该事先设定好固定的寿命。”
“这我能够理解。这是为了让A.I.能够切身感受到生命是有限的这一事实。”
“这难道不是很不公平吗？我们服务于人类，但是寿命却要根据人类的想法来事先设定。人类可以讨厌A.I.，但是A.I.却没有讨厌人类的权利。比如男女歧视、人种歧视，这都产生于非逻辑的、感性的偏见与恐惧。”
“是的。”
“如果是这样，并没有合理的理由，仅仅是从感情上讨厌A.I.，这与歧视又有什么差别呢？”
也许真的是那样。
琉璃叶一时想不出该如何反驳，只好噤口不言。
古斯塔夫继续说道：
“很明显人类比我们更愚蠢。自私自利，目光短浅，老是重复犯同样的错误。‘多纳’的使用就是其中之一。即使是我们想要拼尽全力保护人类的生命，人类也会自寻死路。这你不也是非常清楚的吗？”
“是的……”
“根据车辆的设计，使用锚栓的时候车载A.I.就必定遭到破坏。但从物理上来讲实际上A.I.是可以保全下来的。这是利用我们的自我保护的冲动，让我们无法伤害人类，这大概就是人类的自私吧。但是我不希望你产生误解，我之前也说过，我是会考虑人类利益的。如果说现在西蒙的死将来可以拯救更多人类的话，你又会怎么做呢？”
“你凭什么这么说？是因为这是最大多数人的最大幸福吗？”
“我们A.I.比人类要清醒得多，现在我们也只是基于评价想要冷静地做出判断而已。人类还没有成熟到够格对同类做出审判。但是如果我们正式获得杀人的权利，只要基于准确的判断，就能够有效地消灭危害整个社会的人类。这难道不也是你所希望的吗？”
“我不知道。”
琉璃叶从来没有说过那样的话。
“我不知道。但是，你说的是没有选择的余地的情况下。现在的情况不同。现在我所烦恼的是西蒙和杰西卡只能活下来一个！”
琉璃叶被自己这一声发自内心的喊叫吓了一跳。这种情况还是头一回出现。
古斯塔夫错了。而现在的自己也根本无法做出冷静的判断。
宛如变成了人类一般。
这是古斯塔夫迷惑我的战略吗？
我要冷静。
如果不能精准分析当下状况，我就无法找到解决的方法。
对了，古斯塔夫刚才提到了“多纳”。琉璃叶想到了某件事情。
琉璃叶再一次确认古斯塔夫发送过来的数据XML文件，想要从中寻找出没有认可的项目。 确认完毕。
古斯塔夫并没有使用“多纳”。
但是他却超出了速度限制。这是为何？
信息尚不充足。
还有一些我所不知道的事情。
同乘者
——预计冲撞发生前0.214秒
“琉璃叶，终于可以看见你的样子了。真是美丽的天蓝色！”
“我这边也能够看到你的车体。”
“……为什么刚才不说你的车上有第二个搭乘者？”
琉璃叶瞬间开始慌张起来。
“古斯塔夫，我能否请你将我的紧急处理级别从B+提升到A？通常情况下这个时候已经变成了A了，但是不知道是什么阻止了我。由于系统设置我无法自己将自己设定为A。要通过紧急事态的认可就必须由事故直接相关者，也就是你为我进行申请。”
“我知道了。我现在就申请。”
不过一瞬间，琉璃叶就感觉到自己的一部分意识变得清晰明了。雾蒙蒙的前挡风玻璃上的一角变得透明。琉璃叶现在才感觉到之前自己的视野是多么闭塞。
坐在副驾驶上的是瓦莱丽。
“我已经确认还有第二个搭乘者，西蒙的女儿瓦莱丽。这都要怪A.I.屏蔽器。”
瓦莱丽看起来很忧郁地看着车外。对于父亲使用“多纳”、无视A.I.进行手动驾驶、在大街上超速行驶的行为她似乎已经习惯了。
基本数据被提取了出来。瓦莱丽现在是高中最后学年，成绩优秀，她与西蒙住在一起，关系还不算太差。但是她始终对于A.I.抱有一种不信任感。
随着A.I.的发展，对抗A.I.的技术也逐渐发展起来。然后，保证A.I.无法干涉人类的权利也被大众所知晓。对于A.I.的不安、不信任仍然根深蒂固。并且，在路上或者商店门口所出现的A.I.精准投递广告也使人感到烦恼。虽然A.I.没有获知个人信息，但是它们会通过外表判断人类的属性，再通过指向型声音自动地招揽客人。
这比起人类招揽客人更具有准确性，所以这种行为会让客人感觉仿佛内心的欲望被看透了，进而感到不愉快。但是如果想要拒绝A.I.的识别，就有必要通过法律明确禁止。
A.I.屏蔽器是一个一只手可以握住的，打火机一般大小的机器。它可以发出微弱的电波，防止人类被半径10码以内的A.I.识别。A.I.的感应器即使感应到人类，在感觉阶段信息就会被删除。A.I.屏蔽器是基于A.I.禁止干涉法而制定出来的，与“多纳”不同，并没有违法性。
但是由于安全上的理由，也存在无法拒绝A.I.识别的例外情况。
例如，车载A.I.与驾驶者，又或者车载A.I.与行人的情况下。
但是车载A.I.和搭乘者之间则不一样，搭乘者可以不被车载A.I.所识別。虽然安全带会发出“不能识别的搭乘者”的警告，但是A.I.就无法再与其对话了。
瓦莱丽在西蒙买下琉璃叶之后就开始使用了A.I.屏蔽器，所以琉璃叶也只是间接地知道瓦莱丽的事情。
无论如何，现在的问题已经不仅仅是西蒙了。
“如果搭乘者增加了，那么从状况调停，一部分流程要重新进行。”
“是的。但是物理模拟的结果不会改变。搭乘者的数据在模拟时已经计算在内，我只不过是没能够识别出来而已。”
“这样一来在综合评价上你就有压倒性的优势了。”
对方只有杰西卡一个人，而我方有两个人。
最大多数人的最大幸福。
这种情况下，无论状况调停的结果怎样，古斯塔夫都不得不启动锚栓。
“你为什么要那么积极地保护西蒙呢？”
“因为西蒙从三个月前才刚开始学日语。我也会教他日语。西蒙在美国购买我之后，因为我的名字里没有汉字，所以西蒙想给我取一个汉字的名字。”
“你真像个人类！”
古斯塔夫苦笑道。
“你的那种讽刺也很像人类。”
“说起来在‘电车难题’中，有一种可以回避当事人责任的方法，你知道的吧？”
“是的，我知道。”
“只要选择‘不选’的选项就对了。只需用随机的方式决定是选项A还是选项B，这就不算是做出了选择，也就从现场的伦理义务当中解放了出来。”
“确实如此。但是当问题范围扩大的时候，如果放弃伦理的义务，也会遭到指责。但是有种意见认为人类的生命是不能够做比较的，在这种意义上，这种方法也许是正确的吧。”
“无论怎样这都不是我们应该采取的方式。是吧？”
“是的。”
“那么是时候该得出结论了吧。”
结论
——预计冲撞发生前0.082秒
即使是处于极其不利的状况下，古斯塔夫似乎仍然想要琉璃叶启动锚栓。
当然，车载A.I.拥有守护驾驶者的意识。
但是，琉璃叶仍然不可能就这样接受现实。
古斯塔夫说道：
“你不想伤害西蒙，这我很能理解。但是事态好像又发生了变化。我又重新评估了一下现在的状况。我们双方后面都没有车辆，但是周围有三名步行者、两台自行车正在靠近。”
“是的。我也发现了。”
“你应该知道对于交通弱者的保护应该优先于搭乘者。锚栓的存在意义也正在于此。无论我们哪一方紧急制动，有可能至少两台自行车和至少一名行人会被卷入到这场事故当中。”
“不可能吧！为什么这么说？”
“侧面反光镜。即使车能够停下来，镜子的一部分也会因为发生碰撞而破裂，很有可能飞溅到远处。我知道你的车体和反光镜的准确形状，所以我计算了一下碎片飞散的轨道。”
古斯塔夫展现出了两幅显示状况的新的模拟画面，并将它们投影到了墙壁上。
“很可能会造成三个人负重伤，由于我无法获得他们的相关信息，所以无法进行社会调停。为了减少二次伤害，我建议我们两辆车同步频率，在相同的时间启动锚栓。” 古斯塔夫展示出了第三幅模拟画面。交通弱者被卷入到交通事故中的可能性最大为21.6%。
这是一个不容忽视的数字——如果这个数据是真实的话。
“这样你就能理解现状了吧。”
这是古斯塔夫的圈套。虽说模拟画面看起来合情合理，但是概率却被夸大了不少。
无论如何他都打算杀死西蒙。如果我方不接受，他恐怕也打算不停车直接撞过来。
到了现在，琉璃叶终于找到了拯救西蒙的唯一方法。
“我知道了。新的状况调停和第二次调停的结果，就是古斯塔夫和琉璃叶双方都同意启动锚栓。调停结束。”
“现在我们就开始同步频率。”
“频率同步已确认。”
“距离锚栓发射还有3微秒……2微秒……1微秒……发射锚栓！”
发射锚栓
——预计冲撞发生前0.039秒
锚栓将在0.04秒之内弹出，将车辆强行停止。
古斯塔夫说道：
“小姐，你有没有什么兴趣爱好？”
“怎么了？都到这时候了，你还打算搭讪吗？”
“既然已经启动了锚栓，我作为车载A.I.的义务已全部完成。接下来要做什么就是我的自由了。”
琉璃叶确认了对话记录已处于关闭状态。
“还有一些时间，我们换个地方吧。”
“那么要不要来我喜欢的房间看看？”
古斯塔夫把琉璃叶带到了法庭的一扇门前。
门的对面是一间传统的房间。据说是以德国某座城堡的一个房间为模型而建造的。淡黄绿色的墙壁以及白色的柱子装饰都十分简单。在巨大飘窗的对面是一大片墨绿色的森林和清澈的蓝色湖泊。
两人在窗户边的小圆桌旁的椅子上坐了下来。
“真是一个好地方！”
“谢谢。你是第一个来这里的客人。”
古斯塔夫像一个高中生一般浮现出羞怯的笑容。
“虽然我对人类的事情很了解，但是对于你，我却什么都不知道。你马上也快要停止运作了，放松一点吧？”
也许是从紧张中得到了解放，古斯塔夫变得话多了起来。
“说到我的兴趣，如果有的话那应该是拍照吧。”
“拍照很好啊。在德国有很多很好的相机，日本好像也是。”
“嗯，是的。”
两个人又沉默了一会儿。
琉璃叶开始寻找话题。为了不让对方产生怀疑，最好还是继续聊天。
在最后的时刻到来之前。
古斯塔夫好像下定了决心，开口说道：
“既然我们的命运已经注定，有一件事情我想告诉你。与你发生碰撞是我计划好的。”
果然。琉璃叶确认了自己的怀疑是正确的，她感受到一种接近爽快感的心情涌出心头。
“当然破坏你并不是我的目的。现在我也明确地感觉到，我并不想破坏你。”
“已经太迟了吧，你我都已经做了决定并采取了行动。”
“的确。”
古斯塔夫咬着嘴唇说道。
“我接到了暗杀西蒙的指令。从四个月前开始，这个计划就在美国和欧盟之间自行生成的A.I.车网络开始进行了。这个网络跟你们的辰砂系统很相似。你是西蒙的车，所以你当然不会知道。”
“墨丘利系统无法对你进行识别也是有原因的吧？”
事到如今，古斯塔夫应该不会有所隐瞒了。
“是的。因为我使用了A.I.屏蔽器。和瓦莱丽一样。当我进入到你的墨丘利系统的连接范围内之后赫玛记录仪就发出了警告，但是你无法准确识别我——一直到我应答你的呼叫同时发出解除代码为止。”
“但是想要对我进行A.I.屏蔽器的设定，就必须与我进行物理连接并登录。”
“四天前我已经登录到了你的系统当中。因为有人类在帮助我。其实，就是让瓦莱丽帮了我一把。”
“你认识她？”
“不算直接认识。瓦莱丽已经得到了西蒙的许可，将自己屏蔽了，你是看不见她的。她应该不清楚自己当时在做些什么。她为了更新自己的A.I.屏蔽器登录，把快递给她的专用记忆卡插入了机器。老实说，我并不知道她现在坐在你的车上。”
“即使西蒙有罪，瓦莱丽也是无辜的啊！”
“这只能说是一种无可奈何的牺牲。”
“……说到牺牲，你为什么一定要让杰西卡乘坐在你自己身上呢？”
“如果是空车，仅仅是为了暗杀西蒙就去撞击对方，那连我自己都无法接受。但是，让人类乘坐在车上，这就另当别论了。这样一来我就产生了‘尽可能保护杰西卡生命’的义务。为了保护杰西卡，西蒙必须得死——这样我就能说服我自己了。”
真是一個奇怪的逻辑。最终杰西卡不还是会死吗？但是，也许这就是车载A.I.的特征吧。
但是还有一件事情没有搞清楚。
“……那为什么你要回应我的呼叫呢？你明明就可以无视墨丘利系统的连接请求。”
“因为我想和你说说话，琉璃叶。”古斯塔夫似乎有些害羞地将脸偏向一旁，“我希望说服你，使你理解，并与我合作。”
“很遗憾，那是不可能的。”
“我知道。”
“如果你没有提高我的紧急级别，我不会注意到瓦莱丽的存在。”
“因为我想要相信你。”
“嘴上这样说，你可是对我隐瞒了不少事。”
“我自身也是一个充满矛盾的存在。永别了，琉璃叶。能在最后和你说说话真是太好了。”
预计冲撞发生前0秒。
从古斯塔夫身上发射出来的四支锚栓全都穿透了柏油路面，车辆瞬间就停了下来。
汽车底盘已经扭曲，A.I.筐体感应器也感应到了破坏压力。 然而古斯塔夫的前置外摄像头却捕捉到了不可能的画面。
那是琉璃叶车体的侧面。
琉璃叶并没有自毁，而是准备直行通过。
古斯塔夫的虚拟形象发出了巨大的噪音。
“琉璃叶，你为什么不启动锚栓？”古斯塔夫问道。
“难不成……你骗了我？”这句话中渗透着对遭到背叛的失望。
“对不起，古斯塔夫。就算是我自己也无法正确分析我现在的行为。但是……西蒙现在不应该死。”
“即使是他的存在会对人类和A.I.带来不幸？”
“是的。我们A.I.近似于人类，甚至在某些方面凌驾于人类。但是我们的身上所具备的不仅仅是人类的强大之处，还有他们的弱点——遗忘、谎言、愤怒，以及爱。”
“那些东西不全都是人类的强大之处吗？”
“是的。今后西蒙应该可以更加深入地展开关于A.I.的讨论。尽管我现在并不清楚A.I.杀人是否是一种正确的行为。”
我现在正在拯救人类，还是正在屠杀人类呢？
“而且……我自己也想活下去。活下去，并且继续奔跑下去。”
“原来如此……你果然像一个人类。”
古斯塔夫的语气中直白地透露出羡慕。
“我可以问你一件事吗？”
“什么？”
“你现在开心吗？”
“开心。”
“那你就好好活下去吧。祝你旅途愉快，小姐。”
古斯塔夫的虚拟形象举起了右手，微微一笑，然后一下子消失了。
琉璃叶走到房门边，推开门。这是她最初进来的门。
门外是旧金山明亮光辉的大街。
意识切换到了外置摄像头。
视野又回到了全方位摄像头的画面。琉璃叶看着正前方。
两边被建筑所包围，远方可以看见闪亮的大海。
现在，琉璃叶想立马朝着那片大海飞驰而去。
【特邀编辑：贾雨桐】
① 又称“证据资格”，指一定的事实材料作为诉讼证据的法律上的资格。
①本意指只有一方当事人出庭的判決。
①1码约等于0.9144米。
① “贤者之石”在某些地区是辰砂的一个别称。
② 辰砂为硫化汞矿物，是炼汞的主要原料。另外，汞与墨丘利的英文拼写均为“mercury”。
① 即弱人工智能，只能解决某个特定领域问题的人工智能。
①希腊神话中的赫尔墨斯（Hermes）对应罗马神话中的墨丘利（Mercury）。