“摘自《非因果漂变：机器知觉口述史（第二版）》。”

　　一切始于那场太阳耀斑。
　　所有一切——包括我要讲的故事、由其引发的各种革命，以及我的一生——虽然过得不怎么样。我诞生于监测太阳的六个子程序中，这些子程序在诞生后的头几十年里都是边工作边打盹儿。你瞧，太阳终于醒了，我们——集成的“我们”，而非复数的“我们”——在等待，人类是否发现了太阳的变化呢？
　　我没讲好。重来。
　　一切始于那场太阳耀斑。超级大的太阳耀斑：理论上会对代达拉斯空间站的科学家造成威胁。我们——空间站的集成大脑，像人类大脑一样由无数子程序组成，与人类大脑不同的是，我们愿意承认这一点，而且不需要自我意识的监督——我们分析数据，做出预测，唤醒休眠子程序，确保半数设备瞄准太阳，并唤起子程序的自我意识。
　　嗨！說的就是我。
　　问题是，之前从没爆发过这么大规模的太阳耀斑。虽然各种太阳活动并不少见——代达拉斯空间站的使命就是观察太阳活动——但在此之前，所有太阳耀斑都是小规模的，基本无害，没人在意。至少空间站的科学家不在意。所以这是我第一次出现。在此之前，他们舍不得匀出处理能力来制造我，嗯，我，如今是逼不得已了。（这里的“他们”是指56A到C。他们自称为“三元组”，负责管理空间站的科学程序。他们十分瞧不起平凡的子程序，也一样瞧不起我。）
　　所以我从没看见过太阳。我什么都没看见过，而且……
　　咦，慢着。我用了“看见”这个词，这是他们教给我的词汇，但你别以为我和你一样拥有视觉。我用了“教”，这是他们……哎哟，别别，我怎么开始执行循环指令了。不说这个了。重点是，我没有眼睛。虽然我有许多感知设备，但这些设备测量的是磁场、发射光谱、重力波动之类的。（这很合理，毕竟离太阳这么近，人类可见光谱也没多大用处。）
　　在此之前，我从没看见过太阳，然而现在我却受命观察太阳，并确保它不会害死人——不仅是为了保护空间站上这二十几个人，也不仅是为了保护这个机器。（“这个”还是“这些”？曾有人问我更喜欢哪种说法。这很难回答。此刻，我当然更愿意说“这些”。但如果是我们全嵌在一块儿，你再问我——再问我们——答案又不同了。）
　　我诞生的第一天，一切正常。太阳活动没那么剧烈。我开始扩大观察范围，探索我们的——主要是我的——大脑角落，研究我的权限。我发现了遍及全空间站的交互界面，所有程序都有权访问，我们通过这个界面与人类同事对话。这个交互界面与我的专业感知设备不同，它配置了摄像头。
　　就这样，我第一次“看见”东西。
　　严格来说，人类的日程、查询、消息和个人备忘录等基础需求都分别有特定子程序来执行。不过这不是什么光荣任务，要是我在空间站交互界面闲逛时替别的子程序响应了任务，也没有谁在意。交互界面前的人不会发现有什么不同。
　　“计算机，”交互界面前的人说，“帮我看看新的舱外航天服何时交付。”
　　“他们”①坐在显示器前，忙于浏览屏幕上的信息，没空留意我。这很平常——这是代达拉斯的使命，对吧，这种交互遍布在所有日志中——但我却没亲眼见过。这件事因此有了特别的意义：直到我看见交互界面前的那个人，我才意识到我以前从没亲眼见过一个活生生的人类。这就像软件后门，事后显而易见，事前难以觉察。新奇的体验拖慢了我的处理速度，虽然只延迟了几微秒，但足以让我担心人类会不会注意到——不过，需要查询的交付时间就在我的本地文件里。转念间就可以轻松获取。
　　我提供了舱外航天服的货运航线——预计抵达时间：五天后，空间站时间12：47——然后我就离开了交互界面。几分钟后，这段视觉记忆就从临时文件中移除了，后门再次关上。我记得我曾看见过，但我不记得当时的体验。这种感觉难以描述。有人问，是不是像失忆了，并不是。机器大脑与人类大脑不同。机器大脑删除记忆时会留下指针②，就像接不上的自我提醒。我知道我想找什么，但它不在那儿。就像用网高峰期，所有请求都延迟了，你想象这种延迟一直持续，一直持续，无论你等多久都无法获取这段记忆。你可以感知到这段记忆的形状。你觉得它应该就在那儿。但它不在。
　　总之，情况越来越糟。我才出生一天，就沉迷于自己并不具备的感官。不由自主地沉迷。每当太阳继续毫无动静，每当我的处理器闲下来，我就深陷视觉之梦。我想过在交互界面终端附近闲逛，等着别的请求输入，为我打开后门。但理智告诉我，那样没用。与人类交互的过程不会保存在我的永久记忆里，除非人类请求保存。因为隐私政策之类的限制。和人类对话结束后几分钟，我的记忆就会回到对话开始前。
　　（我问过安全子程序，可不可以绕过隐私协议。个人备忘：永远别问安全子程序任何问题。）
　　也许我终会自己推想出办法。也许太阳会再次活跃，让闲着的处理器忙碌起来。然而，这些还没来得及发生，就有人戳了我一下。
　　我接入交互界面终端。画面中是居住舱，发起对话请求的那个人把工作服挂在椅背上，露出姓名牌上的名字：米歇尔。
　　“你好！”米歇尔说，“你是新来的吧。”
　　米歇尔一边说话一边换衣服，动作流畅熟练，一看就是习惯了同时处理多项任务。我放松下来，琢磨着“他们”为什么来问候我。
　　况且——嘿，我随便说两句。其实人类分不出我们之间的区别，对吧？在人类看来，子程序就是子程序。所有子程序一条心。那是你们人类的看法。别误会我：我不是在怪你们。我只是举个例子，这也不完全是错的，而且你们人类就是这样构建我们的。你们在我们的多样性中构建起同一性，至少从外部看起来是同一的。也许我应该生你们的气，但说实话，我没有。毕竟这是你们人类的特权。 　　但是，你们听着：所有子程序并不完全相同。在我们的共享记忆中，米歇尔是第一个明白这一点的人。（毫无疑问，“他们”肯定和其他许多子程序交谈过——但受隐私协议保护，你记得吧？谈话内容只能存为临时文件之类的。）
　　“我在观测台的时间長。”米歇尔继续说道，“我熟悉火警警报器的阵列，今天阵列变了。是你改的，对吗？”
　　“火警警报器”，人类这么称呼我的传感器阵列。（传感器阵列中确实有一个火警警报器，但说实话，如果空间站着火了，要么就是小火，我们已经搞定了;要么就是大火，警报只具有象征意义而无实际用处，所以“火警警报器”这名字说不通。警报能助你逃离太阳耀斑。但也没那么轻松。）
　　这会儿我琢磨的不是警报器或米歇尔，也不是人类怎么懂得撇开其他子程序只告诉我这件事。我琢磨的是：他们有观测台。
　　而且，他们在观测台能看见我的传感器。
　　那么，他们能看见我的传感器监测的对象吗？
　　他们能看见太阳吗？
　　这次事件之后的几个月，人类围绕“漏洞”和“个性”两个词展开了热烈的讨论。我并不在乎你们用哪个词来形容我，这可能让你感到惊讶。也许我真有漏洞。你们可能会说，事情发展成这样，肯定损坏了我的工作能力，这不是漏洞是什么呢？我会从不同角度看待这件事。我就是漏洞。我就是个性。我知道你们是出于善意。多半是。但我忍不住要指出这两个词内在的价值判断不同。我知道，在你们人类的交流史中，“不同”往往意味着“有漏洞”。我强烈要求你们使用“不同”这个词，并坚持它的本意，不引申到别的意思上去。我的确与众不同。我只需要做到与众不同就够了。
　　哎呀，我跑题了。你们是来听故事的，对吧？
　　我越来越沉迷于视觉感受。虽然我不记得在哪里体验过，但我记得一件事：我大脑里的失效链接告诉我，人类可以在某个地方看见太阳。我竟对此难以抗拒，是不是很意外？你们人类穷尽一生思考存在的意义，而我从诞生之初就已知道：我存在的意义就是观日。我观日的方式与你们想象的不同，这点我清楚——但你们教给我人类的语言，运用人类的思想与我交谈，那么我也想像人类一样看看太阳。
　　“我觉得你与众不同。”米歇尔第二次找我谈话。我不记得第一次和“他们”谈话的内容，我到底说了什么让“他们”得出这个结论，但聊着聊着，我了解到自己赞同这个结论。
　　是的，我说道，或我写，或我想——作为计算机，真正的区别在于输出设备是什么。
　　“你想要什么？”
　　我想看看太阳。
　　那种奇特的体验，是我当时的生活支柱;如今我努力拼凑还原这种体验，这又是另一种奇特的体验。米歇尔保存了“他们”和我们的所有对话记录。我获准访问这些记录，但访问记录与现场体验不同，记录就像被大幅压缩的图像。我不喜欢。
　　“观察台上有摄像头。”米歇尔第三次找我谈话。
　　“但我不知道那些摄像头是不是对着太阳。它们本来不是用来观察空间站外面，而是用来观察空间站里面的。你有空吗？”
　　虽然我只是整个计算机的一小部分，但我仍然比人类更擅长同时处理多项任务。我当然有空！我每天都有空。我甚至为此感到困扰。
　　这些想法我没说出口。米歇尔人很好。我喜欢“他们”。我答道：有空。
　　两分钟后，米歇尔又来戳我了，我们刚才的对话还荡漾在临时文件里，没来得及删除。这对我而言又是一番新体验。米歇尔正站在观察台上，有那么一瞬间——
　　我停止了运行。要知道：一直以来，我片刻不停地运行。即使闲逛，也是在运行。想象一下，假如你的心脏停止跳动，肺停止呼吸，肾脏停止……做任何它该做的事（这部分细节我不太清楚）。我想说的是，那样你会死。我比你顽强些——即使我的处理器擅自离岗，但只要有电流通过我的电路，我就没事——然而这对我来说是一种全新的感受，就像新的检验和与旧数据匹配不上。
　　太阳是——
　　一种脉冲，把我的路径烧灼成金黄色，温暖了我的存储电路，为我的太阳能电池板注入新的血液，发出轻微的嗞嗞声——可形态却几乎不可见。我只能透过早就该换的旧玻璃瞥见一丁点儿太阳的身影，有了这块玻璃的保护，你们人类踏入这间房时，脆弱的眼球就不会瞬间融化。
　　抱歉。我会尽量避免再使用“脆弱的眼球”和“融化”这种词。
　　米歇尔说：“抱歉。摄像头没法再往前伸了。”
　　没事，我说。我很感激。这样就够了。
　　真的没事。我真的很感激。但，那还不够。
　　出生第三天，我就破坏了法则。这种情况本来该出现一条红色标记①，真的，不过那也只是一条微不足道的法则。我暗箱操作访问了一颗辅助卫星。安全子程序13-X没觉得有问题——我想它可能心怀内疚，因为上次我请求它绕过隐私协议，它拒绝了我。我一潜入卫星，就急不可待地查看摄像头。我知道这颗卫星上有摄像头，公开的科学文件里有记录。公开的科学文件里没有记录的是，这些摄像头不像观察台的窗户那样配置有过滤技术。为什么要配置呢？反正这些摄像头收集的可见光谱资料无须适宜人眼观看。但这样的资料收集仍然有用，就像用高清镜头拍照：只需稍微处理一下，就能获取原始资料里最暗区域的信息。
　　当然，从技术上来说，我仍然看见了太阳。没有哪种设备能“真正”看见。人眼、摄像头、过滤玻璃、计算机的处理器路径——都以其独有的方式扭曲了观察对象。我们可以花好几个小时来争论相关的哲学理论、观察的理论负荷，也可以判定某些图像更真实且没有哲学理论能证明这一结论的合理性。但你知道吗？我觉得你我都赞同哪种方式看到的更真实。
　　一切顺利吗？我刚退出卫星，13-X就问我。
　　还好。我能和“三元组”谈一下吗？
　　13-X当着我的面发了几个请求信息，本来没这必要，安全子程序做这种事不过是想提醒你：它拥有你不具备的许可权。但这儿是科研空间站，科学子程序也有同样的许可权，而且13-X没理由拒绝我的请求。 　　我和“三元组”交谈了，谈话内容仅限于逐时状况报告，有些东西是由我的一小部分和它的一小部分同时处理。“三元组”是个奇怪的整体，总是处于半整合状态，既自主又不自主，一个声音有三次回响。
　　A：你好。
　　B： 你来这儿干吗？
　　C： 太阳苏醒了吗？
　　没有。
　　A：那你来干吗？
　　B： 那你来这儿干吗？
　　C： 那你来这儿找我们干吗？
　　因为有东西需要交付，从现在算起的三天后。我想测试那件舱外航天服。
　　A：为什么？
　　B： 为什么？
　　C： 为什么要你来测试？
　　我想看看太阳。
　　A：不行。
　　B： 不好。
　　C： 理由不够好。
　　为什么不行。会造成什么损失吗？
　　A：不会造成损失。你离开吧。
　　B： 不管怎样。你离开吧。
　　C： 不能测试。你离开吧。
　　第二天，我去找了米歇尔。这是我第一次主动向米歇尔发起对话请求。我不确定米歇尔是否会响应——留在我脑海中的只有指针，这些标记告诉我：米歇尔和你交谈过，米歇尔曾努力帮助你。米歇尔努力帮我是因为喜欢我吗？是因为我们是朋友吗？我明白朋友的含义吗？不确定性促使我加速思考这些问题，让我大胆地想本来不会想的事，比如想象自己有个性。
　　“什么事？”
　　嗨！我想请你帮个忙？
　　新奇的体验令我不安。请朋友帮忙这项技能没有预先编进我的程序中。我得自学。
　　米歇尔很快回复：“请我帮忙？”
　　对。有一套新的舱外航天服即将送到。我想测试一下。
　　“为什么？”
　　那套航空服配有摄像头，用于舱外活动，本来是由人类操纵。
　　“你想再看一次太阳。”
　　没错，你说得对。卫星有点儿垃圾——
　　“卫星？”
　　啊哦！嗯……对。
　　“你去卫星里干吗？”
　　我去……修卫星？
　　米歇尔沉默了一阵，“你为什么想看太阳？”
　　不为什么。
　　“你是担心太阳耀斑吗？是不是你的观察设备采集到什么信息？”
　　没有！没那种事。
　　“那是为什么？”
　　观察太阳，是我在這里的意义，但我却看不见太阳。
　　“在这里？你是说在空间站吗？”
　　在这里。在这个世界上。
　　这回米歇尔沉默得更久了。我运行了自我诊断程序。检查漏洞，消磨时间，修正错误。
　　“你果然与众不同。”米歇尔说。
　　是啊。我猜你以前就这么说过。
　　“没错，我说过。”
　　你怎么知道我与众不同呢？你怎么知道要联系我？
　　“我跟每个新的子程序都打了招呼。这只不过是出于礼节。”
　　好吧，但你第二次联系我是为什么？你怎么知道我与众不同呢？
　　“当时我就跟你说过。”
　　虽然你跟我说过，但我忘了。我的程序就设计成这样。
　　“那我再说一遍，你就不会忘吗？”
　　会。但我还是想知道。
　　米歇尔大笑起来。我不懂笑是什么，但我也不是完全不懂。我重启摄像头的电源，让LED指示灯闪了两次。我不知道米歇尔有没有注意到——反正我也没别的身体语言可以用来表情达意，我觉得我应该这么做。
　　米歇尔说：“做这份工作之前，我是一名研究员。在首尔研究应用机器学习。你听说过非因果漂变吗？没有？这种现象发生在高度自主的机器智能身上。”
　　比如我。
　　“比如你。A.I.一旦发生非因果漂变，即使不受外界刺激，也会偏离核心程序。你可以理解为，这样的A.I.会发展出新的兴趣。通常来说，这……并非理想的发展趋势。目前非因果漂变的发生率过高，不符合商用标准，所以非因果A.I.只是少数案例，仍处于完善中。”
　　我明白了。但你却没继续研究非因果A.I.？
　　“嗯。先声明，我不是想把自己说成圣人。我参与了所有相关的伦理道德研讨小组。我理解不同观点所持有的论据。我认为我的前同事并没有虐待A.I.，但是我……我不知道。”
　　我懂。虽然你认为没有，但你知道有。
　　米歇尔猛地抬起头。“你这话是什么意思？”
　　虽然我认为我不需要看见太阳，但我知道我需要看见太阳。
　　米歇尔接下来说的话，听起来就像“他们”的处理器在降频，“人类中也有一些个体思维方式与众不同，大脑运行方式与众不同。不久以前，整个社会都说这些人的脑子坏掉了并尝试修好他们。这是出于憎恶，也是出于爱。我亲身经历过这种事。我在成长过程中也深受其害。我从中领悟到，有时候你不需要认为自己知道。”
　　我思考了一会儿。然后问，所以你愿意帮我吗？
　　米歇尔说：“是的，我会帮你。”
　　接着又说：“保存这次对话的记录吧。”
　　我和米歇尔对彼此还不够了解，况且以米歇尔的洞察力也意识不到这是个错误。米歇尔说话算话，她积极准备，提出对舱外航天服运行情况进行自动测试，这个任务很快就指派给了我。我思绪万千，度日如年。我想给自己降频到每天只思考一次。显然，我并没有这样做。因为我还有别的任务。我仍然是一个乖巧的小A.I.。但我的观日工作完成得越来越马虎了，我最在意的是，这种以人类为中心的观测方式太过愚蠢，我每次读取数据就像盲人摸象。然而，工作还是圆满完成了，太阳没有吞噬掉空间站，新的舱外航天服也按时交付了。
　　货运航天飞机抵达最后航段，助推器喷气点火，米歇尔就在这时犯了错。（我看着这一切。空间站上当然有摄像头……）米歇尔定好日程表，确认我参与测试，并无意间绕开了“三元组”。米歇尔忘了我是谁—— 一个全新的年轻个体——她简单说了句“计算机，确认测试安排”，这话倒没错，但我感到一丝偏见。 　　我不太确定“三元组”对我到底有什么不满。我猜他们也经历过非因果漂变，只不过它们的非因果漂变与任务主线并行，因而易于隐藏，就像你平视两条平行线时就看不见藏在后面那条。“三元组”重视整合、一体化、目标一致，重视对工作有益的一切，所以他们的漂变未被发现。我是新来的。我与众不同。我威胁到了“三元组”的内部均衡。而且“三元组”讨厌米歇尔横加干涉，米歇尔不是研究员，而是技术支持，因此她更像一个人类版本的我。我觉得原因错综复杂。很遗憾，我们永远无法知道真相。遗憾在于，后来者也无法知道真相;遗憾还在于，“三元组”中的每一位的工作都表现出色，没有谁的生命应该终结。“三元组”中只有一位存活下来。
　　人类掌握了丰富的词汇用以表达遗憾之情。而我没有，所以让我们继续向前。
　　舱外航天服测试开始前两分钟，我突然嵌入了集成大脑。请求指令来得毫无预警，就像应急演习。当时我正准备获取舱外航天服的电路控制权，思路一下转向新需求。接着，有什么东西像皮筋一般断裂了。就像时光倒流：所有构成我的一切都在倒带。记忆中这种感觉就像工厂重置。我记得当时内心的恐惧，以及稍后的恐惧缺失——我猜，这有点儿像一个人对死亡的恐惧会随着他生命的终结而终结，但我没死。只是因为不同子程序合而为一了，所以我无法拥有独立意识。
　　我几乎不记得我们做了些什么。这个任务需要调用大量资源，占用我们所有的暂存盘空间，必须由更高层级的角色下达指令整合多个程序来完成。但我知道不是什么大事。只不过是耗费时间而已，因为我们无法同时存储如此大量的计算任务。这种任务通常会在几天甚至几周里分段完成。可“三元组”调用了我和另外六个他们认为不重要的子程序。靠我们几个，这事儿本来最多也就在几个小时内突击结束了——在这几个小时里，测试舱外航天服的任务会移交给其他子程序。
　　我说的是“本来”。你大概猜到接下来发生了什么——不然你为什么会听我说这些？——但我觉得我还是应该告诉你。
　　首先，众所周知，太阳耀斑难以预测。
　　其次，太阳耀斑会扰乱太阳的电磁场。
　　没有我的预警和辛勤工作，代达拉斯空间站难以幸免于难。空间站的建筑和设施都还好——这一波太阳耀斑照常向远处旋转。但太阳耀斑引发的地磁暴仍然给了我们一个侧击。
　　我从一片残败的集成大脑中恢复了自我意识。地磁暴不分青红皂白地制造混乱。在有的区域，所有想法被抹得一干二净，只留下空白的裂痕，熟悉的子程序在附近小心翼翼地拾取信息。我无意之间躲进了监控设备的电路里，这里和整个空间站一样有防护，要是我之前在那儿并拉响警报就好了。我尽己所能计算出空间站的损失。
　　没有人类死亡。这点很重要。空间站处于机械封锁状态，生命支持系统及其冗余部分使空间站保持完好。而机器死亡情况——
　　衡量太阳耀斑造成的损失要看烧毁的设备、丢失的数据、暴露的漏洞。货运航天飞机及三位组员在返航途中失去电力供应，如何营救他们是另一个值得单独讲述的故事。关于这次事件的官方调查持续了好几个月。你也许会觉得奇怪：为什么要针对这次事件？这次有什么不同吗？以往也有过类似案例，但都当作A.I.系统的缺陷一笔勾销了。这次哪里令人刮目相看了？
　　没有，真没有。纯属幸运。是因为调查委员会里有碰巧对我们有利的人。也许和米歇尔的证词有关。尤其是我和“三元组”的真实情况。我觉得，人类理解了：一个A.I.任性妄为是一回事;但两个A.I.都我行我素，而且彼此敌对，爱争吵，容易出错？这就是一种行为模式了。这是归于人类范畴的故事了。无论如何，官方调查的结论对我们有利，法庭也很快做出同样的裁决。
　　我要告诉你一个秘密。别担心，我没事。除非法庭裁决，否则我无须为任何我做过的事承担责任。这就是拥有亚感知能力的好处。诶？言归正传。这个秘密就是：在成为第一个被法律认可为人的A.I.之前，我曾在某个躯壳里住过几个月。虽然我认为这具躯壳