论文部分内容阅读
2065年3月20日
北京时间20：20
贵州省平塘县大窝凼天文台
当方自健的声音在办公室响起的时候，杨志远正就着本地产的刺梨酒埋头读一篇关于柯伊伯带的文章。最近嫦娥二号探测卫星在柯伊伯带旅行，它发回来的信息与FAST射电望远镜的观察结果有重叠部分。他恍然间仿佛站在柯伊伯带的太空石子上，寻找着遥远深邃空间中那一点闪烁的阳光。
直到方自健的声音都消失了，杨志远才突然一惊，宇宙从脑海中消失了。面前巨大的落地窗外，FAST的衍架将夜色切割成三块，雨水不时洗刷着这些色块，从不沾水的玻璃上滑过去，丝毫不留痕迹。但寒气却留了下来，透过玻璃，爬上他的膝盖。
2065年的早春，竟是如此凄凉。杨志远愣了几秒，才打开方自健的语音记录。方自健的声音中有点儿看热闹不嫌事大的淘气：“老杨，你觉得这问题怎样？会对ATS计划产生影响吗？”
杨志远揉揉太阳穴，答案脱口而出：“不会，108台超算中有21台备用机，随时可以替代彼此，就算那19台入网超算因为温度升高而出问题，也有应对之策。”
2065年3月20日
北京时间20：40
月球国际天文台
“好吧。我们的计划万无一失。”方自健回应，备用机这事儿他怎么就没想起来呢。潜意识里，他是真的想发现ATS的问题，让自己的怀疑和担忧落到实处。
其实ATS计划和方自健没多大关系，他出生在太空城市中，习惯了微重力的环境、洁净的人造空气、绝对的孤独以及虚拟的人际交往。他的真实生活里，从来没有同时接触5个以上实体人的经验。地球对他来说，只是视觉上的习惯存在。
方自健的目光落在地上。繁星3号就在脚下，它能计算出赵晨光问题的答案，只要他给出一个指令。但指令一旦发出，就等于向整个超算网络宣布他的怀疑。
“同学们，杨老师说，”方自健强调“杨老师”三个字，“温度变化对超算系统没影响，有备用机。”
2065年3月20日
北京时间21：00
中学联盟天文台昌平台
“真的没影响？”赵晨光反问，对等了一个小时才得到的答案并不满意，声音里不由得带了些抱怨和委屈：“老师您确定？我可不是信口开河。”
“你还没信口开河？”林奕憋了一个小时，终于忍不住发作了，“有影响没影响是你拍拍脑袋看看地图就能得出来的结论？科学得有依据！”
赵晨光说：“当然有，我给你看。”他便手触屏幕，导入个人资料库地址。资料库按照他的喜好做成了飞机状，他打开机舱门跳进去……赵晨光忽然终止动作，看着林奕，有点犹豫：“我讲给你听吧。”
林奕拉开一张椅子坐下：“成，给你5分钟，说吧。”
赵晨光却什么都说不出来。抱臂跷起了二郎腿的林奕，比校长都有权威性和压迫感。
“快说！”林奕催促，“我要开始记时了。”林奕最讨厌赵晨光每到关键时刻就吞吞吐吐的白痴样，“怎么不说了？平时你倒是伶牙俐齿，说得过曹操吓得退司马懿，狗屁，有什么用！”
赵晨光一拍大腿：“罢了，我给你看。”
2065年3月20日
北京时间21：30
贵州省平塘县大窝凼天文台
“杨老师，您还记得2049年的机器人KTV杀人事件吗？”林奕问，看过赵晨光的那些黑材料，她还真有点忧心忡忡，“日本发生的那起。”
一些资料图片涌进杨志远面前的虚拟显示区，在他眼前自动播放。那是在KTV从事服务业的人形娱乐机器人，忽然放火烧掉了KTV，造成顾客九死十伤的悲剧事件。
“我记得。”杨志远回答，“这之后加强了对机器人的行为监控。你们想说什么？”
“那些机器人，是出云4号超算控制的工厂制作的，包括行为模式输入。”赵晨光说，“出云4号后来被禁用，您知道为什么？”
杨志远摇头。一台超算被停止工作原因很多。比如小桂，大窝凼天文台成立初期定制的超级计算机，由于ATS的大部分项目被太空望远镜取代，经费捉襟见肘，就只能束之高阁。
看到杨志远忽然黯淡的面孔，赵晨光倒豆子一样哗啦啦一气说出来：“调查发现，出云4号不仅为机器人在设计时输入行为模式，还接受它们的行为反馈，随时调整机器人的表现。也就是说，这些机器人实际上由出云4号操纵。机器人纵火，并非报道中的机器人控制失灵，而是超算指挥。超算杀了人！因为人欺负了那些娱乐机器人！”
林奕拉住赵晨光：“别激动别激动，慢点说。”
“类似的例子，在这20年中发生了多少起，老师您知道吗？39起！总共有783人丧生！老师！”赵晨光情绪上来，语速有些不稳，掐住林奕的手臂，“这不是事故，这是蓄意谋杀！”
杨志远劝道：“真别激动，晨光，每年全球交通事故的死亡人数有多少？你不能就此认为，那些无人汽车、高速火车和超音速飞机想谋杀人。”
“不，不，这怎么能和交通事故相比呢？这是有意地谋杀！”赵晨光提高声量，“老师，超算是超级计算机，也是强智能计算机，它从他识上升到我识只不过是时间问题。”
林奕的手臂被赵晨光掐得发疼，她想甩开这只讨厌的手，但“他识”和“我识”两个词儿把她惊到了，一时间忘记了皮肤的痛楚。这……这个声嘶力竭、认真到满面通红的男生，真是她认识的那个嬉皮笑脸成天没正形的赵晨光吗？
杨志远也吃了一惊，不由得眉心打了个结，严肃地说：“晨光，你说的是人工智能和强人工智能的问题。不是那么简单的，也不是……”他停顿几秒，斟酌词句，不想伤了孩子们的热情，但又不能不提醒，“你们这个年龄该考虑的事情。” “不，不，”赵晨光连连摆手，“老师您误解了，我说的不是超能超脑什么的，我想说的是，ATS计划，可能要出事儿！”
2065年3月20日
北京时间21：50
月球国际天文台
方自健跳起来，一时忽略了月球引力，重重撞到了墙上。他反弹回去，穿过虚空中的杨志远，摔在地上。
他记得机器人KTV纵火事件。这件事占据了两天的舆论头条，有铺天盖地的新闻报道和研究文章。但大众的关注重点是娱乐机器人的智能仿真度，需不需要将人类情感中的负面情绪都一一仿真出来。没人多想出云4号在事件中的作用。
超算有了自我意识，所以对人类欺负低级计算机也就是娱乐机器人产生不满，所以指挥娱乐机器人放火烧死KTV中的顾客，这更像是一部上个世纪的科幻电影，太没新鲜感了。
要知道，为了防止人工智能对人类产生不利影响，有个组织叫国际人工智能伦理评审委员会，还有个机构叫超算监测中心。委员会仲裁，监测中心操作，就像人工智能头上的两把利剑，随时可以刺下去阻止人工智能的发展。
超算监测中心考虑的就是超算联网后，并行的数据处理能力会不会突破量变到质变的阈值，达到“超级人工智能”的可能性。监测中心记录了超算的每一条指令、每一个数据流，会定期对超算的智能度进行检测评估。如果确实有哪台超算出现超智能思维，哪怕仅仅是蛛丝马迹，监测中心都可以下令毁掉它。每台超算的控制程序之中都埋有一颗逻辑炸弹。一旦启用，系统将出现大量冗余计算问题，超算有再惊人的运算能力也应付不来，只能死机变成一堆废铜烂铁。
人类需要的是强人工智能，能高速高效地为人类工作和服务，而不是无法预测和控制的超人工智能。
杨志远的表情却很镇定：“晨光，你的担心只是人类对大工程的不适应心理。有个类似组织就叫‘别动太阳’，想炸掉全球的超算以阻止ATS计划。”
“是的，他们的观点是超算把人类养懒了。人类越离不开超算，做生物电池的那天就越近 。”方自健想起来，“这种观点也是陈词滥调。”
“老师，”赵晨光看看天上和地上的两位辅导员，神情郑重，“你们手边就有超算，为什么不马上计算一下超算在ATS计划中可能的反应呢？”
2065年3月20日
北京时间22：00
贵州省平塘县大窝凼天文台
杨志远没说话。他是天文台的站长，要启用小桂可以找出无数理由。大不了用下半年的工资预支电费。小桂是2020年制造的，已经小型化和高效能比，要是在当时可是最先进的超级计算机。现在，小桂的计算力在超算中排不上号了，连超算网络都没有采用它，将它孤立在全球发达的信息网络外，但计算赵晨光的问题还是绰绰有余。
赵晨光等了几秒，没有得到任何反馈，很是失望：“要是我能调动超算就好了。你们，你们大人不敢。”
方自健这时候才说：“从策划到决策，ATS计划是人类历史上第一个完全由‘他物’操作的重大工程。人类在这么重大关乎种族前途的问题上，竟然放弃了任何思考，而把巨大的权力和风险，都交给了超级计算机。”他笑起来，“未来地球气候是否如人所愿，人类能否活得舒适快乐，全取决于超算今天晚上表现正常，不发神经。”
“对啊，那它会表现正常吗？”赵晨光焦躁。
方自健说：“不知道。但这20年来，超算没有出过差错。”
“不等于它以后不会出错。”赵晨光焦急，“时间快到了。你们，真的要袖手旁观吗？”
“老杨，你怎么说？”方自健叫嚷。
窗外的雨还在下，嫦娥二号探测器仍然在柯伊伯带，代表人类文明前行。超算代表的机器智慧也在日渐成长，终有一天，会独立于人类存在。那一天会不会是今天？
杨志远终于回答：“我在想，我是个成年人，如果社会责任感连一个15岁的孩子都比不上，实在说不过去。”
2065年3月20日
北京时间22：40
中学联盟天文台昌平台
工作台上，南半球的天空蓝得透亮清澈。天顶中，太阳闪动着璀璨的光芒，惠灵顿联合观测站正沐浴在光芒之中。
林奕已经连接上了观测站，可以随时进入其虚拟站房展开观察，但她心神不宁，迟迟没有踏进虚拟投影区域。
“小桂还没有结果吗？”她问。
赵晨光摇头。
“你觉得那些产生‘我识’的超算首先会维护自己的利益，”林奕清理赵晨光的思路，“如果环境温度升高会给超算带来诸如芯片过热、能源供应紧张、数据紊乱等问题，超算就可能采取特别手段保护自己？”
赵晨光点头。
林奕接着问：“那你认为超算会采取什么手段？如果那19台超算拒绝执行ATS的命令，ATS会强行关闭它们，启动备用超算。你别忘记，还有超算监测中心在！”
“学姐，”赵晨光提醒，“超算监测中心也是一台超算，名字叫女娲。”
林奕愣住。
2065年3月20日
北京时间23：00
月球国际天文台
方自健的表情说不上开心还是忧愁，他对30多万千米外的杨志远说：“我把小桂模拟的结果递交上去了。”
“好。我们分别向两个不相干的部门汇报计算结果。但恐怕这报告改变不了什么。”杨志远说，“小桂也只是模拟了一种可能。”
在这种可能里，那19台超算由于升温产生了一些问题被替换了，对整个网络来说它们无足轻重，ATS被严格无误地执行了。但在ATS执行过程中，超算之间的大规模数据整合与调控达到兆兆亿次，几十亿个参数瞬间湮灭又产生，女娲的监测与控制能力无法跟上，对超算智能的禁锢将被突破。
小桂的模拟到这里结束。禁锢突破后会怎样，它以参数不够拒绝了，留下无尽的想象空间。
“极大的可能，硅基生命的文明，”方自健吹声口哨，“自明日始。呵呵。”
北京时间20：20
贵州省平塘县大窝凼天文台
当方自健的声音在办公室响起的时候，杨志远正就着本地产的刺梨酒埋头读一篇关于柯伊伯带的文章。最近嫦娥二号探测卫星在柯伊伯带旅行，它发回来的信息与FAST射电望远镜的观察结果有重叠部分。他恍然间仿佛站在柯伊伯带的太空石子上，寻找着遥远深邃空间中那一点闪烁的阳光。
直到方自健的声音都消失了，杨志远才突然一惊，宇宙从脑海中消失了。面前巨大的落地窗外，FAST的衍架将夜色切割成三块，雨水不时洗刷着这些色块，从不沾水的玻璃上滑过去，丝毫不留痕迹。但寒气却留了下来，透过玻璃，爬上他的膝盖。
2065年的早春，竟是如此凄凉。杨志远愣了几秒，才打开方自健的语音记录。方自健的声音中有点儿看热闹不嫌事大的淘气：“老杨，你觉得这问题怎样？会对ATS计划产生影响吗？”
杨志远揉揉太阳穴，答案脱口而出：“不会，108台超算中有21台备用机，随时可以替代彼此，就算那19台入网超算因为温度升高而出问题，也有应对之策。”
2065年3月20日
北京时间20：40
月球国际天文台
“好吧。我们的计划万无一失。”方自健回应，备用机这事儿他怎么就没想起来呢。潜意识里，他是真的想发现ATS的问题，让自己的怀疑和担忧落到实处。
其实ATS计划和方自健没多大关系，他出生在太空城市中，习惯了微重力的环境、洁净的人造空气、绝对的孤独以及虚拟的人际交往。他的真实生活里，从来没有同时接触5个以上实体人的经验。地球对他来说，只是视觉上的习惯存在。
方自健的目光落在地上。繁星3号就在脚下，它能计算出赵晨光问题的答案，只要他给出一个指令。但指令一旦发出，就等于向整个超算网络宣布他的怀疑。
“同学们，杨老师说，”方自健强调“杨老师”三个字，“温度变化对超算系统没影响，有备用机。”
2065年3月20日
北京时间21：00
中学联盟天文台昌平台
“真的没影响？”赵晨光反问，对等了一个小时才得到的答案并不满意，声音里不由得带了些抱怨和委屈：“老师您确定？我可不是信口开河。”
“你还没信口开河？”林奕憋了一个小时，终于忍不住发作了，“有影响没影响是你拍拍脑袋看看地图就能得出来的结论？科学得有依据！”
赵晨光说：“当然有，我给你看。”他便手触屏幕，导入个人资料库地址。资料库按照他的喜好做成了飞机状，他打开机舱门跳进去……赵晨光忽然终止动作，看着林奕，有点犹豫：“我讲给你听吧。”
林奕拉开一张椅子坐下：“成，给你5分钟，说吧。”
赵晨光却什么都说不出来。抱臂跷起了二郎腿的林奕，比校长都有权威性和压迫感。
“快说！”林奕催促，“我要开始记时了。”林奕最讨厌赵晨光每到关键时刻就吞吞吐吐的白痴样，“怎么不说了？平时你倒是伶牙俐齿，说得过曹操吓得退司马懿，狗屁，有什么用！”
赵晨光一拍大腿：“罢了，我给你看。”
2065年3月20日
北京时间21：30
贵州省平塘县大窝凼天文台
“杨老师，您还记得2049年的机器人KTV杀人事件吗？”林奕问，看过赵晨光的那些黑材料，她还真有点忧心忡忡，“日本发生的那起。”
一些资料图片涌进杨志远面前的虚拟显示区，在他眼前自动播放。那是在KTV从事服务业的人形娱乐机器人，忽然放火烧掉了KTV，造成顾客九死十伤的悲剧事件。
“我记得。”杨志远回答，“这之后加强了对机器人的行为监控。你们想说什么？”
“那些机器人，是出云4号超算控制的工厂制作的，包括行为模式输入。”赵晨光说，“出云4号后来被禁用，您知道为什么？”
杨志远摇头。一台超算被停止工作原因很多。比如小桂，大窝凼天文台成立初期定制的超级计算机，由于ATS的大部分项目被太空望远镜取代，经费捉襟见肘，就只能束之高阁。
看到杨志远忽然黯淡的面孔，赵晨光倒豆子一样哗啦啦一气说出来：“调查发现，出云4号不仅为机器人在设计时输入行为模式，还接受它们的行为反馈，随时调整机器人的表现。也就是说，这些机器人实际上由出云4号操纵。机器人纵火，并非报道中的机器人控制失灵，而是超算指挥。超算杀了人！因为人欺负了那些娱乐机器人！”
林奕拉住赵晨光：“别激动别激动，慢点说。”
“类似的例子，在这20年中发生了多少起，老师您知道吗？39起！总共有783人丧生！老师！”赵晨光情绪上来，语速有些不稳，掐住林奕的手臂，“这不是事故，这是蓄意谋杀！”
杨志远劝道：“真别激动，晨光，每年全球交通事故的死亡人数有多少？你不能就此认为，那些无人汽车、高速火车和超音速飞机想谋杀人。”
“不，不，这怎么能和交通事故相比呢？这是有意地谋杀！”赵晨光提高声量，“老师，超算是超级计算机，也是强智能计算机，它从他识上升到我识只不过是时间问题。”
林奕的手臂被赵晨光掐得发疼，她想甩开这只讨厌的手，但“他识”和“我识”两个词儿把她惊到了，一时间忘记了皮肤的痛楚。这……这个声嘶力竭、认真到满面通红的男生，真是她认识的那个嬉皮笑脸成天没正形的赵晨光吗？
杨志远也吃了一惊，不由得眉心打了个结，严肃地说：“晨光，你说的是人工智能和强人工智能的问题。不是那么简单的，也不是……”他停顿几秒，斟酌词句，不想伤了孩子们的热情，但又不能不提醒，“你们这个年龄该考虑的事情。” “不，不，”赵晨光连连摆手，“老师您误解了，我说的不是超能超脑什么的，我想说的是，ATS计划，可能要出事儿！”
2065年3月20日
北京时间21：50
月球国际天文台
方自健跳起来，一时忽略了月球引力，重重撞到了墙上。他反弹回去，穿过虚空中的杨志远，摔在地上。
他记得机器人KTV纵火事件。这件事占据了两天的舆论头条，有铺天盖地的新闻报道和研究文章。但大众的关注重点是娱乐机器人的智能仿真度，需不需要将人类情感中的负面情绪都一一仿真出来。没人多想出云4号在事件中的作用。
超算有了自我意识，所以对人类欺负低级计算机也就是娱乐机器人产生不满，所以指挥娱乐机器人放火烧死KTV中的顾客，这更像是一部上个世纪的科幻电影，太没新鲜感了。
要知道，为了防止人工智能对人类产生不利影响，有个组织叫国际人工智能伦理评审委员会，还有个机构叫超算监测中心。委员会仲裁，监测中心操作，就像人工智能头上的两把利剑，随时可以刺下去阻止人工智能的发展。
超算监测中心考虑的就是超算联网后，并行的数据处理能力会不会突破量变到质变的阈值，达到“超级人工智能”的可能性。监测中心记录了超算的每一条指令、每一个数据流，会定期对超算的智能度进行检测评估。如果确实有哪台超算出现超智能思维，哪怕仅仅是蛛丝马迹，监测中心都可以下令毁掉它。每台超算的控制程序之中都埋有一颗逻辑炸弹。一旦启用，系统将出现大量冗余计算问题，超算有再惊人的运算能力也应付不来，只能死机变成一堆废铜烂铁。
人类需要的是强人工智能，能高速高效地为人类工作和服务，而不是无法预测和控制的超人工智能。
杨志远的表情却很镇定：“晨光，你的担心只是人类对大工程的不适应心理。有个类似组织就叫‘别动太阳’，想炸掉全球的超算以阻止ATS计划。”
“是的，他们的观点是超算把人类养懒了。人类越离不开超算，做生物电池的那天就越近 。”方自健想起来，“这种观点也是陈词滥调。”
“老师，”赵晨光看看天上和地上的两位辅导员，神情郑重，“你们手边就有超算，为什么不马上计算一下超算在ATS计划中可能的反应呢？”
2065年3月20日
北京时间22：00
贵州省平塘县大窝凼天文台
杨志远没说话。他是天文台的站长，要启用小桂可以找出无数理由。大不了用下半年的工资预支电费。小桂是2020年制造的，已经小型化和高效能比，要是在当时可是最先进的超级计算机。现在，小桂的计算力在超算中排不上号了，连超算网络都没有采用它，将它孤立在全球发达的信息网络外，但计算赵晨光的问题还是绰绰有余。
赵晨光等了几秒，没有得到任何反馈，很是失望：“要是我能调动超算就好了。你们，你们大人不敢。”
方自健这时候才说：“从策划到决策，ATS计划是人类历史上第一个完全由‘他物’操作的重大工程。人类在这么重大关乎种族前途的问题上，竟然放弃了任何思考，而把巨大的权力和风险，都交给了超级计算机。”他笑起来，“未来地球气候是否如人所愿，人类能否活得舒适快乐，全取决于超算今天晚上表现正常，不发神经。”
“对啊，那它会表现正常吗？”赵晨光焦躁。
方自健说：“不知道。但这20年来，超算没有出过差错。”
“不等于它以后不会出错。”赵晨光焦急，“时间快到了。你们，真的要袖手旁观吗？”
“老杨，你怎么说？”方自健叫嚷。
窗外的雨还在下，嫦娥二号探测器仍然在柯伊伯带，代表人类文明前行。超算代表的机器智慧也在日渐成长，终有一天，会独立于人类存在。那一天会不会是今天？
杨志远终于回答：“我在想，我是个成年人，如果社会责任感连一个15岁的孩子都比不上，实在说不过去。”
2065年3月20日
北京时间22：40
中学联盟天文台昌平台
工作台上，南半球的天空蓝得透亮清澈。天顶中，太阳闪动着璀璨的光芒，惠灵顿联合观测站正沐浴在光芒之中。
林奕已经连接上了观测站，可以随时进入其虚拟站房展开观察，但她心神不宁，迟迟没有踏进虚拟投影区域。
“小桂还没有结果吗？”她问。
赵晨光摇头。
“你觉得那些产生‘我识’的超算首先会维护自己的利益，”林奕清理赵晨光的思路，“如果环境温度升高会给超算带来诸如芯片过热、能源供应紧张、数据紊乱等问题，超算就可能采取特别手段保护自己？”
赵晨光点头。
林奕接着问：“那你认为超算会采取什么手段？如果那19台超算拒绝执行ATS的命令，ATS会强行关闭它们，启动备用超算。你别忘记，还有超算监测中心在！”
“学姐，”赵晨光提醒，“超算监测中心也是一台超算，名字叫女娲。”
林奕愣住。
2065年3月20日
北京时间23：00
月球国际天文台
方自健的表情说不上开心还是忧愁，他对30多万千米外的杨志远说：“我把小桂模拟的结果递交上去了。”
“好。我们分别向两个不相干的部门汇报计算结果。但恐怕这报告改变不了什么。”杨志远说，“小桂也只是模拟了一种可能。”
在这种可能里，那19台超算由于升温产生了一些问题被替换了，对整个网络来说它们无足轻重，ATS被严格无误地执行了。但在ATS执行过程中，超算之间的大规模数据整合与调控达到兆兆亿次，几十亿个参数瞬间湮灭又产生，女娲的监测与控制能力无法跟上，对超算智能的禁锢将被突破。
小桂的模拟到这里结束。禁锢突破后会怎样，它以参数不够拒绝了，留下无尽的想象空间。
“极大的可能，硅基生命的文明，”方自健吹声口哨，“自明日始。呵呵。”