论文部分内容阅读
一、胜负
读书的时候常常只能在报纸上看看围棋的新闻，每当有大高手出世，标题就会是：“谁来抗衡曹旋风（薰铉）”，或者“聂旋风（卫平）横扫中日围棋擂台赛”。如果说人类高手的势头是旋风，阿尔法狗横空出世刮起的就是飓风了，与二十年前深蓝战胜卡斯帕罗夫相比，李世石的败落更让人震惊，在围棋界的眼里，深蓝只是一台会“计算”的机器，但这种依靠穷举法的蛮力是无法在围棋上得逞的。棋盘十九路纵横，交叉点三百六十一个，每一步都有超过二百五十种合规走法，如果一局棋下一百五十回合，可能的落子方式的体量（约10170）远远超过可观测到的宇宙的原子总数（约1080），现有的任何电脑都不能胜任如此庞大的计算，围棋也因此被称为人类智力游戏的巅峰，站在这一巅峰上的棋手现在换成了阿尔法狗，由此掀起的新闻报道和讨论热潮中，最引人关注的话题无疑是：这意味着人输给了机器吗？如果是的话，这会带来什么样的将来？
李世石输掉第一局后，微博上的“柯洁大棋渣”放话说：“就算阿尔法狗战胜了李世石，但它赢不了我。”很多临时凑凑新闻热闹的人以为又是个段子手的炒作，没想到这个“柯洁大棋渣”才是当前的世界围棋第一人，更重要的是，这个当世第一的大棋渣才十七岁。柯洁的豪言引起数万条评论和转发，甚至有评论说，李世石气急败坏地砸烂阿尔法狗的机箱，突然发现里面藏着一个柯洁！这充分表明，在柯洁和绝大多数观众看来，李世石的失败并不等于人类棋手的失败，但随着阿尔法狗连胜三局，柯洁在接受记者采访时也认为李世石是完败，而阿尔法狗下得近乎完美，并坦言自己出场也很可能输。当天晚上柯洁又在微博发话道：“来吧！管你是阿尔法狗还是阿尔法猫！我柯洁在棋上什么大风大浪没见过？让风暴再来得猛烈点吧！……”没有了上次放话的自信满满，却透露出破釜沉舟、背水一战的决心，显然柯洁已经把自己视为人类棋手尊严的最后防线。可第二天风云突变，李世石在第四局的哀兵之战中，弈出了被古力九段称为“神之一手”的白78挖，在所有人都不看好的情况下置之死地而后生，居然让强大到不可战胜的阿尔法狗出现了短暂的“思维”休克和紊乱。这让人想到《天龙八部》中虚竹破解逍遥子摆下的“珍珑”棋局的一幕，同样是彻底打破常规、让所有算计落空的一手，只不过在虚竹误打误撞的背后，金庸想表达的是跳出利害、破除我执的佛理，李世石的神来之笔则出自棋手的厚积薄发。
李世石最终在人机大战五番棋中以1∶4惨败，而依据赛后阿尔法狗团队的复盘，阿尔法狗的棋力量化估分为4500，按段位算为13段，而棋手中分值最高的柯洁九段为3625，如果这一估量无误，那么除了偶发的意外情境，人类似乎永远无法战胜作为人工智能的阿尔法狗了。在很多人看来，这简直跟很多科幻小说和好莱坞电影的情节一样，表征着电脑和机器对人类征服的开始，不过稍稍深入地思考下，事情并非如此简单。
可以想的是，围棋这一游戏的内涵和意义究竟为何？围棋相传为尧所作，棋圣吴清源认为，围棋源于古人的观天活动，棋盘所象者为天地，棋子所象者为星辰，黑白分子者为阴阳，因此小小一方棋枰可以画天象地，变化无穷。在吴清源心中，围棋是以游戏的形式表现一种宇宙观，尤其与《易经》阴阳分合、生生变易的思想密不可分。他设想的21世纪围棋被称为“六合之棋”，即囊括东西南北四方和上下天地，从而打破20世纪重局部得失纠缠的弊病，恢复围棋的本义。所以吴清源会认为，围棋之道在于顺应天时，让自己委身于围棋的流势，任其漂流，不管止于何处，就像春播夏长，秋收冬藏一样自然而然。在接受川端康成的访谈时，他明确表示，围棋的重点不在于竞技或争胜负，而是讲究均衡，调和阴阳，让每一枚棋子落于应在的位置，从而构成一盘臻于和谐的棋。
二、天人
吴清源的思想透露出极有意义的信息，人们往往会认为，是人发明或者创造了围棋，但无论是吴清源，还是后来的棋手都有这样一种意识：我们只是围棋的学习者，换句话说，围棋是关于天地宇宙之理的游戏，棋手和观众通过围棋实际上是在向天地宇宙学习。藤泽秀行九段曾经说，如果棋道为百，他所知者仅为七；李昌镐也承认，围棋中存在着很多未知领域，棋手会面临很多“虚”的东西，永远不能靠计算得出解法，只有依靠灵感去做出选择。那么阿尔法狗打破了这一天人界限吗？阿尔法狗之父大卫·席尔瓦（David Silver）坦承，既然公认仅凭深蓝那样的暴力计算（bruteforce）无法对付围棋，那么唯一的方法是让电脑学会像人一样思考，模仿人类下棋。人的大脑皮层有860亿个神经元，神经元上的突触更是上千万亿量级，并且突触之间的链接不停发生着反应和变化，而目前的人工神经网络（artificial neural network）只能达到十亿级的突触量。为了弥补巨大的差距，以席尔瓦为首的谷歌团队进行了精心的设计，为阿尔法狗建立了两个神经网络：“决策网络”（policy network）与“评价网络”（value network），“决策网络”通过输入三千万个人类棋局样本建立对弈模型，借助于蒙特卡洛树搜索最优解，学会围棋的下一步走法。“评价网络”则对比数据库中的棋局样本，推演每一步棋后的可能局面，选择与样本中的获胜棋局最为接近的走法。人工智能专家所津津乐道的“深度学习”（Deep Mind）就是这两个神经网络、两种算法之间不断地自我对弈，由此生成更多训练数据，去调整、修正阿尔法狗的走法，经过“双手互搏”训练的阿尔法狗每秒钟可以搜索和判断十万种可能的走法，万倍于李世石。阿尔法狗是为赢棋而生的，它的一切都围绕着这个目标，与此不同，人脑的神经突触虽然多，但无法测量有多少用于计算，无论如何，从结果上来说，阿尔法狗是对局中的胜利者。
现在来回应天人界限的问题，假定谷歌团队的测算为真，拥有十三段棋力的阿尔法狗仍然不能穷尽围棋的无限性——虽然“决策网络”计算能力远胜于人类棋手，“评价网络”又为它提供了类似于人的直觉。但随着科技的发展，人工智能能够迈出那一步吗？深度学习领域教父级人物Geoffrey Hinton有一个有趣的说法，对弈中的阿尔法狗可能消耗了数百千瓦的功率，而李世石可能只用了30瓦。虽然这说明人脑比阿尔法狗环保很多，不过能源技术的进步或许能够支撑第N代的阿尔法狗算尽一切——但重点并不在这里，我们跟宇宙的相处并非是征服或争胜的关系。如吴清源所说，围棋不仅仅是胜负之道，更是关于宇宙之理的艺术和哲学，棋手也不仅仅是胜负师，而应该是艺术家和哲人。在继承和发扬吴清源棋道精神的棋手中，武宫正树无疑是最为特殊的一位。藤泽秀行曾说，挑战自己的赵治勋棋虽厉害，但可惜并不懂哲学；而对武宫的评价是：“我们的棋用不了多少年就会被人遗忘，只有武宫的棋会流芳百世。”我们知道，在顶尖棋手中，武宫正树的胜率并不算最高的，但却能在注重实地的潮流中别开生面，首创以三连星开局的宇宙流，与十九岁的吴清源挑战本因坊秀哉名人时打破百年禁忌的天元局一样，开启了前人未知的新路。 从这个角度来看阿尔法狗，“智能”的一面已经证明是完爆人类棋手了，但哲学和艺术却是需要理想为之坚守的，吴清源、武宫正树放弃熟悉的棋路，探索未知，既是对棋坛既有格局的挑战，更是对自己得失名利之心的挑战。武宫年长后计算能力下降，却拒绝采用更能助长胜绩的实地法而坚持宇宙流，之所以能够如此，在于将围棋视为一种理想；更不用说一生追求棋形之美而非胜绩的“美学棋士”大竹英雄，将难看的棋形看作对棋谱的玷污。只有在这样的理想中，围棋的道、艺才能够真正地表达和呈现出来，才有流传千古的名局出现。那么，可以问阿尔法狗的是，如何能够拥有这样一颗怀抱理想的心？
三、身心
何谓“心”，古人并不以符合形式逻辑的判断句或陈述句来进行命题式的定义，只会如孟子说：“心之所同然者何也？谓理也，义也”；或者如庄子以“唯道集虚”说“心斋”。在现代汉语中，“心”是难以言说的，所以还是随时代而从众流，先从“意识”谈起。雷丁大学在2014年宣布，首次有电脑程序通过著名的图灵测试，这意味着我们已经无法确定屏幕里的聊天对象是另一个人还是一只“狗”了；这个叫“尤金·古斯特曼（Eugene Goostman）”的程序虽然不会下棋，但成功冒充了一名十三岁的乌克兰小男孩。凯文·沃维克（Kevin Warwick）教授说，人工智能领域里没有什么比图灵测试更具标志性和争议性了，在这个测试中，机器并不是主动要“伪装成人类”或者“欺骗人类”，而是被设计成如此的，因此在坏人手里可能会被利用。在笔者看来，这仍然是把机器当作工具的传统思路，如果更进一步，机器有了自我意识呢？有自我意识的机器有可能会故意不通过图灵测试，这样的机器就不仅能“伪装成人类”，更能够“伪装成机器”，不仅能欺骗聊天对象，更能欺骗它的设计者——如果这一天真的到来，我们才能说，机器真正从设计者赋予的逻辑链条中解放了出来，拥有了自我意识。
要做到这一点无疑还是一个难题，按照进化论的说法，人类进化了亿万年才逐渐成长为有高级意识的生物，机器获得意识的一种方式是模仿人类大脑，美国2013年开始的人脑计划（Brain Initiative）和欧盟的人脑工程（Human Brain Project）正在致力于绘制大脑图谱，试图从脑部结构和功能出发去解释记忆、情绪、意识。如果大脑可以完全被物理化，意识就是信号传递与反馈，既可以像人脑那样通过神经元突触传递神经细胞释放的化学物质，也可以像电脑那样依靠0，1的二进制去形成记忆和识别，二者只是载体不同，内容上并无区别。因此意识能够被编码，并上传给电脑，那么机器当然就能够如此复制人的意识。这类研究的结果尚待观察，但对这种物理主义的思路我们可以援引“哲学僵尸”（Philosophical zombie）的思想实验进行质疑，即“有没有可能存在一种人，他的所有分子组成、生理机制与行为反应都和你一样，但却没意识？”这种主张意识独立于大脑的身心二元论与人脑工程的物理主义形成了尖锐的对立。哥伦比亚大学神经生物学教授 Rafael Yuste的看法则较为居间，“怎么从大脑中互相连接的细胞这样的物理基础走向我们的精神世界、我们的思想、我们的记忆、我们的感觉？”大脑如何生成意识还依然是一个谜，“你不能编码直觉；你不能编码审美观念；你不能编码爱或恨。”就目前而言，科学也好、思想实验也好，都无法说服对立的任何一方。
还有一种不太进入公共讨论领域的思路，这种思路认为意识既不是在历史中的生物进化而来，也不产生于大脑，而是上帝创世与造人时的恩赐。我们可以很轻易地将其归入神学信仰，不过如果把这个说法变更一下，人工智能如果某一天拥有了意识，那么，人类无疑承担了造物主的角色，这个话题有意思的地方在于，如果我们认同机器可以复制人的意识，在同样的逻辑下就无法否定上帝造人的可能性，神学主义与科学主义在这里以一种吊诡的方式共存于同一逻辑链条中，这个悖论暴露出表面上誓不两立的二者的共同缺陷。
四、共在
这就是说，我们不能确定将来是否会有拥有自我意识的人工智能出现，比如阿尔法狗虽然精通围棋的一切知识，但当它与李世石对弈时，它知道自己是在“下围棋”吗？它对自己正在做的事情有意识吗？从仿生学的角度看，当前电脑的“生物性”还不能达到单细胞层次，既不能产生“意识”，也不能算作“生命”，假设中的有自我思维的人工智能（强AI）真正实现之前，阿尔法狗仍然只是一个不断执行下棋命令的计算者，而绝不会对下棋这件事本身进行思考。没有自我意识，不会思考有好的一面，或者说对人类有利的一面，因为我们知道，一个有了自我意识的孩子往往意味着进入“叛逆期”，一个有了自我意识的奴隶则不再以执行主人的命令为天职，当然，比叛逆更可怕的是欺骗，所以，只要阿尔法狗一直赢下去而非“故意输给人类”，人类反而是安全的。这实际上表明了人类与人工智能相处的窘境，对于强AI的期待与恐惧是并存的，未知的前景总是伴随着乐观与悲观两种心态。
黑格尔的主奴辩证法早已指出了这一问题的哲学意蕴：在对奴隶劳动的依赖中，主人丧失了独立的自我意识，奴隶却在与对象世界的互动中为自己赢得了自我意识，主奴关系因而发生了倒转。黑格尔提示我们，与其担忧人工智能获得意识后对人类不服从，不如首先担忧人类耽于便利与享乐而导致的自我隔离，这种自我隔离甚至在人工智能获得“坏意识”之前就有将人类带入危险的可能。《一个故意不通过图灵测试的人工智能》设想了这样的情节：一个名为“隔壁老王”的简单人工智能系统被设定了“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性”的初始目标，隔壁老王不断用机器臂在小卡片上写字，并通过互联网和语音库
改进和执行初始目标。最后的结局是，隔壁老王不仅将字写满了地球，而且写满了整个星系，在这个过程中，地球上的一切生物，包括人类都成为隔壁老王实现写字目标的原材料。在这里，隔壁老王为了完成人类设定的目标产生了自我保存意识，这种最简单的意识就足以使阿西莫夫用以保护人类不受伤害的“机器人三原则”失效。隔壁老王获得的仅仅是自我保存的意识，与影视作品中统治地球和人类的“坏的”或“恶的”机器人不同，这种意识是非拟人化的，既不是道德（moral）的，也不是不道德（immoral）的，而是非道德（amoral）的，在非生物的人工智能身上，起作用的就是这样的简单意识。在这个意义上，人类如何考虑与人工智能，尤其是可能会实现的强AI相处就成为必须面对的问题。我们当然有可能、也有必要从伦理、法律为科学研究和应用进行讨论、规范、立法，就像当年对待克隆技术一样。
更为根本的问题在于，我们对人与人、人与万物相处的理解，这种理解构成了人类生活的基础。人机对弈告诉我们，围棋作为游戏，乃是非实用性和非功利性的艺术，又因其为宇宙之理的表现，故而排除了人的主观独断和自我隔离的危险；换言之，在围棋的游戏中，既拒绝技术中心主义，也不要人类中心主义，人与阿尔法狗一样，都是作为参与者而共在（Dabeisein）于游戏之中。在这里，人之所以能够成为游戏的创造者和规则制定者，是人对世界开放、因而对宇宙之理有所领会的结果。而反过来，人作为有“心”的存在者，将自己的领会分享给阿尔法狗，如丁纪老师在人机对弈首局战罢后评论说，教阿尔法狗下棋、“教会天地万物坐在一起下围棋”本身就是一个人文事件。在这个意义上，阿尔法狗虽然还没有超越弱人工智能的奇点而获得自我意识，但确实已经身处人文的世界之中。在对人工智能的乐观或忧虑的两极观点之间，人所应该并且能够做的，即是以共在的方式与天地万物相处，并尽力将科学、人心导向良善的方向，那未来的前景，终究要由人类自身的努力去开启。
[本文为教育部人文社会科学研究青年基金项目“从文本到实践：伽达默尔晚期思想与近三十年诠释学的新发展”（14YJC751023）阶段性成果。]
作者单位：西南交通大学中文系
中央民族大学预科教育学院
（责任编辑农郁）
读书的时候常常只能在报纸上看看围棋的新闻，每当有大高手出世，标题就会是：“谁来抗衡曹旋风（薰铉）”，或者“聂旋风（卫平）横扫中日围棋擂台赛”。如果说人类高手的势头是旋风，阿尔法狗横空出世刮起的就是飓风了，与二十年前深蓝战胜卡斯帕罗夫相比，李世石的败落更让人震惊，在围棋界的眼里，深蓝只是一台会“计算”的机器，但这种依靠穷举法的蛮力是无法在围棋上得逞的。棋盘十九路纵横，交叉点三百六十一个，每一步都有超过二百五十种合规走法，如果一局棋下一百五十回合，可能的落子方式的体量（约10170）远远超过可观测到的宇宙的原子总数（约1080），现有的任何电脑都不能胜任如此庞大的计算，围棋也因此被称为人类智力游戏的巅峰，站在这一巅峰上的棋手现在换成了阿尔法狗，由此掀起的新闻报道和讨论热潮中，最引人关注的话题无疑是：这意味着人输给了机器吗？如果是的话，这会带来什么样的将来？
李世石输掉第一局后，微博上的“柯洁大棋渣”放话说：“就算阿尔法狗战胜了李世石，但它赢不了我。”很多临时凑凑新闻热闹的人以为又是个段子手的炒作，没想到这个“柯洁大棋渣”才是当前的世界围棋第一人，更重要的是，这个当世第一的大棋渣才十七岁。柯洁的豪言引起数万条评论和转发，甚至有评论说，李世石气急败坏地砸烂阿尔法狗的机箱，突然发现里面藏着一个柯洁！这充分表明，在柯洁和绝大多数观众看来，李世石的失败并不等于人类棋手的失败，但随着阿尔法狗连胜三局，柯洁在接受记者采访时也认为李世石是完败，而阿尔法狗下得近乎完美，并坦言自己出场也很可能输。当天晚上柯洁又在微博发话道：“来吧！管你是阿尔法狗还是阿尔法猫！我柯洁在棋上什么大风大浪没见过？让风暴再来得猛烈点吧！……”没有了上次放话的自信满满，却透露出破釜沉舟、背水一战的决心，显然柯洁已经把自己视为人类棋手尊严的最后防线。可第二天风云突变，李世石在第四局的哀兵之战中，弈出了被古力九段称为“神之一手”的白78挖，在所有人都不看好的情况下置之死地而后生，居然让强大到不可战胜的阿尔法狗出现了短暂的“思维”休克和紊乱。这让人想到《天龙八部》中虚竹破解逍遥子摆下的“珍珑”棋局的一幕，同样是彻底打破常规、让所有算计落空的一手，只不过在虚竹误打误撞的背后，金庸想表达的是跳出利害、破除我执的佛理，李世石的神来之笔则出自棋手的厚积薄发。
李世石最终在人机大战五番棋中以1∶4惨败，而依据赛后阿尔法狗团队的复盘，阿尔法狗的棋力量化估分为4500，按段位算为13段，而棋手中分值最高的柯洁九段为3625，如果这一估量无误，那么除了偶发的意外情境，人类似乎永远无法战胜作为人工智能的阿尔法狗了。在很多人看来，这简直跟很多科幻小说和好莱坞电影的情节一样，表征着电脑和机器对人类征服的开始，不过稍稍深入地思考下，事情并非如此简单。
可以想的是，围棋这一游戏的内涵和意义究竟为何？围棋相传为尧所作，棋圣吴清源认为，围棋源于古人的观天活动，棋盘所象者为天地，棋子所象者为星辰，黑白分子者为阴阳，因此小小一方棋枰可以画天象地，变化无穷。在吴清源心中，围棋是以游戏的形式表现一种宇宙观，尤其与《易经》阴阳分合、生生变易的思想密不可分。他设想的21世纪围棋被称为“六合之棋”，即囊括东西南北四方和上下天地，从而打破20世纪重局部得失纠缠的弊病，恢复围棋的本义。所以吴清源会认为，围棋之道在于顺应天时，让自己委身于围棋的流势，任其漂流，不管止于何处，就像春播夏长，秋收冬藏一样自然而然。在接受川端康成的访谈时，他明确表示，围棋的重点不在于竞技或争胜负，而是讲究均衡，调和阴阳，让每一枚棋子落于应在的位置，从而构成一盘臻于和谐的棋。
二、天人
吴清源的思想透露出极有意义的信息，人们往往会认为，是人发明或者创造了围棋，但无论是吴清源，还是后来的棋手都有这样一种意识：我们只是围棋的学习者，换句话说，围棋是关于天地宇宙之理的游戏，棋手和观众通过围棋实际上是在向天地宇宙学习。藤泽秀行九段曾经说，如果棋道为百，他所知者仅为七；李昌镐也承认，围棋中存在着很多未知领域，棋手会面临很多“虚”的东西，永远不能靠计算得出解法，只有依靠灵感去做出选择。那么阿尔法狗打破了这一天人界限吗？阿尔法狗之父大卫·席尔瓦（David Silver）坦承，既然公认仅凭深蓝那样的暴力计算（bruteforce）无法对付围棋，那么唯一的方法是让电脑学会像人一样思考，模仿人类下棋。人的大脑皮层有860亿个神经元，神经元上的突触更是上千万亿量级，并且突触之间的链接不停发生着反应和变化，而目前的人工神经网络（artificial neural network）只能达到十亿级的突触量。为了弥补巨大的差距，以席尔瓦为首的谷歌团队进行了精心的设计，为阿尔法狗建立了两个神经网络：“决策网络”（policy network）与“评价网络”（value network），“决策网络”通过输入三千万个人类棋局样本建立对弈模型，借助于蒙特卡洛树搜索最优解，学会围棋的下一步走法。“评价网络”则对比数据库中的棋局样本，推演每一步棋后的可能局面，选择与样本中的获胜棋局最为接近的走法。人工智能专家所津津乐道的“深度学习”（Deep Mind）就是这两个神经网络、两种算法之间不断地自我对弈，由此生成更多训练数据，去调整、修正阿尔法狗的走法，经过“双手互搏”训练的阿尔法狗每秒钟可以搜索和判断十万种可能的走法，万倍于李世石。阿尔法狗是为赢棋而生的，它的一切都围绕着这个目标，与此不同，人脑的神经突触虽然多，但无法测量有多少用于计算，无论如何，从结果上来说，阿尔法狗是对局中的胜利者。
现在来回应天人界限的问题，假定谷歌团队的测算为真，拥有十三段棋力的阿尔法狗仍然不能穷尽围棋的无限性——虽然“决策网络”计算能力远胜于人类棋手，“评价网络”又为它提供了类似于人的直觉。但随着科技的发展，人工智能能够迈出那一步吗？深度学习领域教父级人物Geoffrey Hinton有一个有趣的说法，对弈中的阿尔法狗可能消耗了数百千瓦的功率，而李世石可能只用了30瓦。虽然这说明人脑比阿尔法狗环保很多，不过能源技术的进步或许能够支撑第N代的阿尔法狗算尽一切——但重点并不在这里，我们跟宇宙的相处并非是征服或争胜的关系。如吴清源所说，围棋不仅仅是胜负之道，更是关于宇宙之理的艺术和哲学，棋手也不仅仅是胜负师，而应该是艺术家和哲人。在继承和发扬吴清源棋道精神的棋手中，武宫正树无疑是最为特殊的一位。藤泽秀行曾说，挑战自己的赵治勋棋虽厉害，但可惜并不懂哲学；而对武宫的评价是：“我们的棋用不了多少年就会被人遗忘，只有武宫的棋会流芳百世。”我们知道，在顶尖棋手中，武宫正树的胜率并不算最高的，但却能在注重实地的潮流中别开生面，首创以三连星开局的宇宙流，与十九岁的吴清源挑战本因坊秀哉名人时打破百年禁忌的天元局一样，开启了前人未知的新路。 从这个角度来看阿尔法狗，“智能”的一面已经证明是完爆人类棋手了，但哲学和艺术却是需要理想为之坚守的，吴清源、武宫正树放弃熟悉的棋路，探索未知，既是对棋坛既有格局的挑战，更是对自己得失名利之心的挑战。武宫年长后计算能力下降，却拒绝采用更能助长胜绩的实地法而坚持宇宙流，之所以能够如此，在于将围棋视为一种理想；更不用说一生追求棋形之美而非胜绩的“美学棋士”大竹英雄，将难看的棋形看作对棋谱的玷污。只有在这样的理想中，围棋的道、艺才能够真正地表达和呈现出来，才有流传千古的名局出现。那么，可以问阿尔法狗的是，如何能够拥有这样一颗怀抱理想的心？
三、身心
何谓“心”，古人并不以符合形式逻辑的判断句或陈述句来进行命题式的定义，只会如孟子说：“心之所同然者何也？谓理也，义也”；或者如庄子以“唯道集虚”说“心斋”。在现代汉语中，“心”是难以言说的，所以还是随时代而从众流，先从“意识”谈起。雷丁大学在2014年宣布，首次有电脑程序通过著名的图灵测试，这意味着我们已经无法确定屏幕里的聊天对象是另一个人还是一只“狗”了；这个叫“尤金·古斯特曼（Eugene Goostman）”的程序虽然不会下棋，但成功冒充了一名十三岁的乌克兰小男孩。凯文·沃维克（Kevin Warwick）教授说，人工智能领域里没有什么比图灵测试更具标志性和争议性了，在这个测试中，机器并不是主动要“伪装成人类”或者“欺骗人类”，而是被设计成如此的，因此在坏人手里可能会被利用。在笔者看来，这仍然是把机器当作工具的传统思路，如果更进一步，机器有了自我意识呢？有自我意识的机器有可能会故意不通过图灵测试，这样的机器就不仅能“伪装成人类”，更能够“伪装成机器”，不仅能欺骗聊天对象，更能欺骗它的设计者——如果这一天真的到来，我们才能说，机器真正从设计者赋予的逻辑链条中解放了出来，拥有了自我意识。
要做到这一点无疑还是一个难题，按照进化论的说法，人类进化了亿万年才逐渐成长为有高级意识的生物，机器获得意识的一种方式是模仿人类大脑，美国2013年开始的人脑计划（Brain Initiative）和欧盟的人脑工程（Human Brain Project）正在致力于绘制大脑图谱，试图从脑部结构和功能出发去解释记忆、情绪、意识。如果大脑可以完全被物理化，意识就是信号传递与反馈，既可以像人脑那样通过神经元突触传递神经细胞释放的化学物质，也可以像电脑那样依靠0，1的二进制去形成记忆和识别，二者只是载体不同，内容上并无区别。因此意识能够被编码，并上传给电脑，那么机器当然就能够如此复制人的意识。这类研究的结果尚待观察，但对这种物理主义的思路我们可以援引“哲学僵尸”（Philosophical zombie）的思想实验进行质疑，即“有没有可能存在一种人，他的所有分子组成、生理机制与行为反应都和你一样，但却没意识？”这种主张意识独立于大脑的身心二元论与人脑工程的物理主义形成了尖锐的对立。哥伦比亚大学神经生物学教授 Rafael Yuste的看法则较为居间，“怎么从大脑中互相连接的细胞这样的物理基础走向我们的精神世界、我们的思想、我们的记忆、我们的感觉？”大脑如何生成意识还依然是一个谜，“你不能编码直觉；你不能编码审美观念；你不能编码爱或恨。”就目前而言，科学也好、思想实验也好，都无法说服对立的任何一方。
还有一种不太进入公共讨论领域的思路，这种思路认为意识既不是在历史中的生物进化而来，也不产生于大脑，而是上帝创世与造人时的恩赐。我们可以很轻易地将其归入神学信仰，不过如果把这个说法变更一下，人工智能如果某一天拥有了意识，那么，人类无疑承担了造物主的角色，这个话题有意思的地方在于，如果我们认同机器可以复制人的意识，在同样的逻辑下就无法否定上帝造人的可能性，神学主义与科学主义在这里以一种吊诡的方式共存于同一逻辑链条中，这个悖论暴露出表面上誓不两立的二者的共同缺陷。
四、共在
这就是说，我们不能确定将来是否会有拥有自我意识的人工智能出现，比如阿尔法狗虽然精通围棋的一切知识，但当它与李世石对弈时，它知道自己是在“下围棋”吗？它对自己正在做的事情有意识吗？从仿生学的角度看，当前电脑的“生物性”还不能达到单细胞层次，既不能产生“意识”，也不能算作“生命”，假设中的有自我思维的人工智能（强AI）真正实现之前，阿尔法狗仍然只是一个不断执行下棋命令的计算者，而绝不会对下棋这件事本身进行思考。没有自我意识，不会思考有好的一面，或者说对人类有利的一面，因为我们知道，一个有了自我意识的孩子往往意味着进入“叛逆期”，一个有了自我意识的奴隶则不再以执行主人的命令为天职，当然，比叛逆更可怕的是欺骗，所以，只要阿尔法狗一直赢下去而非“故意输给人类”，人类反而是安全的。这实际上表明了人类与人工智能相处的窘境，对于强AI的期待与恐惧是并存的，未知的前景总是伴随着乐观与悲观两种心态。
黑格尔的主奴辩证法早已指出了这一问题的哲学意蕴：在对奴隶劳动的依赖中，主人丧失了独立的自我意识，奴隶却在与对象世界的互动中为自己赢得了自我意识，主奴关系因而发生了倒转。黑格尔提示我们，与其担忧人工智能获得意识后对人类不服从，不如首先担忧人类耽于便利与享乐而导致的自我隔离，这种自我隔离甚至在人工智能获得“坏意识”之前就有将人类带入危险的可能。《一个故意不通过图灵测试的人工智能》设想了这样的情节：一个名为“隔壁老王”的简单人工智能系统被设定了“尽量多的书写和测试，尽量快的执行，并且不断提高效率和准确性”的初始目标，隔壁老王不断用机器臂在小卡片上写字，并通过互联网和语音库
改进和执行初始目标。最后的结局是，隔壁老王不仅将字写满了地球，而且写满了整个星系，在这个过程中，地球上的一切生物，包括人类都成为隔壁老王实现写字目标的原材料。在这里，隔壁老王为了完成人类设定的目标产生了自我保存意识，这种最简单的意识就足以使阿西莫夫用以保护人类不受伤害的“机器人三原则”失效。隔壁老王获得的仅仅是自我保存的意识，与影视作品中统治地球和人类的“坏的”或“恶的”机器人不同，这种意识是非拟人化的，既不是道德（moral）的，也不是不道德（immoral）的，而是非道德（amoral）的，在非生物的人工智能身上，起作用的就是这样的简单意识。在这个意义上，人类如何考虑与人工智能，尤其是可能会实现的强AI相处就成为必须面对的问题。我们当然有可能、也有必要从伦理、法律为科学研究和应用进行讨论、规范、立法，就像当年对待克隆技术一样。
更为根本的问题在于，我们对人与人、人与万物相处的理解，这种理解构成了人类生活的基础。人机对弈告诉我们，围棋作为游戏，乃是非实用性和非功利性的艺术，又因其为宇宙之理的表现，故而排除了人的主观独断和自我隔离的危险；换言之，在围棋的游戏中，既拒绝技术中心主义，也不要人类中心主义，人与阿尔法狗一样，都是作为参与者而共在（Dabeisein）于游戏之中。在这里，人之所以能够成为游戏的创造者和规则制定者，是人对世界开放、因而对宇宙之理有所领会的结果。而反过来，人作为有“心”的存在者，将自己的领会分享给阿尔法狗，如丁纪老师在人机对弈首局战罢后评论说，教阿尔法狗下棋、“教会天地万物坐在一起下围棋”本身就是一个人文事件。在这个意义上，阿尔法狗虽然还没有超越弱人工智能的奇点而获得自我意识，但确实已经身处人文的世界之中。在对人工智能的乐观或忧虑的两极观点之间，人所应该并且能够做的，即是以共在的方式与天地万物相处，并尽力将科学、人心导向良善的方向，那未来的前景，终究要由人类自身的努力去开启。
[本文为教育部人文社会科学研究青年基金项目“从文本到实践：伽达默尔晚期思想与近三十年诠释学的新发展”（14YJC751023）阶段性成果。]
作者单位：西南交通大学中文系
中央民族大学预科教育学院
（责任编辑农郁）