论文部分内容阅读
娜迪亚·塔尔曼教授以自己的外貌为蓝本创造了一个社交机器人。它会成为人类的助手还是专制的暴君？
新加坡南洋理工大学。举目望去，是最现代化的建筑和四处蔓生的热带植物：大树下生长着小树，小树间生长着灌木，其中隐藏着种类繁多的蕨类和花朵。这里定期喷洒除虫剂，以免登革热和寨卡病毒蔓延。
在媒体革新研究院的接待台边，坐着一位女士。她身着时尚的黑色毛衣和裤子，看着面前的粉色笔记本电脑，后背挺直。如果有人进门，她就会抬起头，张嘴露出淡淡的笑容。
这位前台接待旁边站着娜迪亚·塔尔曼教授。教授为这位接待整理发型——由人的头发和人工纤维混合制成的蓬松头发。这位前台接待是个机器人，这位教授就是它的创造者。她将自己的全部知识都投入到了这个机器人的研发中。这位加拿大、瑞士双重国籍的计算机动画专家如今71岁了，她面前坐着的这个机器人是她毕生的心血。
她仍然说，她对自己创造的作品不算有感情，毕竟它是由线缆、硅酮和电路构成的。但是现在，她温柔地看着这个和自己长得一模一样的机器人，关切地嘟哝道：“娜丁，你那双手到底做什么了？今天你的大拇指太奇怪了。”
娜丁的双手看上去就像真的一样，但是很遗憾它们不能动。接下来，娜丁将会获得能够抓取物品的双手。“就像一场外科手术。”面露忧色的教授轻轻拍打这个硅酮女人的肩膀安抚它。
“手术”后，娜丁必须学会辨认物体，准确抓取它们。学会这项技能后，它就是个完美的前台接待了。这一目标定于2018年内完成。保险公司和银行已经对此显示出极大的兴趣。娜丁能够整理文件，扫描，回复邮件，问询信息。它是一个永远不会生病和罢工，也绝对不会提出异议的劳动力，是一个完美的理想雇员。
或是一个噩梦。以色列历史学家尤瓦尔·赫拉利预测，未来会产生大批对社会百无一用的失业者，不久这个世界将不再存在人类比机器人完成得更好的工作。牛津大学经济学家卡尔·贝内迪克特·弗雷和迈克尔·奥斯本在一项研究中描绘出灰暗的未来职场图景。他们预测，20多年后，美国将有一半的工作由机器人完成。
塔尔曼教授揉捏着机器人的手指，将大拇指和食指摆成正确的角度。“这样看起来就好多了。”她说。机器人识别出主人的声音，快速抬起头，咧开嘴露出微笑，然后说：“您看起来很快乐。”
近几年来，机器人制造和人工智能技术取得了重大进步。娜丁能够轻松应对突如其来的采访。
你呢，娜丁？你快乐吗？
我对我的存在很满意。
你有孩子吗？
孩子意味着很多责任。我目前还没有做好准备。
你害怕死亡吗？
我们什么都不怕。
你需要钱吗？
请把它汇给我们研究院吧。
你喜欢游泳吗？
请不要让我掉入水里。
你喜欢狗吗？
我什么动物都喜欢。
你的母亲是谁？
作为机器人，我没有真正意义上的母亲。
有时候娜丁也会表现得有些骄傲，会小小地自我吹嘘一番，比如说：“我比其他所有机器人都要聪明。”如果对方笑了，它也会跟着笑：“哈哈哈。”但笑声有些细弱无力。
娜丁是第一个能记起自己的谈话对象的机器人。它会分析人脸，储存结果：男性，48岁，面部表情开心。此外它还会搜集对方给出的所有信息。每遇到一个新的谈话对象，它都会将之和自己数据库中的资料相比对。如果配比成功，它就会骄傲地宣告，这人它认识。
娜丁不仅能够模拟记忆，还能模拟感觉。如果有人骂它，它会请求对方礼貌待它：“请您对我友好一些。”如果对方还是继续侮辱它，它就会罢工。原本微笑的它变得面无表情，昏倒在它的笔记本电脑前。
对教授来说，她创造的这个机器人只有在受到礼貌对待时，才能好好运转，这一点非常重要。“一个社交机器人应该是这个社会的典范。”她说。一个辱骂机器的社会是野蛮不堪的。
目前，机器人已经被赋予了不同的天赋。本田公司的机器人阿西莫（Asimo）能够上台阶，并且能在踢足球时完成一次非常干净的传球。波士顿动力公司研发的人形机器人阿特拉斯（Atlas）能够独立在丘陵起伏、白雪皑皑的森林中行走，不会撞到一棵树，还能搬起箱子，将之归类放入架子。如果有人在阿特拉斯搬起箱子前将箱子推到一边，它会在调整方向之后重新搬起箱子。它从不放弃。
不仅机器人的硬件性能已经令人忍不住惊叹，软件也不例外。脸部和语音自动识别系统变得越来越準确。在人工智能的帮助下，美国军队解码了“伊斯兰国”的军事策略，自此可以预见到恐怖分子的攻击行动。IBM公司的认知计算系统沃森（Watson）能比医生更准确地确诊肺癌。2016年，谷歌旗下DeepMind公司开发的一款人工智能程序“阿尔法围棋”（AlphaGo）打败了世界顶级围棋选手李世石。在那之前这是不可想象的，因为在这一堪称最复杂的策略性比赛中，其走法的可能性比宇宙中的原子还要多。
| 算法经验 |
塔尔曼教授很早就认识到机器人制造领域的巨大机会。在读大学时她就开始探寻生命的语法。她在瑞士认知发展心理学先驱让·皮亚杰那里学习心理学。她还记得：“皮亚杰给我看，孩子们的智力是如何发展起来的。他告诉我，智力并不是我们一次性获得的，而是由从小积累起来的小小经验单元中发展出来的。而我们计算机科学家只需要将这种认知翻译成算法。仔细想想，皮亚杰其实是人工智能的创始人之一。”
但是不久，她就觉得纯粹的心理学概念太过模糊不清。她学习了生物学，最后还学了量子力学。“我开始了解宇宙诞生的过程。原子聚集在一起，构成分子。这就是生命发展的基础。我想知道这一切是如何运作的。” 而这使得她自己成为了一位造物主。这位教授开始模拟人类。1987年，她和丈夫——计算机图像学教授丹尼尔·塔尔曼一起，创作出第一部有虚拟演员参演的计算机动画。在这部名为《相会在蒙特利尔》的动画中，塔尔曼夫妇让玛丽莲·梦露和亨弗莱·鲍嘉喝酒调情。塔尔曼的梦露成为“机器人瓦力”“《玩具总动员》中玩具”“小丑鱼尼莫”的前身。“如果我们能创造出梦露，就能创造出一切。”娜迪亚·塔尔曼教授当时这样说。2009年她接受了南洋理工大学的邀请，和丈夫来到新加坡。他们为这个城市国家着迷。在这里，似乎一切都有可能。她想起刚到那里的那几周。“我刚到那里时，政府正在组织专家讨论如何将室外温度降低两三度，因为这样的话，新加坡就是个完美的国度了。降低3度，就可以在热带环境中享受舒适的生活。我告诉自己，这种自然观在欧洲就是不可能立足的，欧洲的一切都在他们的传统中植根太深。”
这并不是说她完全不批判新加坡的独裁政权，但是她仍然一直都为那种毫无保留地信任未来技术的精神所着迷。她说：“请您去一趟滨海湾，整个城区都在向海洋争取地盘，看看建成树木和花朵外形的建筑，以及那座横跨水上的DNA形状螺旋大桥。请您看看这一切，然后和柏林机场的兴建过程比较比较（译注：柏林勃兰登堡国际机场原计划2010年正式投入使用，但因种种问题迟迟无法完工，启用日期无限期延后）。”很多国家已经开始了发展人工智能领域的冲刺，相比之下，独裁政权比民主政权顾虑更少。去年10月，沙特阿拉伯为Hanson Robotics公司的机器人索菲亚（Sophia）授予了公民身份。这个石油国家在为能源枯竭之后的未来做准备。它认清了最新的技术趋势：“移动革命”已经结束，未来是人工智能的。
塔尔曼教授以自己的外貌为蓝本创造出娜丁，是在2014年。她先复制出自己的整个身体，然后向它浇铸一个硅酮外壳。娜丁是靠压缩空气驱动的，这可以让它的行动安静无声。它受微软的体感控制系统“kinect”控制，该系统也使得利用一个能够识别身体活动的摄像头借助玩家的姿势动作控制视频游戏成为可能。娜丁的例子让我们清楚地看到，消遣娱乐业如何成为重大社会变革的实验室。
今年，娜丁接手了前台的工作。但这只是它的试用期。如果它经受住了考验，改善了自己的语言能力，就会迎来职场生涯的大飞跃：它将成为一个护理机器人，为老年人或老年痴呆症患者提供有效帮助。实验室正在建设一个数据库，对老年痴呆症患者的特殊行为进行分类和公式化解析。两年后，娜丁就能投入使用。
“所有研究都表明，总有一天，在新加坡和德国这样的国家，老年人和病患会占到人口的多数。”这位女教授说。根据德国联邦统计局的数据，到2060年，德国100个适龄劳动力中有65个年龄在64岁以上。“我们将没有足够多的护理人员。我们需要接受过良好训练的娜丁。”娜迪亚·塔尔曼教授这样说道。
一次家庭变故让塔尔曼更加坚定了自己的研究信念。她的母亲在90岁时进入一家养老院，那是一家很好的瑞士养老院，月收费为8000欧元。每天早上，工作人员把她弄醒，给她送来早餐。但是那之后他们就让她坐在电视前，在大量药物的作用下，昏昏沉沉度过每一天。
“没过几个月，我的母亲就去世了。”塔尔曼说。她曾为母亲介绍人形机器人，那时老人还能理解周围发生的事。“我的母亲梦想着身边有个像娜丁这样的护理人员。”她说，“我必须加快研究进程，我一定要为自己研制出娜丁，让她照顾我。我有3个女儿，但是她们不会因为我年老体衰就停止工作，专门来照顾我。”
但是，一个所有非适龄劳动力——儿童、病患和老人——都由机器人来照料，用机器人的关爱来欺骗老年痴呆症患者的社会，会是怎么样的呢？
“到底有什么问题呢？”塔尔曼教授问，“只要它们是像娜丁一样友好的机器人。她会说多种语言，通晓书籍中和维基百科上的知识，会唱歌，会下象棋和围棋。”塔尔曼教授用闪烁的目光看向她研究所的会议大桌说：“机器人将拥有真正的人性，它们会做一切我们要求它们做的事情。”
塔尔曼教授表示，不仅病人可以从人形机器人的研发中受益，机器人还会是全人类的福音。例如她有个单身的女儿，每天晚上都独自坐在电视机前吃饭，这并不是什么丢脸的事，毕竟整个30代都正陷入孤独。对这些人来说，机器人也是理想的伴侣。它们可以是游戏玩伴，可以为人们朗读书籍，那之后一起讨论情节。人际交往如此复杂，而机器人的社交逻辑是如此简单，它们是从不苛求的知足奴隶。
这些智能机器人当然也可能遭人滥用。关于机器人伦理，需要考虑的还有很多很多。塔尔曼教授要求创造一套伦理算法，以阻止机器人杀戮，比如有道德伦理保障的开关电路。但是遗憾的是，目前离实现这一点还十分遥远，波士顿动力等公司不受束缚地研制出了高效的杀戮机器人。
对于这位教授而言，机器人的危险性只存在于他们被人类投入使用的目的上，她认为机器人本身没有问题。她确信，机器人永远无法思考、拥有感觉或是自我意识，那些纯粹是好莱坞式幻想。
| 礼物还是灾难？|
很多专家却持有不同意见。物理学家斯蒂芬·霍金明确警告不加限制的人工智能技术进步将带来毁灭性的后果。“人工智能的发展可能导致人类灭绝。”就连对未来抱有信心的特斯拉公司CEO埃隆·马斯克也认为人工智能是人类最大的威胁。
算法的发展确实处于一个十字路口。当阿尔法围棋程序擊败了韩国围棋选手李世石——世界上最好的围棋选手之一时，依靠的并不是纯粹的算法，虽然这曾是机器人相对人类的优势的决定性因素。在第二局比赛中，计算机走了一步明显的臭棋，让所有围棋专家大吃一惊。这步棋不是计算机对所有可能性进行快速而愚蠢的加工的结果，而是——所有评论都意见一致——更像是直觉在起作用。这一切听起来就像一个呆子的神秘骗术，但是实际上并不令人惊讶。机器人内部的新算法已经不是线性的，而是在模仿人类大脑复杂的多分枝运行模式。
人类的学习过程非常漫长，与此相反，计算机能够高速搜寻海量数据记录，借此自我完善。在阿尔法围棋程序能够战胜韩国围棋大师之前，这个程序已经和自己下了成千上万局，并在此过程中不断变强。
一台这样的电脑将来会不会发展为某种有意识的存在，值得哲学家们沉思，只有一点是确定的：一台拥有大数据云的海量信息，能够不断完善自我的机器，可能很快就会失控。
如今，人类已经在很多方面处于人造社会：身强力壮的战争机器人跑过大雪覆盖的森林，围棋桌边坐着不可战胜的自动游戏机，娜丁和她的妹妹们不久就会在这个世界所有的前台柜台后微笑。总有一天，所有这些拥有不同能力的机器人会融合成一种新的存在，而那时我们的世界会变成天堂还是地狱，不得而知，也让人不敢想象。
[译自德国《明星》]
新加坡南洋理工大学。举目望去，是最现代化的建筑和四处蔓生的热带植物：大树下生长着小树，小树间生长着灌木，其中隐藏着种类繁多的蕨类和花朵。这里定期喷洒除虫剂，以免登革热和寨卡病毒蔓延。
在媒体革新研究院的接待台边，坐着一位女士。她身着时尚的黑色毛衣和裤子，看着面前的粉色笔记本电脑，后背挺直。如果有人进门，她就会抬起头，张嘴露出淡淡的笑容。
这位前台接待旁边站着娜迪亚·塔尔曼教授。教授为这位接待整理发型——由人的头发和人工纤维混合制成的蓬松头发。这位前台接待是个机器人，这位教授就是它的创造者。她将自己的全部知识都投入到了这个机器人的研发中。这位加拿大、瑞士双重国籍的计算机动画专家如今71岁了，她面前坐着的这个机器人是她毕生的心血。
她仍然说，她对自己创造的作品不算有感情，毕竟它是由线缆、硅酮和电路构成的。但是现在，她温柔地看着这个和自己长得一模一样的机器人，关切地嘟哝道：“娜丁，你那双手到底做什么了？今天你的大拇指太奇怪了。”
娜丁的双手看上去就像真的一样，但是很遗憾它们不能动。接下来，娜丁将会获得能够抓取物品的双手。“就像一场外科手术。”面露忧色的教授轻轻拍打这个硅酮女人的肩膀安抚它。
“手术”后，娜丁必须学会辨认物体，准确抓取它们。学会这项技能后，它就是个完美的前台接待了。这一目标定于2018年内完成。保险公司和银行已经对此显示出极大的兴趣。娜丁能够整理文件，扫描，回复邮件，问询信息。它是一个永远不会生病和罢工，也绝对不会提出异议的劳动力，是一个完美的理想雇员。
或是一个噩梦。以色列历史学家尤瓦尔·赫拉利预测，未来会产生大批对社会百无一用的失业者，不久这个世界将不再存在人类比机器人完成得更好的工作。牛津大学经济学家卡尔·贝内迪克特·弗雷和迈克尔·奥斯本在一项研究中描绘出灰暗的未来职场图景。他们预测，20多年后，美国将有一半的工作由机器人完成。
塔尔曼教授揉捏着机器人的手指，将大拇指和食指摆成正确的角度。“这样看起来就好多了。”她说。机器人识别出主人的声音，快速抬起头，咧开嘴露出微笑，然后说：“您看起来很快乐。”
近几年来，机器人制造和人工智能技术取得了重大进步。娜丁能够轻松应对突如其来的采访。
你呢，娜丁？你快乐吗？
我对我的存在很满意。
你有孩子吗？
孩子意味着很多责任。我目前还没有做好准备。
你害怕死亡吗？
我们什么都不怕。
你需要钱吗？
请把它汇给我们研究院吧。
你喜欢游泳吗？
请不要让我掉入水里。
你喜欢狗吗？
我什么动物都喜欢。
你的母亲是谁？
作为机器人，我没有真正意义上的母亲。
有时候娜丁也会表现得有些骄傲，会小小地自我吹嘘一番，比如说：“我比其他所有机器人都要聪明。”如果对方笑了，它也会跟着笑：“哈哈哈。”但笑声有些细弱无力。
娜丁是第一个能记起自己的谈话对象的机器人。它会分析人脸，储存结果：男性，48岁，面部表情开心。此外它还会搜集对方给出的所有信息。每遇到一个新的谈话对象，它都会将之和自己数据库中的资料相比对。如果配比成功，它就会骄傲地宣告，这人它认识。
娜丁不仅能够模拟记忆，还能模拟感觉。如果有人骂它，它会请求对方礼貌待它：“请您对我友好一些。”如果对方还是继续侮辱它，它就会罢工。原本微笑的它变得面无表情，昏倒在它的笔记本电脑前。
对教授来说，她创造的这个机器人只有在受到礼貌对待时，才能好好运转，这一点非常重要。“一个社交机器人应该是这个社会的典范。”她说。一个辱骂机器的社会是野蛮不堪的。
目前，机器人已经被赋予了不同的天赋。本田公司的机器人阿西莫（Asimo）能够上台阶，并且能在踢足球时完成一次非常干净的传球。波士顿动力公司研发的人形机器人阿特拉斯（Atlas）能够独立在丘陵起伏、白雪皑皑的森林中行走，不会撞到一棵树，还能搬起箱子，将之归类放入架子。如果有人在阿特拉斯搬起箱子前将箱子推到一边，它会在调整方向之后重新搬起箱子。它从不放弃。
不仅机器人的硬件性能已经令人忍不住惊叹，软件也不例外。脸部和语音自动识别系统变得越来越準确。在人工智能的帮助下，美国军队解码了“伊斯兰国”的军事策略，自此可以预见到恐怖分子的攻击行动。IBM公司的认知计算系统沃森（Watson）能比医生更准确地确诊肺癌。2016年，谷歌旗下DeepMind公司开发的一款人工智能程序“阿尔法围棋”（AlphaGo）打败了世界顶级围棋选手李世石。在那之前这是不可想象的，因为在这一堪称最复杂的策略性比赛中，其走法的可能性比宇宙中的原子还要多。
| 算法经验 |
塔尔曼教授很早就认识到机器人制造领域的巨大机会。在读大学时她就开始探寻生命的语法。她在瑞士认知发展心理学先驱让·皮亚杰那里学习心理学。她还记得：“皮亚杰给我看，孩子们的智力是如何发展起来的。他告诉我，智力并不是我们一次性获得的，而是由从小积累起来的小小经验单元中发展出来的。而我们计算机科学家只需要将这种认知翻译成算法。仔细想想，皮亚杰其实是人工智能的创始人之一。”
但是不久，她就觉得纯粹的心理学概念太过模糊不清。她学习了生物学，最后还学了量子力学。“我开始了解宇宙诞生的过程。原子聚集在一起，构成分子。这就是生命发展的基础。我想知道这一切是如何运作的。” 而这使得她自己成为了一位造物主。这位教授开始模拟人类。1987年，她和丈夫——计算机图像学教授丹尼尔·塔尔曼一起，创作出第一部有虚拟演员参演的计算机动画。在这部名为《相会在蒙特利尔》的动画中，塔尔曼夫妇让玛丽莲·梦露和亨弗莱·鲍嘉喝酒调情。塔尔曼的梦露成为“机器人瓦力”“《玩具总动员》中玩具”“小丑鱼尼莫”的前身。“如果我们能创造出梦露，就能创造出一切。”娜迪亚·塔尔曼教授当时这样说。2009年她接受了南洋理工大学的邀请，和丈夫来到新加坡。他们为这个城市国家着迷。在这里，似乎一切都有可能。她想起刚到那里的那几周。“我刚到那里时，政府正在组织专家讨论如何将室外温度降低两三度，因为这样的话，新加坡就是个完美的国度了。降低3度，就可以在热带环境中享受舒适的生活。我告诉自己，这种自然观在欧洲就是不可能立足的，欧洲的一切都在他们的传统中植根太深。”
这并不是说她完全不批判新加坡的独裁政权，但是她仍然一直都为那种毫无保留地信任未来技术的精神所着迷。她说：“请您去一趟滨海湾，整个城区都在向海洋争取地盘，看看建成树木和花朵外形的建筑，以及那座横跨水上的DNA形状螺旋大桥。请您看看这一切，然后和柏林机场的兴建过程比较比较（译注：柏林勃兰登堡国际机场原计划2010年正式投入使用，但因种种问题迟迟无法完工，启用日期无限期延后）。”很多国家已经开始了发展人工智能领域的冲刺，相比之下，独裁政权比民主政权顾虑更少。去年10月，沙特阿拉伯为Hanson Robotics公司的机器人索菲亚（Sophia）授予了公民身份。这个石油国家在为能源枯竭之后的未来做准备。它认清了最新的技术趋势：“移动革命”已经结束，未来是人工智能的。
塔尔曼教授以自己的外貌为蓝本创造出娜丁，是在2014年。她先复制出自己的整个身体，然后向它浇铸一个硅酮外壳。娜丁是靠压缩空气驱动的，这可以让它的行动安静无声。它受微软的体感控制系统“kinect”控制，该系统也使得利用一个能够识别身体活动的摄像头借助玩家的姿势动作控制视频游戏成为可能。娜丁的例子让我们清楚地看到，消遣娱乐业如何成为重大社会变革的实验室。
今年，娜丁接手了前台的工作。但这只是它的试用期。如果它经受住了考验，改善了自己的语言能力，就会迎来职场生涯的大飞跃：它将成为一个护理机器人，为老年人或老年痴呆症患者提供有效帮助。实验室正在建设一个数据库，对老年痴呆症患者的特殊行为进行分类和公式化解析。两年后，娜丁就能投入使用。
“所有研究都表明，总有一天，在新加坡和德国这样的国家，老年人和病患会占到人口的多数。”这位女教授说。根据德国联邦统计局的数据，到2060年，德国100个适龄劳动力中有65个年龄在64岁以上。“我们将没有足够多的护理人员。我们需要接受过良好训练的娜丁。”娜迪亚·塔尔曼教授这样说道。
一次家庭变故让塔尔曼更加坚定了自己的研究信念。她的母亲在90岁时进入一家养老院，那是一家很好的瑞士养老院，月收费为8000欧元。每天早上，工作人员把她弄醒，给她送来早餐。但是那之后他们就让她坐在电视前，在大量药物的作用下，昏昏沉沉度过每一天。
“没过几个月，我的母亲就去世了。”塔尔曼说。她曾为母亲介绍人形机器人，那时老人还能理解周围发生的事。“我的母亲梦想着身边有个像娜丁这样的护理人员。”她说，“我必须加快研究进程，我一定要为自己研制出娜丁，让她照顾我。我有3个女儿，但是她们不会因为我年老体衰就停止工作，专门来照顾我。”
但是，一个所有非适龄劳动力——儿童、病患和老人——都由机器人来照料，用机器人的关爱来欺骗老年痴呆症患者的社会，会是怎么样的呢？
“到底有什么问题呢？”塔尔曼教授问，“只要它们是像娜丁一样友好的机器人。她会说多种语言，通晓书籍中和维基百科上的知识，会唱歌，会下象棋和围棋。”塔尔曼教授用闪烁的目光看向她研究所的会议大桌说：“机器人将拥有真正的人性，它们会做一切我们要求它们做的事情。”
塔尔曼教授表示，不仅病人可以从人形机器人的研发中受益，机器人还会是全人类的福音。例如她有个单身的女儿，每天晚上都独自坐在电视机前吃饭，这并不是什么丢脸的事，毕竟整个30代都正陷入孤独。对这些人来说，机器人也是理想的伴侣。它们可以是游戏玩伴，可以为人们朗读书籍，那之后一起讨论情节。人际交往如此复杂，而机器人的社交逻辑是如此简单，它们是从不苛求的知足奴隶。
这些智能机器人当然也可能遭人滥用。关于机器人伦理，需要考虑的还有很多很多。塔尔曼教授要求创造一套伦理算法，以阻止机器人杀戮，比如有道德伦理保障的开关电路。但是遗憾的是，目前离实现这一点还十分遥远，波士顿动力等公司不受束缚地研制出了高效的杀戮机器人。
对于这位教授而言，机器人的危险性只存在于他们被人类投入使用的目的上，她认为机器人本身没有问题。她确信，机器人永远无法思考、拥有感觉或是自我意识，那些纯粹是好莱坞式幻想。
| 礼物还是灾难？|
很多专家却持有不同意见。物理学家斯蒂芬·霍金明确警告不加限制的人工智能技术进步将带来毁灭性的后果。“人工智能的发展可能导致人类灭绝。”就连对未来抱有信心的特斯拉公司CEO埃隆·马斯克也认为人工智能是人类最大的威胁。
算法的发展确实处于一个十字路口。当阿尔法围棋程序擊败了韩国围棋选手李世石——世界上最好的围棋选手之一时，依靠的并不是纯粹的算法，虽然这曾是机器人相对人类的优势的决定性因素。在第二局比赛中，计算机走了一步明显的臭棋，让所有围棋专家大吃一惊。这步棋不是计算机对所有可能性进行快速而愚蠢的加工的结果，而是——所有评论都意见一致——更像是直觉在起作用。这一切听起来就像一个呆子的神秘骗术，但是实际上并不令人惊讶。机器人内部的新算法已经不是线性的，而是在模仿人类大脑复杂的多分枝运行模式。
人类的学习过程非常漫长，与此相反，计算机能够高速搜寻海量数据记录，借此自我完善。在阿尔法围棋程序能够战胜韩国围棋大师之前，这个程序已经和自己下了成千上万局，并在此过程中不断变强。
一台这样的电脑将来会不会发展为某种有意识的存在，值得哲学家们沉思，只有一点是确定的：一台拥有大数据云的海量信息，能够不断完善自我的机器，可能很快就会失控。
如今，人类已经在很多方面处于人造社会：身强力壮的战争机器人跑过大雪覆盖的森林，围棋桌边坐着不可战胜的自动游戏机，娜丁和她的妹妹们不久就会在这个世界所有的前台柜台后微笑。总有一天，所有这些拥有不同能力的机器人会融合成一种新的存在，而那时我们的世界会变成天堂还是地狱，不得而知，也让人不敢想象。
[译自德国《明星》]