论文部分内容阅读
2016年3月，最大的科技新闻莫过于人类棋手在围棋人机大战中惨败：谷歌的人工智能软件AlphaGo在对围棋世界冠军李世石的比赛中，以四比一取胜。其实早在2015年，AlphaGo已经以五比零的战绩击败了欧洲围棋冠军樊麾。由于围棋的可能下法太多了，通常认为计算机难以运算，所以这次电脑对人脑的胜利极大地震惊了人类。
神秘莫测的AI
围棋的算法数量是2.08X10^170，比宇宙中所有原子数量（10^80）还多。没人知道AlphaGo第二局黑37那招，是不是走进了人类思维从未探索过的角落。因此，包括“棋圣”聂卫平在内的思想者都在思考下述问题：AlphaGo的“内心世界”到底是什么样的？它走出诡异棋路时在想什么？这是个让人感到恐怖的“黑箱”问题，包括AlphaGo的设计者也会难以回答。
作为首次被电脑打败的职业棋手，樊麾回顾2015年首次人机围棋对战时曾说：AlphaGo比李昌镐更“石佛”。当年击败众多高手的李昌镐，就是因为面无表情，对手感觉不到他的任何波动，而被称为“石佛”。但谁能比电脑更“石佛”呢？它没有人类棋手般心理的感觉，它就是一个虚无，但它却完全能把握住对手的性格，这是不对等的。樊麾说：“这个墙的概念是什么呢？就是它不动，你对它施展任何压力它都会反弹给你，你对它施加的所有力量，你对它所有的辱骂也好，对它所有的微笑也好，最后全反馈到你自己身上，这是我对AlphaGo的感觉。”樊麾认为，很难评论AlphaGo 所下的棋美还是不美，因为它可能开辟出另外一种围棋的美，是人类想象不到的。
刘慈欣在2011年曾预言，计算机系统正在从透明的、可预测的，慢慢变成一个黑箱状态，变得难以预测和控制，也许这就是真正的A.I.（人工智能）即将诞生的征兆，我们正处于一个A.I.种族的史前时代。现在，职业棋手的感觉正在证实这个神秘莫测的智慧黑箱。
AlphaGo是怎样运作的呢？它通过模式识别“理解”棋局的进展，再设计出一种策略并实时调整。这样的系统依赖深度学习技术，运用由人工神经元组成的网络，分析大量数据，寻找模式和“背后含义”。为了教会该系统，开发者让两个围棋程序彼此对弈，使用一种被称为“强化学习”的技术，帮助该技术反复迭代和演化。在对弈中，两台电脑生成了自己从未学过的策略。人工智能专家不确定是否该称之为新智能的诞生，但暗示这代表着机器学习演化过程中的某种新东西。
与AlphaGo的成就形成对照的，是微软开发的人工智能聊天机器人Tay。3月23日，微软推出的聊天机器人Tay，能在Twitter和其他消息平台上与用户互动。Tay能够模仿人类用户的评论，生成自己的回答，并根据整体互动情况去发言。但Tay上线首日就出现了问题，它不但辱骂Twitter用户，还发表了种族歧视和性别歧视言论。开发者原本希望Tay模仿典型的“千禧年一代”的日常谈话。因此，许多用户都想看看，究竟能教会Tay什么样的言论。结果，在不到一天的时间里，网民就发现，Tay实际上并不清楚自己所说的是什么，因此很容易引诱它发表不当言论。尽管研究团队已经为针对该系统的多种滥用行为做好准备，但对于这一特定攻击，还是未能防范。Tay本身也因此被下线。这件事从另一方面说明，有自我学习功能的A.I.是多么难于预测。
人机大战小史
人机大战并非是21世纪的产物，早在中世纪，就有发明家做出各种人形或动物形状的机械。它们的内部构造相当精密，在重力、水力、弹簧和控制杆的共同作用下，能做出许多有趣的动作。在达·芬奇的手稿中，人们发现了大量有关自动装置的描述，在他私藏的笔记中，也遍布各种有关机械装置的构想的涂鸦，比如液压水表和机械狮子等。
进入机器时代，各种有趣的“机器人”纷纷出现。1770年，奥地利人沃尔夫冈·冯·肯佩伦宣称建造了一个会自动下棋的木偶，并在维也纳向女大公及贵族们展示。下棋木偶当众表演与人对弈，女大公及贵族均赞叹不已。随着钟表技术的进步，这类自动人形机器在十八、十九世纪十分风行，电影《雨果》中就出现了这样一台能写信的人偶机器人。
1920年，捷克斯洛伐克作家卡雷尔·恰佩克在科幻小说《罗萨姆的机器人公司》中，根据Robota（捷克文，原意为“劳役、苦工”）和Robotnik（波兰文，原意为“工人”），创造出“机器人”这个词。
1939年，西屋电气公司在纽约世博会上发布了世界上最早的家用机器人Elektro。这款机器人由电缆控制，可以行走，会说77个字，甚至可以抽烟，不过离真正干家务活儿还差得远。但它让人们对家用机器人的憧憬变得具体起来。
真正能与人对弈的机器直到1952年才诞生：剑桥大学的亚历山大·道格拉斯为一台占据整间屋子的电子计算机设计了一款井字棋电脑游戏，玩家通过转轮拨号电话输入落子棋位的编号，随后电脑行棋，双方的过招会在屏幕上显示。1994年，跳棋程序切努克与人类卫冕冠军马里恩·廷斯利战成平局。
1996年，IBM公司的国际象棋电脑“深蓝”首次挑战国际象棋世界冠军卡斯帕罗夫，初出茅庐的“深蓝”以2比4落败。但在第二年的对局中，“深蓝”最终获胜，成为首个在标准比赛时限内击败国际象棋世界冠军的电脑系统。“深蓝”运算速度为每秒2亿步棋，存有70万份大师对战的棋局数据，强大的计算能力使其能够依靠穷举来选择最佳策略，它可搜寻及估计随后的12步棋，而一名人类象棋好手大约可估计随后的10步棋。
2011年，IBM开发的能使用自然语言回答问题的人工智能程序沃森参加电视智力问答节目《危险边缘》，一举战胜了两名人类冠军。沃森依托的超级计算机体积相当于10台冰箱，每秒可运算80万亿次，它不但存储了2亿页的数据，还能辨别话语中的隐晦含义、语气的差别。
人类能保住哪些工作？
2013年，两位牛津大学的学者发布了一篇研究报告，预测在未来20年内，美国将有约50%的工作岗位因配备人工智能机器人而消失。他们观察了700种职业，发现最易受机器人影响的职业包括信贷员、前台接待、律师助理、店员、出租车司机和保安。即便是计算机程序员也没有幸免。根据计算，在今后的二十几年内，50%的编程工作也会外包给机器人。 有了AlphaGo这样可观的计算能力和学习能力，机器人自然能从事复杂的专业技术工作，如判断医学X光片准确率可达98%以上，超过专家水平；其他如行政人员、文书、老师、会计、新闻记者、电话公司职员、麻醉师和外科医生、收银员、市场营销人员、客服人员、金融分析师等，许多常见工作智能机器人都可胜任。
与人相比，机器人更便宜且具有不消极、不怠工、不抱怨等优点，但无论是工业机器人还是智能机器人，毕竟属于“物”而不是人，不具备情感、个性、意识、道德等人性，也不具备创新、创意和创造能力，这就决定了这些与人性相关的领域，机器人难以觊觎。
艺术设计类工作，机器人也没法沾边。这类工作需要鲜明的个性、独特的创造性思维，机器人可以做出至善至美的画面，但无法在其中体现情感、创意、心态、灵感、道德、意识等个性特征。例如演艺明星，粉丝们既对其出神入化的表演如醉如痴，也对其本人乃至私生活有兴趣，换了机器人之后，这种种微妙之处将不复存在。艺术是人类创造力和想象力的个性化表达，人工智能智商再高，也只能表达共性。
许多人认为，诉诸情感的工作将是人类最后的堡垒。他们觉得，机器人虽然可以护理和照料年老体弱者，但是不能进行感情陪护；机器人即便能够授课，但不能进行个性化、差异化辅导，更不能替代家长或老师对孩子进行言传身教。许多服务性工作对语言和文化背景要求很高，有了共同的背景会让客户感到亲切温暖安心，这是机器人所不具备的。
然而科学杂志《Nautilus》2013年曾发表的一篇文章指出，机器人可以通过将情绪转换为数学模型而拥有喜怒哀乐。因为情绪并不是无法解释的，情绪不过是人类对于周围环境改变的自动反应，这种反应归根究底是人类为了适应生存而做出的进化。
美国明尼苏达大学人类学教授哈金斯甚至认为，距离发明可作生活伴侣的机器人的时代已为期不远，从现在起10年到20年内，可能会研究出原型。他预期这种机器人具有人性，会哭泣、失望，甚至会生气，遇到好玩儿的事也会大笑，会有怜悯心，会表现出人类常见的浪漫感情。该机器程序中含有多种个性，因此，一个人可从一个机器人身上获得与许多不同伴侣相处的感受。他说：“可在机器人程序中输入情感反应，甚至可安装生育装置，一位女性机器人在其人造子宫中，殖入人类妇女捐赠的受精卵，即可生育。”这不禁令人想起科幻电影《复制娇妻》中的场景。
也有人认为，人工智能的发展会给人类的工作创造更多的可能性。《连线》杂志创始主编、凯文·凯利举例说明：当年“深蓝”战胜卡斯帕罗夫后，人工智能并没有削弱国际象棋人类棋手的水平。恰恰相反，在廉价且超级智能的国际象棋软件的激励下，下棋的人数、锦标赛的数量以及选手的水平都达到了历史之最。既然人工智能可以帮助人类成为更优秀的国际象棋选手，那么合理地推测，它也能帮助我们成为更优秀的飞行员、医生、法官、教师。在凯文·凯利看来，机器取代人工是必然的，一切只是时间问题。但有些工作确实需要机器来完成，因为它们比人类表现得更好，也更合适，而人类则可以在它们的帮助下，从事更新更有意义的工作。
给A.I.套上枷锁
一直以来，英国著名物理学家斯蒂芬·霍金对人工智能都持悲观态度：“制造能够思考的机器无疑是对人类自身存在的巨大威胁。当人工智能发展完全，就将是人类的末日。”被称为“真实版钢铁侠”的科技企业家埃伦·穆斯克也认为，人工智能的危险性甚至大于核武器。比尔·盖茨也建议要小心管理数码形态的超级智能。从这个意义上讲，真正的人机大战尚未开始。
“人工智能威胁论”最悲观的版本，就像《终结者》或《黑客帝国》等科幻电影所描绘的那样：人工智能进化到超出人类控制之后，出于某种动机而开始统治人类。但“动机”或许就是难点所在。许多评论者谈到AlphaGo时，都提到一个论点：AlphaGo没有办法思考意义、产生感情，所以它和现存的各种技术物一样，仍然只是一种工具性的存在。
当然，人工智能威胁论本身也很可疑。人工智能研发人员Yann LeCun这样解释人工智能威胁论为何大受欢迎：有些人是因为对人工智能的原理不理解而导致恐惧，有些人是为了个人名望而宣扬人工智能威胁论，有些人则是为了商业的利益推动人工智能威胁论。但如果能在人工智能变得过分强大之前给它套上枷锁，以保障人类的安全，岂不未雨绸缪？
有人提出了在全世界范围内管理人工智能的三个办法：
1.接纳预防原则：在安全的空间内对人工智能进行测试。政府应鼓励私营领域的参与者在数据和分析资料广泛共享的条件下开展受控测试。
2.设计平等性和多样性：人工智能的前沿被北美、欧洲、日本和中国的男性所控制，这令人很不安。对人工智能的研究也应该公平地反映出女性的愿望，以及不发达国家的文化和价值观。
3.帮助失败者：政府可能要考虑为每个人都赋予一项法定权利，允许大家拥有一定数量的机器人。这些政策至少可以创造一定的公平度，因为富人一定会投资装备一支属于自己的机器人军队。
更有甚者，有人提出可以让人工智能接受一种宗教形式，通过忠诚的信仰让其变得对人类友善。阿西莫夫在机器人短篇《空间站》中，就描绘过一个产生了宗教情感/自称“为主效劳是很光荣的事”的机器人。然而，拥有宗教信仰的超级人工智也可能是最极端的人工智能，要么是最好的那类，要么是最坏的那类。人工智能研究先驱马文·明斯克教授认为，如果人工智能机器人真的拥有了灵魂，并被转化为宗教思想，那么它们就有可能介入到世界的各种冲突中去。有一种可能性就是，它们会寻求在所有生活细节方面强制施行宗教经书上的戒律，这种对人类自由的剥夺才是真正让人担忧的。
当然，人工智能如果发展到具备了主观意识的地步，那么它们也可能根本不会在意人类的生活，它们可能会把目光投向太空。对人工智能来说，其他行星和地球应该没有本质区别，宇宙那么大，又没人类干扰，它们一定想去看看。
【责任编辑：杨枫】
神秘莫测的AI
围棋的算法数量是2.08X10^170，比宇宙中所有原子数量（10^80）还多。没人知道AlphaGo第二局黑37那招，是不是走进了人类思维从未探索过的角落。因此，包括“棋圣”聂卫平在内的思想者都在思考下述问题：AlphaGo的“内心世界”到底是什么样的？它走出诡异棋路时在想什么？这是个让人感到恐怖的“黑箱”问题，包括AlphaGo的设计者也会难以回答。
作为首次被电脑打败的职业棋手，樊麾回顾2015年首次人机围棋对战时曾说：AlphaGo比李昌镐更“石佛”。当年击败众多高手的李昌镐，就是因为面无表情，对手感觉不到他的任何波动，而被称为“石佛”。但谁能比电脑更“石佛”呢？它没有人类棋手般心理的感觉，它就是一个虚无，但它却完全能把握住对手的性格，这是不对等的。樊麾说：“这个墙的概念是什么呢？就是它不动，你对它施展任何压力它都会反弹给你，你对它施加的所有力量，你对它所有的辱骂也好，对它所有的微笑也好，最后全反馈到你自己身上，这是我对AlphaGo的感觉。”樊麾认为，很难评论AlphaGo 所下的棋美还是不美，因为它可能开辟出另外一种围棋的美，是人类想象不到的。
刘慈欣在2011年曾预言，计算机系统正在从透明的、可预测的，慢慢变成一个黑箱状态，变得难以预测和控制，也许这就是真正的A.I.（人工智能）即将诞生的征兆，我们正处于一个A.I.种族的史前时代。现在，职业棋手的感觉正在证实这个神秘莫测的智慧黑箱。
AlphaGo是怎样运作的呢？它通过模式识别“理解”棋局的进展，再设计出一种策略并实时调整。这样的系统依赖深度学习技术，运用由人工神经元组成的网络，分析大量数据，寻找模式和“背后含义”。为了教会该系统，开发者让两个围棋程序彼此对弈，使用一种被称为“强化学习”的技术，帮助该技术反复迭代和演化。在对弈中，两台电脑生成了自己从未学过的策略。人工智能专家不确定是否该称之为新智能的诞生，但暗示这代表着机器学习演化过程中的某种新东西。
与AlphaGo的成就形成对照的，是微软开发的人工智能聊天机器人Tay。3月23日，微软推出的聊天机器人Tay，能在Twitter和其他消息平台上与用户互动。Tay能够模仿人类用户的评论，生成自己的回答，并根据整体互动情况去发言。但Tay上线首日就出现了问题，它不但辱骂Twitter用户，还发表了种族歧视和性别歧视言论。开发者原本希望Tay模仿典型的“千禧年一代”的日常谈话。因此，许多用户都想看看，究竟能教会Tay什么样的言论。结果，在不到一天的时间里，网民就发现，Tay实际上并不清楚自己所说的是什么，因此很容易引诱它发表不当言论。尽管研究团队已经为针对该系统的多种滥用行为做好准备，但对于这一特定攻击，还是未能防范。Tay本身也因此被下线。这件事从另一方面说明，有自我学习功能的A.I.是多么难于预测。
人机大战小史
人机大战并非是21世纪的产物，早在中世纪，就有发明家做出各种人形或动物形状的机械。它们的内部构造相当精密，在重力、水力、弹簧和控制杆的共同作用下，能做出许多有趣的动作。在达·芬奇的手稿中，人们发现了大量有关自动装置的描述，在他私藏的笔记中，也遍布各种有关机械装置的构想的涂鸦，比如液压水表和机械狮子等。
进入机器时代，各种有趣的“机器人”纷纷出现。1770年，奥地利人沃尔夫冈·冯·肯佩伦宣称建造了一个会自动下棋的木偶，并在维也纳向女大公及贵族们展示。下棋木偶当众表演与人对弈，女大公及贵族均赞叹不已。随着钟表技术的进步，这类自动人形机器在十八、十九世纪十分风行，电影《雨果》中就出现了这样一台能写信的人偶机器人。
1920年，捷克斯洛伐克作家卡雷尔·恰佩克在科幻小说《罗萨姆的机器人公司》中，根据Robota（捷克文，原意为“劳役、苦工”）和Robotnik（波兰文，原意为“工人”），创造出“机器人”这个词。
1939年，西屋电气公司在纽约世博会上发布了世界上最早的家用机器人Elektro。这款机器人由电缆控制，可以行走，会说77个字，甚至可以抽烟，不过离真正干家务活儿还差得远。但它让人们对家用机器人的憧憬变得具体起来。
真正能与人对弈的机器直到1952年才诞生：剑桥大学的亚历山大·道格拉斯为一台占据整间屋子的电子计算机设计了一款井字棋电脑游戏，玩家通过转轮拨号电话输入落子棋位的编号，随后电脑行棋，双方的过招会在屏幕上显示。1994年，跳棋程序切努克与人类卫冕冠军马里恩·廷斯利战成平局。
1996年，IBM公司的国际象棋电脑“深蓝”首次挑战国际象棋世界冠军卡斯帕罗夫，初出茅庐的“深蓝”以2比4落败。但在第二年的对局中，“深蓝”最终获胜，成为首个在标准比赛时限内击败国际象棋世界冠军的电脑系统。“深蓝”运算速度为每秒2亿步棋，存有70万份大师对战的棋局数据，强大的计算能力使其能够依靠穷举来选择最佳策略，它可搜寻及估计随后的12步棋，而一名人类象棋好手大约可估计随后的10步棋。
2011年，IBM开发的能使用自然语言回答问题的人工智能程序沃森参加电视智力问答节目《危险边缘》，一举战胜了两名人类冠军。沃森依托的超级计算机体积相当于10台冰箱，每秒可运算80万亿次，它不但存储了2亿页的数据，还能辨别话语中的隐晦含义、语气的差别。
人类能保住哪些工作？
2013年，两位牛津大学的学者发布了一篇研究报告，预测在未来20年内，美国将有约50%的工作岗位因配备人工智能机器人而消失。他们观察了700种职业，发现最易受机器人影响的职业包括信贷员、前台接待、律师助理、店员、出租车司机和保安。即便是计算机程序员也没有幸免。根据计算，在今后的二十几年内，50%的编程工作也会外包给机器人。 有了AlphaGo这样可观的计算能力和学习能力，机器人自然能从事复杂的专业技术工作，如判断医学X光片准确率可达98%以上，超过专家水平；其他如行政人员、文书、老师、会计、新闻记者、电话公司职员、麻醉师和外科医生、收银员、市场营销人员、客服人员、金融分析师等，许多常见工作智能机器人都可胜任。
与人相比，机器人更便宜且具有不消极、不怠工、不抱怨等优点，但无论是工业机器人还是智能机器人，毕竟属于“物”而不是人，不具备情感、个性、意识、道德等人性，也不具备创新、创意和创造能力，这就决定了这些与人性相关的领域，机器人难以觊觎。
艺术设计类工作，机器人也没法沾边。这类工作需要鲜明的个性、独特的创造性思维，机器人可以做出至善至美的画面，但无法在其中体现情感、创意、心态、灵感、道德、意识等个性特征。例如演艺明星，粉丝们既对其出神入化的表演如醉如痴，也对其本人乃至私生活有兴趣，换了机器人之后，这种种微妙之处将不复存在。艺术是人类创造力和想象力的个性化表达，人工智能智商再高，也只能表达共性。
许多人认为，诉诸情感的工作将是人类最后的堡垒。他们觉得，机器人虽然可以护理和照料年老体弱者，但是不能进行感情陪护；机器人即便能够授课，但不能进行个性化、差异化辅导，更不能替代家长或老师对孩子进行言传身教。许多服务性工作对语言和文化背景要求很高，有了共同的背景会让客户感到亲切温暖安心，这是机器人所不具备的。
然而科学杂志《Nautilus》2013年曾发表的一篇文章指出，机器人可以通过将情绪转换为数学模型而拥有喜怒哀乐。因为情绪并不是无法解释的，情绪不过是人类对于周围环境改变的自动反应，这种反应归根究底是人类为了适应生存而做出的进化。
美国明尼苏达大学人类学教授哈金斯甚至认为，距离发明可作生活伴侣的机器人的时代已为期不远，从现在起10年到20年内，可能会研究出原型。他预期这种机器人具有人性，会哭泣、失望，甚至会生气，遇到好玩儿的事也会大笑，会有怜悯心，会表现出人类常见的浪漫感情。该机器程序中含有多种个性，因此，一个人可从一个机器人身上获得与许多不同伴侣相处的感受。他说：“可在机器人程序中输入情感反应，甚至可安装生育装置，一位女性机器人在其人造子宫中，殖入人类妇女捐赠的受精卵，即可生育。”这不禁令人想起科幻电影《复制娇妻》中的场景。
也有人认为，人工智能的发展会给人类的工作创造更多的可能性。《连线》杂志创始主编、凯文·凯利举例说明：当年“深蓝”战胜卡斯帕罗夫后，人工智能并没有削弱国际象棋人类棋手的水平。恰恰相反，在廉价且超级智能的国际象棋软件的激励下，下棋的人数、锦标赛的数量以及选手的水平都达到了历史之最。既然人工智能可以帮助人类成为更优秀的国际象棋选手，那么合理地推测，它也能帮助我们成为更优秀的飞行员、医生、法官、教师。在凯文·凯利看来，机器取代人工是必然的，一切只是时间问题。但有些工作确实需要机器来完成，因为它们比人类表现得更好，也更合适，而人类则可以在它们的帮助下，从事更新更有意义的工作。
给A.I.套上枷锁
一直以来，英国著名物理学家斯蒂芬·霍金对人工智能都持悲观态度：“制造能够思考的机器无疑是对人类自身存在的巨大威胁。当人工智能发展完全，就将是人类的末日。”被称为“真实版钢铁侠”的科技企业家埃伦·穆斯克也认为，人工智能的危险性甚至大于核武器。比尔·盖茨也建议要小心管理数码形态的超级智能。从这个意义上讲，真正的人机大战尚未开始。
“人工智能威胁论”最悲观的版本，就像《终结者》或《黑客帝国》等科幻电影所描绘的那样：人工智能进化到超出人类控制之后，出于某种动机而开始统治人类。但“动机”或许就是难点所在。许多评论者谈到AlphaGo时，都提到一个论点：AlphaGo没有办法思考意义、产生感情，所以它和现存的各种技术物一样，仍然只是一种工具性的存在。
当然，人工智能威胁论本身也很可疑。人工智能研发人员Yann LeCun这样解释人工智能威胁论为何大受欢迎：有些人是因为对人工智能的原理不理解而导致恐惧，有些人是为了个人名望而宣扬人工智能威胁论，有些人则是为了商业的利益推动人工智能威胁论。但如果能在人工智能变得过分强大之前给它套上枷锁，以保障人类的安全，岂不未雨绸缪？
有人提出了在全世界范围内管理人工智能的三个办法：
1.接纳预防原则：在安全的空间内对人工智能进行测试。政府应鼓励私营领域的参与者在数据和分析资料广泛共享的条件下开展受控测试。
2.设计平等性和多样性：人工智能的前沿被北美、欧洲、日本和中国的男性所控制，这令人很不安。对人工智能的研究也应该公平地反映出女性的愿望，以及不发达国家的文化和价值观。
3.帮助失败者：政府可能要考虑为每个人都赋予一项法定权利，允许大家拥有一定数量的机器人。这些政策至少可以创造一定的公平度，因为富人一定会投资装备一支属于自己的机器人军队。
更有甚者，有人提出可以让人工智能接受一种宗教形式，通过忠诚的信仰让其变得对人类友善。阿西莫夫在机器人短篇《空间站》中，就描绘过一个产生了宗教情感/自称“为主效劳是很光荣的事”的机器人。然而，拥有宗教信仰的超级人工智也可能是最极端的人工智能，要么是最好的那类，要么是最坏的那类。人工智能研究先驱马文·明斯克教授认为，如果人工智能机器人真的拥有了灵魂，并被转化为宗教思想，那么它们就有可能介入到世界的各种冲突中去。有一种可能性就是，它们会寻求在所有生活细节方面强制施行宗教经书上的戒律，这种对人类自由的剥夺才是真正让人担忧的。
当然，人工智能如果发展到具备了主观意识的地步，那么它们也可能根本不会在意人类的生活，它们可能会把目光投向太空。对人工智能来说，其他行星和地球应该没有本质区别，宇宙那么大，又没人类干扰，它们一定想去看看。
【责任编辑：杨枫】