论文部分内容阅读
目前的AI只开发到4岁儿童的智力
from 吴 飞（浙江大学计算机学院副院长，人工智能研究所所长）
同学们讨论的人工智能，包括我们现在所能看到的，都还只是“弱人工智能”或“领域相关人工智能”。专业一点的解释就是：相关智能算法通过人类专家的设计和训练，为特定任务进行专门优化，就像无人驾驶汽车、阿尔法狗等。尽管这些算法可以替代甚至超越人类的某些专项技能，但都只是在单一领域可用。再如微软小冰、阿里巴巴智能客服机器人等，虽然已经可以与人类对话，但它们能聊的只局限在某些特定的话题范围内。从目前来看，人工智能还只开发到人类4岁儿童的智力。
人工智能现在最缺乏的，是人类很强的“通用智能”，如举一反三、顿悟、直觉等能力。从低级的运动控制到高级的认知任务，人类具有解决多种多样挑战的能力，这是人工智能研究领域的“圣杯”。未来，通过借鉴人类从感知、认知到决策的能力，实现解决多样任务的“通用人工智能”也许是人工智能最有可能的发展方向。
人工智能必将由“弱”变“强”
from 张泽玲（佐治亚理工学院计算机科学机器学习方向硕士）
在我的设想中，未来的“强人工智能”，在外表上可能会像科幻小说写的那样，和真人差不多。而在功能上，很大的可能是在某一方面完全达到甚至超越人类的能力，但不是像人类个体一样具有通用的“智慧”和“意识”。
比如，将来我们可能会有对病人做出诊断的AI医生，为当事人提供专业法律意见的AI律师，帮助企业或个人进行财务管理的AI会计师，教授我们知识并辅导我们的AI教师，陪我们运动帮我们遛狗做家务的AI管家……
但是需要说明的是，这些AI一定都是分开的个体，而非一个无所不能的全能个体；如果能达到全能状态，那就上升到另一个层面，即“超人工智能”。未来是否真的会出现“超人工智能”？现在仍有争议。我个人的意见是，就像自然造就的人类不可能超越自然本身一样，人类建造的智能工具应该也不会超过人类整体。不过，人工智能由“弱”变“强”的进化是一条必然的发展之路。
危机！全城大失业！
我们小时候在作文里描绘过的那个“未来世界”，如今随着“人工智能时代”的到来，似乎已经隐约出现在地平线上——生活将变得非常智能化，到处都有AI的帮助；学生不用去教室上课，教育越来越平等；工作时间大幅减少，大家可以坐享更多的社会福利；还有，我们也再不用死记硬背，可以去学真正想学的知识了，那简直就是梦寐以求的生活啊……
我家附近就是阿里园区，我曾无数次幻想过将来去那里工作。但是，也许不久的将来，当我准备要挥洒青春、大干一场的时候，园区里很有可能会出现这样的情形：物流部，物流AI正在熟练地登记、分拣快递；技术部，技术AI正在快速生成代码，应对网站点击的超大流量；运营部，运营AI分析和监控着用户数量变化；宣传部，宣传AI在设计制作所有海报和视频广告，准备进行投放……每个岗位上，AI各司其职，却没有我们的位置……
——韩 政
以前很多人觉得AI只能取代体力劳动或者技术含量低、机械和重复的“低端工作”，但是现在已经出现了能够在金融投资、保险理赔、医疗诊断、企业管理等领域进行高水平预测与决策的人工智能。还有包括我在内的很多人都曾以为，文学、艺术等创造性工作是AI无法渗透的人类“高地”，然而这一年来我们一再从新闻里看到人工智能谱出了乐曲，编出了剧本，写出了小说……
2017年2月，由花旗银行与牛津大学合作的一份报告称：美国47%的就业岗位或将被机器人代替；在英国，这个比例是35%；在中国，该比例高达77%。
危机！我们变笨了！！
我在设想这样的场景：20年后的某天早晨，我从梦中醒来，发现不知什么原因，这个城市的AI系统大面积瘫痪……我习惯性地呼唤智能管家，叫它帮我准备早餐，却只等来一阵沉默，而十几年没下过厨的我，已经记不清应该如何做饭。只好饥肠辘辘地出门，却突然意识到，我早已被自动驾驶惯成了一个彻头彻尾的路盲，甚至从来没注意过从家到公司的具体路线是怎样的，而且我对自己能否以“人工模式”驾驭汽车也完全没有了信心。我决定打个电话——幸好我的手机还有非智能的通话功能——给我的老板，讨论一下目前的窘境，电话拨通的那一刻，才想起他是一个美国人，而我们这么多年来依靠先进的智能翻译器沟通无阻，我的英语怕是早就已经有一大半还给老师了……
——金 蒂
“导航造就路盲”是一个非常典型的例子。我曾经做过一个实验：请网约专车司机利用导航送我到目的地后，让他不用导航再走一遍刚才的路线。结果表明，大多数专车司机根本不认识道路，甚至完全迷失了方向。有的司机已经在北京开了半年的专车，却依然不能辨识东南西北。
我们的前辈曾经生活艰苦，但正是这些吃苦的经历，使得他们个个心灵手巧：会缝补衣服，会打造家具，會修理家电……而人们在创造了高科技的同时，亲自动手动脑的能力却越来越弱，很多人甚至丧失了最基本的生活技能。长此以往，我担心只有研发那些“高智商”设备的精英或许可以保持永久的高智商，而大多数实际使用者则可能“堕落”成“新型弱智群体”。
危机！我被“信息笼子”困住了！
我觉得《三体》里描述的一个场景在未来可能会出现：生活中到处都有信息屏幕，信息无所不在。我们可能在随便什么地方随便说一句话，和这句话相关的各种信息就会被推送过来，显示在身边的诸多屏幕上。信息不仅滚滚而来，而且越来越“懂”我们——你喜欢某个明星，关于他的一切都会巨细靡遗地展示给你；你讨厌某个作家，他的名字和作品便从你的世界里彻底消失。就算是世界杯这样的盛事正如火如荼地进行，对于不关心足球的人来说，它也可以如同压根没有发生……我突然感觉不太妙，在这样的世界，每个人似乎都被困在了一个“信息”编织的小笼子里，貌似每天都看到听到很多，知道的东西却很少很少。 ——滕卢涛
危机！谁决定了你的决定？
对我这样一个轻微选择困难症患者来说，未来的纠结可能会少了许多。从“每日三问”（“早上/中午/晚上吃什么”）、购物清单、出行安排，到职业选择、投资理财，甚至恋爱婚姻……凡事犹豫不决都可以问AI。一开始AI的建议只是参考，后来人们慢慢发现AI总是比我们更理性、更周全、更精确，尤其是当它对我们的生活习惯、心理特点、情绪变化、身体状况，甚至DNA序列等等越来越了解，它的建议总是那么贴心和靠谱，人们就会愈加倾向于毫不犹豫地按AI制定的方案去行事。同时，医院开始用AI诊疗患者，企业开始用AI进行招聘和考核，政府开始用AI制定政策……有一天我可能会猛然怀疑：是谁决定了世界上大大小小的事，我们，还是它们？
——李佳莹
“做出决定的能力就像一组肌肉一样，你不用就会退化，你对计算机信任越多，依靠人工智能来做的决定越多，你就会失去自己做决定的能力。”这是《人类简史》和《未來简史》的作者尤瓦尔·赫拉利给我们的警告。
除此之外，我们对于智能系统的信任与言听计从，也让我们变得更容易被操纵。一个显而易见的风险是，一旦人工智能的数据或算法被别有用心的人侵入并篡改，我们就将变成被人玩弄于股掌的“提线木偶”，而我们自己甚至毫无察觉。
其实不用等到未来，近几年随着机器学习的发展，个性化推荐愈发普遍。我们能用新闻客户端看到更喜欢的资讯，能用音乐客户端听到更喜欢的歌。但这正是陷阱所在：我们喜欢的，就是我们需要的吗？
很显然，一个人的健康需要多种营养，一个人的精神食粮也需要丰富多元，我们要了解的是一个多样化的世界，我们的生活也理应拥有各种可能性，而不是只有最爱吃的食物、最爱听的音乐、最关心的新闻、最喜欢的风格……但随着互联网发展，各种蜂拥而来的“推送消息”可能成为许多人最主要的甚至是近乎唯一的资讯来源，造成事实上的“信息垄断”，加上日益精准的“个性化推荐”技术，让我们不知不觉中只关心世界的一小块，而且是越来越小的一块——即使没有人操纵，我们也会变得越来越狭隘，越来越单薄。
危机！我还有“价值”吗？
前面已经有同学提到，未来可能许多人的工作时间将大幅减少，甚至不用工作了。但是我想，即便可以实现衣食无虞，这样的生活会是我想过的吗？到那个时候也许我会常常想起自己“中二”时代立下的想要为之奋斗的理想，想起曾对爸爸妈妈许下的让他们为我骄傲的承诺，想起大学选择专业时那份立志让世界变得更好的热忱……这一切都没有意义了，人工智能已经把大部分我们能做的都做了，而且做得更好。留给我们的，只有大把大把自由自在（或者叫作无所事事）的时间。当然你可以说我们终于可以做自己喜欢的事了，但是这种只剩下“玩”，却不再为他人创造价值，也不再被他人需要的生活……真的好吗？
——王宣茜
在我看来，人类之所以会形成一个社会，其基础就是以社会分工的形式所表现出来的个体之间的相互需要。人工智能可能带来的最大冲击，就是将动摇这个人类社会里最重要的基石。少数人类精英掌握着人工智能技术，而多数人沦为《人类简史》作者尤瓦尔所讲的“没有任何经济价值的无用阶层”。
不是说展望美好明天的么，怎么越说越可怕了……赶紧找大佬来压压惊！也希望大家和我们一起，试着从专家的解答与分析中，归纳出一些“未来生存法则”。因为无论如何我们都将成为“未来世界”的第一批公民，请时刻准备着！
郝景芳（科幻作家，《北京折叠》作者，雨果奖获得者）：
人工智能确实已经取代了人类的一部分工作，但换个角度来看，其实我们是把已经做习惯的、繁琐的工作交给人工智能去做，这让我们可以不断去开拓创新。
在对未来的畅想里，我们不应该低估人类的智慧。人类在未来可能会有很多令人意想不到的工作。比如现在我们这个时代就有很多酒店体验师、旅行线路设计师，还有在互联网上与其他人聊天、排解孤独的职业。这在以前都是无法想象的，但现在确确实实已经产生了。未来同样可能如此，其他工作让人工智能去做，人类社会就会再次产生很多新鲜奇妙的工作。所以我们不一定会失业，而会有机会去从事更多更有趣的职业。
刘慈欣（高级工程师，科幻作家，《三体》作者，雨果奖获得者）：
当简单的重复性劳动被人工智能取代的时候，你就要把目光投向复杂的工作，去发挥人工智能所不具有的能力。用自己的想象力、创造力去创造新事物、新技术、新艺术，丰富世界，完善自己。这将让我们能区别于机器，不完全被机器所替代。
郁喆隽（复旦大学哲学学院副教授）：
人类依赖机器这件事，从工业革命开始就一直在发生。所有的机器本质上都是人类制造用以替代人的一部分功能，给我们带来快捷和便利。在我看来，机器帮助人类并不必然导致人类“退化变笨”，毕竟一个人不可能掌握人类的所有技能。就比如我们每天用自来水，但并不知道自来水是从哪里来的，因为别人帮我们完成了，所以只要整体的人类能够掌握这个技术就可以了。
而个体是否会“退化”，这完全取决于个人。如果你选择依赖技术、碌碌无为、只知享受，那么就会“自断生路”，成为一种懒散的生物而非真正的智慧人类。但是如果你选择抓住技术，关注科技发展的前沿，不和时代脱轨，利用人工智能“解放”的时间去做更多具有创造性的事情，你将会和人工智能共同进步。两者皆有可能，你会如何选择呢？
from 吴 飞（浙江大学计算机学院副院长，人工智能研究所所长）
同学们讨论的人工智能，包括我们现在所能看到的，都还只是“弱人工智能”或“领域相关人工智能”。专业一点的解释就是：相关智能算法通过人类专家的设计和训练，为特定任务进行专门优化，就像无人驾驶汽车、阿尔法狗等。尽管这些算法可以替代甚至超越人类的某些专项技能，但都只是在单一领域可用。再如微软小冰、阿里巴巴智能客服机器人等，虽然已经可以与人类对话，但它们能聊的只局限在某些特定的话题范围内。从目前来看，人工智能还只开发到人类4岁儿童的智力。
人工智能现在最缺乏的，是人类很强的“通用智能”，如举一反三、顿悟、直觉等能力。从低级的运动控制到高级的认知任务，人类具有解决多种多样挑战的能力，这是人工智能研究领域的“圣杯”。未来，通过借鉴人类从感知、认知到决策的能力，实现解决多样任务的“通用人工智能”也许是人工智能最有可能的发展方向。
人工智能必将由“弱”变“强”
from 张泽玲（佐治亚理工学院计算机科学机器学习方向硕士）
在我的设想中，未来的“强人工智能”，在外表上可能会像科幻小说写的那样，和真人差不多。而在功能上，很大的可能是在某一方面完全达到甚至超越人类的能力，但不是像人类个体一样具有通用的“智慧”和“意识”。
比如，将来我们可能会有对病人做出诊断的AI医生，为当事人提供专业法律意见的AI律师，帮助企业或个人进行财务管理的AI会计师，教授我们知识并辅导我们的AI教师，陪我们运动帮我们遛狗做家务的AI管家……
但是需要说明的是，这些AI一定都是分开的个体，而非一个无所不能的全能个体；如果能达到全能状态，那就上升到另一个层面，即“超人工智能”。未来是否真的会出现“超人工智能”？现在仍有争议。我个人的意见是，就像自然造就的人类不可能超越自然本身一样，人类建造的智能工具应该也不会超过人类整体。不过，人工智能由“弱”变“强”的进化是一条必然的发展之路。
危机！全城大失业！
我们小时候在作文里描绘过的那个“未来世界”，如今随着“人工智能时代”的到来，似乎已经隐约出现在地平线上——生活将变得非常智能化，到处都有AI的帮助；学生不用去教室上课，教育越来越平等；工作时间大幅减少，大家可以坐享更多的社会福利；还有，我们也再不用死记硬背，可以去学真正想学的知识了，那简直就是梦寐以求的生活啊……
我家附近就是阿里园区，我曾无数次幻想过将来去那里工作。但是，也许不久的将来，当我准备要挥洒青春、大干一场的时候，园区里很有可能会出现这样的情形：物流部，物流AI正在熟练地登记、分拣快递；技术部，技术AI正在快速生成代码，应对网站点击的超大流量；运营部，运营AI分析和监控着用户数量变化；宣传部，宣传AI在设计制作所有海报和视频广告，准备进行投放……每个岗位上，AI各司其职，却没有我们的位置……
——韩 政
以前很多人觉得AI只能取代体力劳动或者技术含量低、机械和重复的“低端工作”，但是现在已经出现了能够在金融投资、保险理赔、医疗诊断、企业管理等领域进行高水平预测与决策的人工智能。还有包括我在内的很多人都曾以为，文学、艺术等创造性工作是AI无法渗透的人类“高地”，然而这一年来我们一再从新闻里看到人工智能谱出了乐曲，编出了剧本，写出了小说……
2017年2月，由花旗银行与牛津大学合作的一份报告称：美国47%的就业岗位或将被机器人代替；在英国，这个比例是35%；在中国，该比例高达77%。
危机！我们变笨了！！
我在设想这样的场景：20年后的某天早晨，我从梦中醒来，发现不知什么原因，这个城市的AI系统大面积瘫痪……我习惯性地呼唤智能管家，叫它帮我准备早餐，却只等来一阵沉默，而十几年没下过厨的我，已经记不清应该如何做饭。只好饥肠辘辘地出门，却突然意识到，我早已被自动驾驶惯成了一个彻头彻尾的路盲，甚至从来没注意过从家到公司的具体路线是怎样的，而且我对自己能否以“人工模式”驾驭汽车也完全没有了信心。我决定打个电话——幸好我的手机还有非智能的通话功能——给我的老板，讨论一下目前的窘境，电话拨通的那一刻，才想起他是一个美国人，而我们这么多年来依靠先进的智能翻译器沟通无阻，我的英语怕是早就已经有一大半还给老师了……
——金 蒂
“导航造就路盲”是一个非常典型的例子。我曾经做过一个实验：请网约专车司机利用导航送我到目的地后，让他不用导航再走一遍刚才的路线。结果表明，大多数专车司机根本不认识道路，甚至完全迷失了方向。有的司机已经在北京开了半年的专车，却依然不能辨识东南西北。
我们的前辈曾经生活艰苦，但正是这些吃苦的经历，使得他们个个心灵手巧：会缝补衣服，会打造家具，會修理家电……而人们在创造了高科技的同时，亲自动手动脑的能力却越来越弱，很多人甚至丧失了最基本的生活技能。长此以往，我担心只有研发那些“高智商”设备的精英或许可以保持永久的高智商，而大多数实际使用者则可能“堕落”成“新型弱智群体”。
危机！我被“信息笼子”困住了！
我觉得《三体》里描述的一个场景在未来可能会出现：生活中到处都有信息屏幕，信息无所不在。我们可能在随便什么地方随便说一句话，和这句话相关的各种信息就会被推送过来，显示在身边的诸多屏幕上。信息不仅滚滚而来，而且越来越“懂”我们——你喜欢某个明星，关于他的一切都会巨细靡遗地展示给你；你讨厌某个作家，他的名字和作品便从你的世界里彻底消失。就算是世界杯这样的盛事正如火如荼地进行，对于不关心足球的人来说，它也可以如同压根没有发生……我突然感觉不太妙，在这样的世界，每个人似乎都被困在了一个“信息”编织的小笼子里，貌似每天都看到听到很多，知道的东西却很少很少。 ——滕卢涛
危机！谁决定了你的决定？
对我这样一个轻微选择困难症患者来说，未来的纠结可能会少了许多。从“每日三问”（“早上/中午/晚上吃什么”）、购物清单、出行安排，到职业选择、投资理财，甚至恋爱婚姻……凡事犹豫不决都可以问AI。一开始AI的建议只是参考，后来人们慢慢发现AI总是比我们更理性、更周全、更精确，尤其是当它对我们的生活习惯、心理特点、情绪变化、身体状况，甚至DNA序列等等越来越了解，它的建议总是那么贴心和靠谱，人们就会愈加倾向于毫不犹豫地按AI制定的方案去行事。同时，医院开始用AI诊疗患者，企业开始用AI进行招聘和考核，政府开始用AI制定政策……有一天我可能会猛然怀疑：是谁决定了世界上大大小小的事，我们，还是它们？
——李佳莹
“做出决定的能力就像一组肌肉一样，你不用就会退化，你对计算机信任越多，依靠人工智能来做的决定越多，你就会失去自己做决定的能力。”这是《人类简史》和《未來简史》的作者尤瓦尔·赫拉利给我们的警告。
除此之外，我们对于智能系统的信任与言听计从，也让我们变得更容易被操纵。一个显而易见的风险是，一旦人工智能的数据或算法被别有用心的人侵入并篡改，我们就将变成被人玩弄于股掌的“提线木偶”，而我们自己甚至毫无察觉。
其实不用等到未来，近几年随着机器学习的发展，个性化推荐愈发普遍。我们能用新闻客户端看到更喜欢的资讯，能用音乐客户端听到更喜欢的歌。但这正是陷阱所在：我们喜欢的，就是我们需要的吗？
很显然，一个人的健康需要多种营养，一个人的精神食粮也需要丰富多元，我们要了解的是一个多样化的世界，我们的生活也理应拥有各种可能性，而不是只有最爱吃的食物、最爱听的音乐、最关心的新闻、最喜欢的风格……但随着互联网发展，各种蜂拥而来的“推送消息”可能成为许多人最主要的甚至是近乎唯一的资讯来源，造成事实上的“信息垄断”，加上日益精准的“个性化推荐”技术，让我们不知不觉中只关心世界的一小块，而且是越来越小的一块——即使没有人操纵，我们也会变得越来越狭隘，越来越单薄。
危机！我还有“价值”吗？
前面已经有同学提到，未来可能许多人的工作时间将大幅减少，甚至不用工作了。但是我想，即便可以实现衣食无虞，这样的生活会是我想过的吗？到那个时候也许我会常常想起自己“中二”时代立下的想要为之奋斗的理想，想起曾对爸爸妈妈许下的让他们为我骄傲的承诺，想起大学选择专业时那份立志让世界变得更好的热忱……这一切都没有意义了，人工智能已经把大部分我们能做的都做了，而且做得更好。留给我们的，只有大把大把自由自在（或者叫作无所事事）的时间。当然你可以说我们终于可以做自己喜欢的事了，但是这种只剩下“玩”，却不再为他人创造价值，也不再被他人需要的生活……真的好吗？
——王宣茜
在我看来，人类之所以会形成一个社会，其基础就是以社会分工的形式所表现出来的个体之间的相互需要。人工智能可能带来的最大冲击，就是将动摇这个人类社会里最重要的基石。少数人类精英掌握着人工智能技术，而多数人沦为《人类简史》作者尤瓦尔所讲的“没有任何经济价值的无用阶层”。
不是说展望美好明天的么，怎么越说越可怕了……赶紧找大佬来压压惊！也希望大家和我们一起，试着从专家的解答与分析中，归纳出一些“未来生存法则”。因为无论如何我们都将成为“未来世界”的第一批公民，请时刻准备着！
郝景芳（科幻作家，《北京折叠》作者，雨果奖获得者）：
人工智能确实已经取代了人类的一部分工作，但换个角度来看，其实我们是把已经做习惯的、繁琐的工作交给人工智能去做，这让我们可以不断去开拓创新。
在对未来的畅想里，我们不应该低估人类的智慧。人类在未来可能会有很多令人意想不到的工作。比如现在我们这个时代就有很多酒店体验师、旅行线路设计师，还有在互联网上与其他人聊天、排解孤独的职业。这在以前都是无法想象的，但现在确确实实已经产生了。未来同样可能如此，其他工作让人工智能去做，人类社会就会再次产生很多新鲜奇妙的工作。所以我们不一定会失业，而会有机会去从事更多更有趣的职业。
刘慈欣（高级工程师，科幻作家，《三体》作者，雨果奖获得者）：
当简单的重复性劳动被人工智能取代的时候，你就要把目光投向复杂的工作，去发挥人工智能所不具有的能力。用自己的想象力、创造力去创造新事物、新技术、新艺术，丰富世界，完善自己。这将让我们能区别于机器，不完全被机器所替代。
郁喆隽（复旦大学哲学学院副教授）：
人类依赖机器这件事，从工业革命开始就一直在发生。所有的机器本质上都是人类制造用以替代人的一部分功能，给我们带来快捷和便利。在我看来，机器帮助人类并不必然导致人类“退化变笨”，毕竟一个人不可能掌握人类的所有技能。就比如我们每天用自来水，但并不知道自来水是从哪里来的，因为别人帮我们完成了，所以只要整体的人类能够掌握这个技术就可以了。
而个体是否会“退化”，这完全取决于个人。如果你选择依赖技术、碌碌无为、只知享受，那么就会“自断生路”，成为一种懒散的生物而非真正的智慧人类。但是如果你选择抓住技术，关注科技发展的前沿，不和时代脱轨，利用人工智能“解放”的时间去做更多具有创造性的事情，你将会和人工智能共同进步。两者皆有可能，你会如何选择呢？