AI是如何做决策的?

来源 :百科新说 | 被引量 : 0次 | 上传用户:posedong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  太拘泥于细节的AI
  最近一段时间,AI(人工智能)被炒得神乎其神,似乎它无所不能。但事实上,据社交网站“脸谱”披露,要想欺骗AI把某个不存在的东西当作真实存在,比你想象的要容易得多。
  譬如,在一張高清晰度的图片中,随机地降低某些地方的像素。这么一点微不足道的变化,人眼根本难以觉察,也不会影响我们的判断;但AI却能觉察出来其中的差异,并因此严重干扰了判断,比如说把图中的猫误认作了狗。
  再比如,据说现在谷歌的语音识别AI功能已经非常强大,能一边听语音,一边笔录成文字。但一位AI工程师略施小计,就把它给耍弄了:他在语音文件中掺入少量数码噪声,这点噪声对于我们是不会有什么影响的,但让谷歌的AI去识别,结果却是笔录下来的文字已跟原意大不一样。
  这些低级错误揭示出当前AI的一个重大缺陷:太拘泥于细节,“只见树木,不见森林”,让无谓的细节影响了对整体的判断。如果这个弱点被黑客利用,后果将不堪设想。他们将能够操纵无人驾驶汽车狂奔,无视红绿灯;或者让犯罪嫌疑人轻易躲过AI控制的监控摄像头。
  AI的决策规则不易被人知
  为了解决这个问题,这就需要我们先去了解AI是如何自我学习,如何做决策的,但这一直是个难题。因为AI在自我学习过程中,经过海量的数据训练之后,会自创一套决策规则,但它最后创立的规则到底是什么,这对于AI的设计者有时候都是一个谜。这一点其实跟人也是相似的。譬如,老师在课堂上向你传授知识,但你是如何把这些知识点组织起来的,他也不见得清楚。
  最近,美国布朗大学的克里斯·格林和他的同事开发了一个系统,有望突破这个困难。
  这个系统能够分析,当AI对一个图像做判断时,它是根据图像的哪一部分做出判断的;与此类似的,对于给文件自动归档的AI,这个系统也能够分析,AI是根据文档里的哪个词对文档进行归类的。
  为开发这个工具,研究小组用数码噪声依次替换图片的一部分(相当于给这部分图片打马赛克),以便看看这样替换之后,是否会对AI的判断产生影响。如果更换部分的图片改变了AI最终的判断,那说明图片的这块区域可能正是影响AI判断的关键所在。
  一窥AI的决策过程
  格林在给图片分类的一个AI上测试了他的系统。这个AI被训练把图片分成10个类,包括飞机、鸟、鹿和马等。格林的系统能够暗中查看,当AI对图片进行分类时,什么是它所倚重的,什么是被它忽略不计的。
  结果表明,AI先是将图片上的物体分解成不同的元素,然后搜索图片中的每一个元素以确定把图片归到哪一类。
  举个例子。当AI观察马的图片时,它首先关注的是其腿部,然后,寻找它的头部。在观察鹿的图片时,它也采用类似的办法,不过在关注了鹿的腿部之后,它接下去搜寻的不是头,而是鹿角,因为鹿角是最能把鹿跟其他动物区别开来的,所以鹿角被置于优先的地位。至于图片的其他地方,则被AI完全忽略了。
  从这里我们看出,AI做决策的过程迥异于我们人类。我们是不会如此拘泥于局部的。面对一张鹿的图,即使把它的角打上马赛克,我们也还是可以根据分叉的蹄子认出鹿来的,但对于“死板”的AI,它很可能就把它认作驴了。
  格林的软件可以帮助我们测试现有的AI,以便确保它们下判断时,关注的是我们认为重要的东西,这对于改进AI有重要的价值。
其他文献
在互联网之前的时代,游戏发烧友没有人不知道任天堂公司的,这家从扑克牌生产起家的日本企业,在20世纪70年代之后成为全球电子游戏的领军者,并在此后几十年间笑傲全球电子游戏市场,无人敢撄其锋芒。  进入移动互联网时代之后,手机游戏兴起,任天堂遭受到了前所未有的挑战。最先被敲碎的是任天堂的王牌之一——掌上游戏机,这个满足了人们随身娱乐需求的游戏设备,在智能手机侵袭下,突然之间几乎失去了存在的价值。家庭游
期刊
500年前,哥伦布发现美洲对整个世界历史产生了重大影响。然而人们很少知道在其后英国曾有一位声名显赫而富有传奇色彩的航海冒险家和殖民主义者,他曾完成了人类第二次环球航行的壮举,也是击败西班牙“无敌”舰队的海军统帅之一,他就是在英国海外扩张史上占有重要地位的“海上魔王”弗朗西斯·德雷克。因德雷克得到英国女王伊丽莎白一世的默许甚至鼓励,拿到了官方授权——私掠许可证,可以拦截、攻击、俘虏和抢劫敌对国的商船
期刊
过去半个世纪里,气候学取得了大量研究成果。科学家从各种隐藏的证据中找到了历史上的天气记录,如树木年轮、湖底沉积泥、洞穴石笋石乳等,并藉此推断出上千年历史所出现的暴雨、飓风、干旱等天气变化。  艺术创作记录天气  最近研究表明,除了大自然提供的证据,天气变化也会记录在人们创作的流行音乐中。美国气象学家就发现,美国所遭受的一连串强烈飓风,在同时期流行音乐中留下了烙印。  20世纪五六十年代,多个高强度
期刊
恋爱成瘾症  莎莉 27岁时,是一家大公司的主管,看起来完全是人生赢家:美貌、成功、自信,仿佛拥有了一切。 但一切并不像看上去那么简单,长久以来,她的内心对异性一直有着强烈的渴望,她不断地和各種各样的男人约会,然而,在每一段感情里,她投入越深,越感到虚弱和依赖对方。莎莉回忆自己曾与一个男友交往的经历,“刚刚分开不到一天,我就无时无刻不在想,他的下一个电话什么时候打来,他的脑子里此刻在想些什么,我不
期刊
如果你想活得更久点,一般的建议是要多锻炼、吃绿色蔬菜、避免压力。可能你不知道的是还有一条:别嗅到异性。  奇怪的衰老现象  在研究一些动物时,科学家们发现了一个奇怪的现象:将苍蝇、果蝇、老鼠等暴露于含有异性的性信息素的环境中时,这些动物会衰老得更快。比如,在20世纪六七十年代对小鼠进行的研究表明,在小鼠发育过程中,让不同性别的老鼠暴露于异性信息素中,会使得它们更快性成熟。  这是为什么呢?进化生物
期刊
位于丹麦哥本哈根以北新科学实验馆,作为一个包容和趣味性十足的、关注小学教育中科学和技术课程而闻名的实验馆,其建筑设计令人惊艳,充满了未来感,激发了许多少年儿童的深刻好奇心。  这家实验馆是将一座旧的矿泉水瓶制造厂进行重新改造后建设而成的,以作为一个交互式科学、技术及文化中心,同时容纳各种展览和教育活动。全新的科技实验馆让参观者沉浸在一个完整而全新的科技文化的环境中,让科技真正成为实验馆空间的焦点所
期刊
硅谷是21世纪全球的创新代表,有许多天才人物年纪轻轻就表现出巨大的创造力,甚至不少人大学辍学而以优异创造力名闻世界。但是,科学研究却表明,与年轻人相比,老年人更有创造力,更有生产力。  2016年一项研究针对美国技术密集型行业,对其中有极高市场贡献的900多位人士进行了调查。他们年龄在18-80岁之间,其中所有发明人的年龄中位数为47岁,尤其在生命科学、材料科学和信息技术领域,申请发明专利往往都是
期刊
在玻利维亚安第斯山脉的一片高原上,存在着世界上最大的盐滩——乌尤尼盐沼。因其破裂的表面会在雨后愈合,形成一个巨大的天然镜子,映射着美丽的天空景色,故又有“天空之境”的美称。这里除了一望无际的盐滩之外,还时常有作业的矿工、迁徙而来的火烈鳥,以及慕名而来的游客。那么,矿工们除了挖盐之外,他们还做什么?  其实,在那白得耀眼的盐滩下,隐藏着丰富的锂资源。随着人们对手机、电脑等电子产品的需求日益增加,锂作
期刊
所有物种都是大说谎家  有没有人想过自己每一天会撒谎多少次?答案可能让很多人惊讶,据调查,一个成年人每天平均会撒谎25次,就算是最亲密的夫妻之间,平均每交流10次就有一次在说谎!  我们会不自觉地向人家撒谎,有时连想也不想,甚至不承认自己在撒谎。大部分谎言是出于礼貌的应对,如“你这样穿一点也不胖啊”“改天找你饮茶”“我今天不能来了,我病了”“我给你打过电话,但打不通”等等。“大家都知道人是要活下去
期刊
过去30年以来,全球的就业模式一直都是朝九晚五的工作模式,但是近几年我们可以发现,传统的就业模式已经受到了巨大的挑战。其原因在于互联网的崛起以及人工智能革命的浪潮来临。  过去十年来,科技发展快速,全球的教育水平已经大幅提升,这意味着现今的企业能够雇用这个世界上任何地方的人,而不仅仅只是局限于当地国家的人才。也就是说,我们的竞争对手如今来自于全世界,透过远程工作,企业可以找到这个世界上的其他优秀人
期刊