媲美大脑的新型超导神经网络

来源 :电脑爱好者 | 被引量 : 0次 | 上传用户:tytytytytytytytytyty
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读


①谷歌AlphaGo由多個TPU组合而成


②网传李世石和李昌镐的二李午餐

生物神经元的工作原理


  为了理解超导神经元,首先让我们了解一下它所模仿的生物神经元的工作原理。神经元其实就是神经细胞,它的形状有些独特,由长长的轴索及多个突起构成(图3)。



  神经元细胞编码并传递信息的方式是通过动作电位的形式来实现的。神经元的细胞膜(细胞表层)在没有受到刺激的时候,细胞膜内外两侧会形成外正内负的电位差,即所谓的静息电位(Resting Potential,RP),它是一切生物电产生和变化的基础。一旦神经元细胞受到了超过一定阈值水平的刺激后,静息电位就会产生电位变化,而且这个变化是沿着神经元的轴突定向移动的,这一过程被称为动作电位,又被称作神经冲动(图4)。


④上方是静息电位示意图,下方是动作电位变化的示意图,按照一定的方向达成信息传送

  小提示
  神经元细胞通过动作电位传递信息的动态示意图,可参见http://tinyurl.com/yyoh2bgz。

超导神经元的工作原理


  人工神经元要想尽可能真实地模拟出人脑的生物神经元,就需要设计出极为复杂的电路。对于电路材质的选择,Toomey和他的同事们找到一种超导纳米线(Nanowires),它具有非常特殊的非线性特性——当电流流过纳米线的时候,如果电流超过了某个阈值,这时纳米线的超导性就会神奇地崩溃,而由超导变成了电阻。电阻突然增大即会产生电压脉冲,这个脉冲正好和神经元细胞中的动作电位非常相似,它可以导致第二根超导纳米线产生另外一个脉冲,从而形成一个类似多个生物神经元特性的超导电路(图5)。


⑤来自Toomey论文中的超导纳米线电路的示意图,一个超导神经元电路由主振荡器和控制振
荡器两组纳米线组成

  生物神经元细胞除了触发阈值外,还有一个是不应期(Refractory period)的特性,即在一定的时间内重复刺激的话将不给予反应,这是电流传递有序化的一个保证。超导神经元不但有一个触发阈值,也具备不应期的特性,从而能够根据电路特性来调整运行时间。最关键的是,这种超导神经元能够触发或抑制其他神经元,从而能够形成一个“扇形”传递,创建出一个网络,这是目前其他超导神经元设计还没能实现的。

从时钟频率入手节省能耗


  实现了生物神经元功能的模拟,那么功耗的问题又如何解决呢?这就涉及到一个概念——时钟频率(Clock rate)。时钟频率是为了让处理器协同工作的各个部件之间能够同步起来的时间基准,它的单位是Hz(赫兹),以单位时间内运转周期的次数来计算,每秒运转1个周期就是1Hz,每秒运转2个周期就为2Hz,以此类推。显而易见,频率越高就代表处理器的运行速度越快。
  如果将我们人类的大脑比作一台计算机,那么它实际也是有时钟频率的。一般人可能认为人类大脑的频率会很快,恰恰相反,大脑的时钟频率往往只有几Hz,和动不动就有数以GHz的现代微处理器比起来,实在是太慢了,不过这也正是大脑功耗低的最关键的因素。频率极低的人脑采用了一种“人海战术”,就是通过它特有的神经网络,每秒并行运算10亿次左右,从而在低功耗的情况下,形成了计算机难以企及的运行能力。
  如前所述,超导神经元的特性是它的神经网络计算功能,所以它才可以像人脑一样,不靠时钟频率的速度,而是以并行运算的能力取胜,在每秒仅需1W功率的情况下管理着1014个突触的操作,几乎已经和人类的大脑相匹配了。虽然超导神经元离真正的生物神经元尚有极大的距离,但仅从功耗和速度来看,它已经很有竞争力了。

超导神经元的未来


  超导神经元是一个起点,在低功耗人工神经网络的发展领域中潜力巨大。一旦超导神经网络成为未来全新计算机硬件的基础,那么芯片散热将不再是个问题。而一旦大规模神经形态处理器得以形成,那么像模式识别这类更为复杂的任务也就能够轻松完成,从而在许多领域完全代替人类的工作了。(本文编译自国外网上资料,参考文献https://arxiv.org/abs/1907.00263:使用超导纳米线的高效人工神经元)
其他文献
一般来说,对同一个文件夹下的文件进行排序,是查找重复文件副本、释放磁盘空间的最简单办法。但如果这些文件存在于不同的分区或文件夹中,让它们参与统一的排序,操作起来就比较麻烦。Auslogics Duplicate File Finder软件不但可以跨分区、跨文件夹搜索,而且在比较文件名和文件大小的同时还使用智能算法比较文件内容,这样可以确保没有错误的搜索结果。  首先,启动Auslogics Dup
期刊
Q:现在不少商家通过微信来收款,但有时我们收取的货物与实物不相符合。如果对方执意不退款的话,能不能像PayPal那样,对相应的商家提起争议操作?  A:首先在微信中打开对方的个人介绍页面,点击右上角的按钮,在弹出的菜单中可以看到一个“投诉”的选项。点击它,根据实际情况选择投诉的原因,然后根据向导提示上传证据等信息,等待微信的解决。  如果对方已经将我们进行了拉黑,通过此方法也可以进行争议操作。荣耀
期刊
1.清除无效的快捷方式文件  对于单个的快捷方式文件的有效性检验,其实微软Windows自身就提供了解决方案。双击桌面上的快捷方式图标,如果其链接目标已经失效,系统会弹出“快捷方式存在问题”的提示框,并询问是否删除该快捷方式,确认删除即可。  对于电脑中隐藏着的大量无效快捷方式文件,我们可以使用专门为此而生的工具软件来扫描和清理。例如:Bad Shortcut Killer、Broken Shor
期刊
Romance Of The Three Kinadoms ⅩⅣ《三国志14》重回三国巅峰  “三国志”系列最新的一作又来了。它当然还是由光荣特库摩(KOEI Tecmo)制作,结合了系列前几代的优点,加入了更多武将,试图一扫前作口碑不佳的阴霾,将这一游戏系列重新带回到原有的高度。  游戏在战略上采用大地图机制。玩家可以直觀地看到完整的态势图,许多著名的自然地标在地图上也有直观的体现,很有代入感。
期刊
简单好用的在线调查——问卷网  问卷网(https://www.wenjuan.com)针对广大用户提供简单易用的在线调查服务,并且针对个人提供了免费功能版。打开上述网址后,使用QQ或者微信账号登录,切换到“免费模板”,可以看到网站已经内置了很多常用的调查模板,我们只要根据自己的实际需要选择,然后稍加修改即可。比如公司的HR需要制作一个薪酬调查模板,切换到HR模板,然后打开一份自己喜欢的模板,点击
期刊
如何获取RAW图像  在介绍RAW编辑软件之前,我们先简单了解一下获取RAW图像的方法。这一图像的主要来源是数码相机,通过相机内置的CMOS或者CCD图像感应器,把能够捕捉到的所有光源信号转换为数字信号,然后再将这些原始信息,以及相机拍摄时所产生的ISO设置、光圈值、快门速度等数据一并保存起来,就构成了完整的RAW图像文件。  RAW图像的另一個来源,是通过扫描仪将传统的胶片图像进行数字化,不过这
期刊
如今我们想在Windows 10上使用Python,一是可以从Python官方网站(www.python.org/downloads)下载安装;另外一种方法就是,当你的Windows 10版本为17763.0或者更高的时候,则可以进入Windows 10的应用商店,搜索“Python 3.7”安装(图1)。Python调用Windows命令行工具  Python安装好之后,直接在Windows命令
期刊
对所选区域进行保存  首先打开SingleFile扩展的官方网站(https://github.com/gildas-lormeau/SingleFile),该扩展既支持火狐浏览器,也支持以Chromium为内核开发的其他浏览器。安装好相应版本的功能扩展后,就可以在浏览器工具栏中看见SingleFile的图标。以后遇到想要保存的网页,直接点击该图标,即可显示一个网页保存进度条,保存完毕将会弹出提示
期刊
1.检查Word默认“自动保存”设置  要使用Word自动保存服务,必须首先激活该功能。具体操作步骤如下:  启动Word,点击“文件→选项”菜单命令,单击左窗格菜单上的“保存”。确保选择“保存自动恢复信息”选项,并选择自动保存的时间间隔。在“自动恢复文件位置”字段,我们可以看到自动保存目录的默认位置为“C:\Users\\AppData\Roaming\Micros
期刊
动画加截图 打造冬春效果对比  如果需要在PPT中对一些事物进行对比,比如为了突出冬天的皑皑白雪和春天的春意盎然,我们就可以通过PowerPoint的动画组件+截图来制作一张冬春景色对比效果图。  首先准备两张主题相似的图片,这里我们以教堂的冬春背景图片为例。启动PowerPoint后新建一张幻灯片,将准备好的两张图片插入到同一张幻灯片中,将它们的大小调整为一致,并且重叠放置(图1)。可以看到,如
期刊