【摘 要】
:
如今,机器学习广泛应用于各个行业,然而随着当下各种应用场景的数据量的增大,分布式机器学习几乎成为唯一的选择.因此,各个设备之间的数据通讯的优化十分重要.在参数服务器架构中,参数同步通信量大,参数服务器节点的带宽会成为瓶颈;而在基于Ring All-Reduce的框架下,通信时间受限于环上最慢的连接,当环中GPU节点数变多的时候,会导致延迟变大.该文提出一种基于Ring All-Reduce的分层架构,将计算节点按算力大小分成多个小组,组内使用Ring All-Reduce算法进行同步并行,小组间使用参数服
【机 构】
:
东北大学计算机科学与工程学院,辽宁沈阳 110169
论文部分内容阅读
如今,机器学习广泛应用于各个行业,然而随着当下各种应用场景的数据量的增大,分布式机器学习几乎成为唯一的选择.因此,各个设备之间的数据通讯的优化十分重要.在参数服务器架构中,参数同步通信量大,参数服务器节点的带宽会成为瓶颈;而在基于Ring All-Reduce的框架下,通信时间受限于环上最慢的连接,当环中GPU节点数变多的时候,会导致延迟变大.该文提出一种基于Ring All-Reduce的分层架构,将计算节点按算力大小分成多个小组,组内使用Ring All-Reduce算法进行同步并行,小组间使用参数服务器架构实现异步并行,保证模型收敛的条件下,兼顾各个节点的负载均衡.
其他文献
随着智能算法的发展,高考志愿的填报逐渐成为热点话题,而智能算法在高考志愿平台的应用相关研究文献缺少系统性整理.该研究以中国知网期刊数据平台和Web of science为数据来源,采用文献计量学方法检索2011~2021年该领域相关文献,通过对比分析与数据可视化,了解国内外研究现状、研究趋势以及发展差距,从而为国内研究者提供参考和借鉴.
利用易语言编程软件,开发了一种从Excel文件中提取所需数据的工具.该软件首先建立调用Excel文件的接口,然后遍历Excel文件,利用字符串匹配算法筛选出所需数据,并拷贝到缓存.然后再次调用Excel的API,保存至新文件,并进行数据写保护加密,保证了数据准确性和客观性.此外,该软件也建立了文件批量打印的功能,通过调用Excel的API进行各项打印设置和作业.此工具打破了不同软件间的数据孤岛,避免了人工统计来充当数据接口,提高了统计工作的效率和准确率.
社会经济在快速向前发展,我国整体经济水平有了大幅度的提高,电子计算机技术得到了前所未有的突破性发展,人们逐渐进入了信息化的时代.有关于计算机软件开发的项目越来越多,为了保障计算机软件的应用有效性,需要加大力度对软件的工程法应用实际情况进行分析和研究.文章分析了软件工程法在具体计算机软件开发中的应用优势,对软件工程方法的具体应用展开了深入的研究,希望可以为未来的计算机软件开发奠定良好的基础.
随着市场的不断需求,Android操作系统越来越完善,由于时代的发展需要,App也逐渐成为市场空缺,App终端研究成为主流研究项目.该文对基于Android操作系统的移动终端App开发视角下进行深入细致的剖析,为相关领域从业人员提供一定理论指导和参考,更好地促进了在当前互联网不断发展普及背景下Android操作系统的移动终端App的开发工作创新.
为了准确、快速地检测驾驶员疲劳状态,设计一种基于深度学习和ERT算法的车载疲劳检测系统.该系统采用MTCNN算法进行人脸定位,使用KCF算法进行人脸追踪,应用ERT算法进行人脸特征点检测.获得特征点后,测定了眨眼动作的EAR阈值与哈欠动作的MAR阈值,在YawDD数据集上眨眼识别的准确率达到88.07%,哈欠识别的F1-measure达到了92.31.通过计算眨眼时的PERCLOS值与检测嘴巴张度MAR的大小来判断眼部与嘴部状态,使用决策树进行多特征融合疲劳判断,进而决定是否进行预警.
云计算的发展与大范围应用,导致云服务软硬件的成本持续下降,服务数据信息的可靠性提升,但是因云计算特有的共享虚拟性,促使其在存储信息方面存在着潜在安全风险.因此,文章以云计算安全运行于互联网为总体目标,介绍了云计算环境的概念与特点,论述了云计算环境下的信息安全风险感知过程,并对云计算环境下的信息安全防护措施进行了进一步探究,希望为云计算环境的健康安全运行提供积极的借鉴.
随着我国经济社会运行发展水平的不断提升,社会各个层面对青少年教育培养问题的关注程度显著增加.高校作为培养提升青少年综合素质及专业素养的专业化教育机构,无论是对内、对外都需要下足功夫、做足功课,高校门户网站作为高校涉及各种类型数据信息资源的承载主体.特别是在积极秉持开放发展及与时俱进核心主干理念的基础上,从整体流程链条角度出发,进一步提升高校门户网站的总体运转水准.通过这种方式有利于积极建立起其自身多元化正向外部形象,同时也能够为高校教职人员及青少年的日常学习生活创造出充足的便利条件.在这种整体氛围环境下,
在数字化浪潮下,工业互联网、云计算、大数据、物联网、人工智能等新技术新业务在企业中得到广泛应用.传统网络安全是以防火墙、杀毒软件和入侵检测为代表的网络安全防护体系,侧重于边界防护,安全产品之间缺乏信息共享和防护协同.然而,在新形势下传统边界安全的基础存在空间已经荡然无存.针对这一问题,文章设计了一款统一的网络安全平台,以数据为核心,在数据全生命周期中根据数据的不同场景提出防护解决方案,构建零信任架构,形成体系化的防御,让风险可视可控.
随着互联网的普及和发展,移动端用户的数量也在不断扩大,移动端消息推送作为新的消息推送方式,凭借其庞大的数据资源、即时的消息推送和便捷的浏览方式获得了大量的受众.该文将从传统移动端App的消息推送方式的不足进行分析,进而研究移动端App如何通过兴趣图谱制定个性化消息推广服务策略,探讨一些比较可行有效的措施和方法,以期进一步提高移动端消息推送服务的个性化、智能化.
防火墙技术的应用可以实现对网络安全威胁的有效抵御,对提升网络信息安全、维护互联网健康发展有着不可忽视的作用.鉴于此,该文主要从防火墙特性及分类着手进行分析,接着简单阐述了防火墙进行网络安全防护的原理,最后提出了计算机网络安全中防火墙技术的具体应用,以期能够为相关工作者提供借鉴与参考.