【摘 要】
：
The g-SGD algorithm significantly outperforms the conventional SGD algorithm in ReLU neural networks by adopting the basis path set.However,how the inner mechanism of basis paths works remains mysterious,and the g-SGD algorithm that helps to find a basis
【机 构】
：
Department of Mathematics,Yunnan University,Yunnan 650500,China;Microsoft Research Asia,Beijing 1001
论文部分内容阅读
The g-SGD algorithm significantly outperforms the conventional SGD algorithm in ReLU neural networks by adopting the basis path set.However,how the inner mechanism of basis paths works remains mysterious,and the g-SGD algorithm that helps to find a basis path set is heuristic.This paper employs graph theory to investigate structure properties of basis paths in a more general and complicated neural network with unbalanced layers and edge-skipping.The hierarchical Algorithm HBPS is proposed to find a basis path set,by decomposing the complicated network into several independent and parallel substructures.The paper theoretically extends the study of basis paths and provides one methodology to find the basis path set in a more general neural network.
其他文献
二维二硫化钼(2D MoS2)由于其优越的电学、光学和压电性能,使其在未来电子器件领域被广泛关注.该文利用AFM接触模式和SKPM,在纳米尺度上,测试CVD制备多层MoS2的隧道摩擦起电和充电特性.通过AFM接触模式,在75 nN的法向载荷力下,用Pt导电探针摩擦MoS2样品的1μm×1μm正方形区域,同时使硅基底接地.然后通过SKPM,对以摩擦区域为中心的5μm×5μm正方形区域的接触电势进行成像.最后以上述方式,依次在A、B、C区域进行摩擦起电测试.研究结果表明:MoS2不仅具有摩擦起电特性,而且表现
为研究张家界市PM2.5中碳组分的污染特征及来源,于2017年11月至2018年7月在4个季度典型时段进行了大气P M2.5样品采集,综合分析了碳组分浓度水平和组成成分,并识别了其来源.结果表明,观测期间张家界市城区PM2.5质量浓度平均值为(45.60±25.48)μg/m3,OC、EC分别占PM2.5总质量的16.73％、4.55％;OC/EC比值及OC、EC相关性分析表明:张家界市大气存在较为明显的二次有机污染,春、夏季尤为突出.根据OC/EC最小比值法估算得到区域SOC年均值为2.92μg/m3,
硬质(刚性)第二相经常被用来强化合金材料的基体.但刚性第二相在板材中的分布对板材力学性能和形状的影响目前还不是十分清楚,该文通过数值计算的方法研究了板材中分布不同的第二相颗粒对材料力学性能的影响.研究发现:当刚性颗粒分布在板材几何中心位置,变形时,与刚性颗粒接触的上下表面存在较大区域的应力集中,后续的轧制过程可能会导致板材的断裂;当刚性颗粒处于板材边沿,后续变形时,与其接触的基体应力集中区域明显减小,但对板形影响较大.
新能源发电占比以及参与市场交易的比例不断扩大,由于其随机性和波动性,导致现行按照电量平衡、电力校核的中长期交易电量分解方法,难以适用于高比例新能源电力系统.为此提出了一种计及交易优先级及电力平衡约束的新能源中长期交易电量优化分解方法.从新能源长时间出力曲线构建、交易电量协调优化分解和多场景模拟计算等方面提出满足新能源随机波动性的中长期交易电量协调优化方案;以促进高比例新能源消纳为目标,计及交易优先级建立基于时序仿真的新能源中长期交易电量优化分解模型,实现新能源年度交易电量分解到月,完成新能源中长期交易电量
基于宏基因组物种分类学注释结果,构建了不同形态下活性污泥微生物分子生态网络.结果表明附着生物膜和絮体污泥分子生态网络中模块化数值分别为0.826和0.828;平均聚类系数(avgCC)分别为0.754和0.733;平均路径长度(HD)分别为4.197和4.793;鲁棒性表现分别为0.274和0.297.基于此,该研究得出结论:絮体污泥群落相较附着生物膜群落有更为强烈的相互作用,而附着生物膜相较絮体污泥则有着更为丰富的参与硝化过程的物种(Nitrospira)以及更为“健壮”的生态网络.
传统输电线路施工管控系统下施工风险等级判断误差较大,导致施工缺陷数据识别准确率偏低.为此,设计基于三维技术的输电线路精细化施工管控系统.硬件设计方面,优化三维传感器,添加组桥方式传感电路,重新定义传感器立体结构.软件设计方面,利用三维技术渲染采集数据,识别数据库存储数据的风险因子,判断施工缺陷风险等级,针对不同等级的风险源,采取相关管控措施,并对管控效果进行预警评估.此次系统与两种传统系统进行对比实验,分别对输电线路和杆塔的缺陷数据进行识别,结果表明,所提方法提高了缺陷数据识别准确率,耗时更低,使系统对施
This paper studies the secure and accurate clock synchronization problem for sensor net-works with time-varying delays and malicious attacks.A novel clock synchronization scheme based on the attack detection mechanism,attack compensation,and maximum conse
In this paper,an approximation-based event-triggered model predictive control(AETMPC)strategy is proposed to implement event-triggered model predictive control for continuous-time con-strained nonlinear systems under the digital platform.In the AETMPC str
湖南汝城位于华夏“多”字形构造带、南岭东西向构造带中部的交汇处,区内热水镇是中国中南六省最大的地热田,一般水温为91.5℃,最高98℃,异常面积3 km2.为深入查明汝城干热岩地热赋存条件及资源类型,该文在以往地热地质研究基础上,通过对区内地热资源分布、地温场、岩石热物性及放射性特征等,综合分析了汝城地区干热岩地质特征及干热岩地热资源成因,并总结分析了汝城区干热岩资源类型.研究表明,区内隐伏岩体发育,平均地温梯度达13.74℃/100 m,花岗岩生热率达3.13～14.86μW/m3,平均生热率为6.97
The problem of exponential module-phase synchronization of complex-valued neural net-works(CVNNs)with time-varying delay and stochastic perturbations was investigated.The model of CVNNs with time-varying delay and stochastic perturbations was considered.T