近年来,机器学习的研究与发展受到了广泛的关注,机器学习的应用也已经深入到了人们生活的方方面面。随着各种基于机器学习业务的发展,机器学习的数据与模型规模愈发庞大,单个机器有限算力下缓慢的模型训练进度已经无法满足实际应用的需要,基于多机算力协同并行计算的分布式机器学习越来越受到人们的关注。分布式机器学习通过拓展多机算力显著加速了模型的训练过程,但训练过程中多机之间频繁的模型交互使得通信环节成为进一步加速模型训练的瓶颈。通过升级网络设备的方法经济成本高,通常不能被大多数研究者和机构采纳。现有通过通信的传输调度优化工作大都是面向静态且同构的网络环境,对于复杂的异构且动态网络的研究严重不足。其中的难点在于如何面向具体的异构网络状态,针对性地做出通信的传输调度优化。由于解决该问题的前提是如何通过合适的手段获取到网络状态信息,这使得解决该通信优化问题的门槛被提高,后续工作经常难以展开。本文的研究针对复杂动态异构网络下分布式机器学习通信优化工作的艰难现状,致力于动态异构网络下网络状态信息感知机制的研究与设计。本文给出了两种优化方案下原理类似但机制不同的轻量级、低开销和高效率的网络感知方法,实现了对动态异构网络较为准确且持续的状态感知。基于感知到的网络状态信息,本文的方案一从传输拓扑角度出发,有别于参数服务器架构下传统低效的星形和静态树形拓扑,提出了动态树拓扑的分布式机器学习模型聚合方案。该方案的主要优点是能实时地根据网络状态自适应地调整聚合树拓扑,规避瓶颈链路,并利用高吞吐链路,实现对模型聚合的加速;本文的方案二从多参数服务器通信负载均衡的角度出发,有别于传统网络无感方案简单粗暴的平均主义分配原则,提出了参数服务器自适应通信负载均衡的分布式机器学习模型聚合方案。该方案的主要优点是能实时地根据网络状态自适应地调整各参数服务器节点负责聚合的参数量,使各参数服务器负责的通信负载与各自的通信能力相匹配,避免了瓶颈节点的出现,从而加速模型聚合过程。本文在真实的分布式机器学习平台上对上述两种方案进行了工程实现,并进行了大量的验证和测定工作。实验结果表明,上述两种方案都达到了预期的优化效果,能够显著加速动态异构网络下的分布式机器学习模型训练。