矩阵分解作为一项基础通用的机器学习技术,在实际的工业生产中具有广泛应用。然而,随着训练数据的增长,大规模的矩阵分解无法在单机节点完成,需要将训练数据分发至多个节点上进行高效的分布式的训练。传统的分布式矩阵分解采用以梯度下降为核心的迭代算法进行,然而,依托典型的MapReduce架构或者Parameter Server的分布式架构不能高效地完成快速迭代。整个训练过程中具有显著的通信开销和I/O开销,由此极大地延长了训练时间,造成资源的浪费;同时,由于多对一的通信模式广泛存在,传统的分布式矩阵分解方案严重影响RDMA的扩展性部署,因此不能很好地利用RDMA技术带来的性能提升。基于此,本文提出一种新型的大规模矩阵分解方案Rima,摒弃了传统的中心化架构,采用去中心化的环形架构消除中心化瓶颈,并实现高效可扩展的大规模分布式矩阵分解。Rima采用环状并行模式,消除中心化瓶颈;通过“一步置换”策略,可以减少一半通信传输,极大提高带宽利用率;并且引入三种“部分随机化”策略,增强算法鲁棒性,保证算法收敛;此外,Rima通过“预定义模式序列”策略,预加载模式序列,从而进一步讲磁盘读取开销和计算通信开销重叠,避免了 I/O开销严重影响训练时间。实验结果表明,Rima相比于传统的分布式矩阵分解方案DSGD,在TCP传输协议下,训练时间可以缩短68.7%,在RDMA传输协议下,训练时间可以缩短85.4%,充分证明了 Rima显著提高分布式矩阵分解的训练速度。