由于目前数据呈爆炸性增长,原有的机器学习算法已无法应对新的挑战.然而,分布式算法是解决大数据问题的一个有效方法.因此,将分布式算法和传统的机器学习算法结合是很有必要的.交替方向乘子法（ADMM）是一个优秀的分布式算法,本文的研究正是基于ADMM的一些分布式算法,我们研究该算法针对l₁问题的最优步长、分布式支持向量机的ADMM算法和在线的分布式支持向量机的ADMM算法.具体内容如下:1.ADMM算法已经成为求解大规模优化问题的有效方法.尽管已经有较多的关于该算法收敛性的研究,但关于该算法参数对收敛性的影响仍然需要进一步的研究,在实验中参数通常是经验性的选择.本文研究基于ADMM算法l₁正则最小问题的最优步长.我们发现Lasso的解用软阈值算子表示后,软阈值的三种情况可以转化为算法收敛因子的两种情况,然后通过最小化收敛因子可以解出最优步长.数值仿真实验表明,应用该方法选出的步长,其算法的收敛速度明显快于其它情况.此外,我们将该方法应用到压缩感知问题,给出一个计算最优步长的近似值策略,获得了较好的实验结果.2.众所周知,支持向量机是一个有效的机器学习算法,针对大数据,我们提出了master-slave网络模型下的分布式SVM算法（MS-DSVM）.该算法结合了分布式ADMM算法和SVM算法,该网络结构下master节点和slave节点相连,传递计算结果.分布式SVM可以看作是一个正则化优化问题,ADMM算法把原问题分解成一系列的子问题求解,最后合并得到全局解.我们引入了过松弛技术增加所提出算法的收敛速度.理论分析显示:本文提出的MS-DSVM算法具有线性收敛速率,这也是现有分布式ADMM算法中最好的结果.实验结果也表明该算法的收敛速度和分类准确率都好于现有的方法.3.在现实世界中,很多任务是需要实时计算的,传统的批量处理算法无法胜任.因此我们提出基于ADMM算法的在线分布式SVM算法,通过对数据矩阵引入时间参数,对MS-DSVM算法做修改,得到在线的MS-DSVM算法.其中数据的流入随时间变化,流入节点的方式也没有限制,即任意节点在任意时间可以接受任意量的数据,实验显示在线的算法对数据的变化做出了及时且正确的回应,对实时数据具有较好的分类结果.