近些年来,有关大数据分析的研究热度居高不下,已经成为了统计、数学、计算机科学等多个学科领域中的热点研究课题之一。大数据其实有两层含义,一是数据的数量大;二是无标号的、杂乱的数据多。针对数据的数量大的特点,并行计算与分布式学习的思想在学习理论中得到了广泛的关注。分布式学习的基本思想是把一个超大的数据集{z _i}^N_i（28）1以某种方式分拆成m个不相交的部分送到m个数据处理单位,每个部分先被单独并行处理分析,然后处理结果再被聚合在一起。由于数据分析的目的不同,分布式学习的算法也多种多样。本文将主要致力于分布式学习和基于系数的正则化回归学习的数学基础的研究,通过样本算子、积分算子和算子差的分解技巧和关于误差分解的一些新的想法,推导出令人满意的误差界和学习速率。我们的研究结果表明当m不超过一定的阈值时,分布式学习和对整个数据进行一次性学习得到的学习速率是一致的。本文的内容主要分为:第一章介绍统计学习理论的发展历史与基本框架。第二章介绍正则化学习算法的研究现状和预备知识,重点介绍系数正则化算法。第三章介绍分布式学习问题的研究现状,重点介绍分布式核岭回归学习算法。第四章介绍分布式系数正则化回归学习,这一章主要研究分布式系数正则化回归学习算法和分布式部分系数正则化学习算法,利用样本算子、积分算子和算子差的分解技巧,分别得到上述两种学习算法的误差界和学习速率。第五章总结与展望。