本文的主要研究的问题是基于大数据背景下,本论文研究由于数据规模和维度过大导致传统统计方法无法适用的问题。更进一步,由于存储技术近年来的迅猛发展,数据的存储收集都变得更加方便了,由此发展了分布式系统。分布式存储中由于各个物理节点数据的空间分隔,传统的统计方法很难直接扩展应用。本文的研究从两个角度,其一是如何在单一节点解决由于数据规模巨大或数据结构复杂,单一计算机的内存难以支持原有经典统计方法的一些计算操作的问题。其二是,更进一步,如何解决在分布式环境下,在一些经典问题上,对一些大规模或维度高的数据进行分析。在第一章,我们介绍了本文的研究背景,和研究方法背景知识,如分位数回归、交替乘子算法（Alternating Direction Method of Multipliers,ADMM）、加速失效时间模型（Accelerated Failure Time,AFT）、亚组分析,并且给出了论文的结构。在第二章,我们提出了DisQADMM算法,一个分布式的ADMM求解器用来解决带有惩罚项的分位数回归,以及一系列的稀疏促进的惩罚问题。通过巧妙的设计,DisQADMM算法迭代中涉及到的所有子问题都有一个闭式解。通过应用KKT条件,我们推导得到训练参数的将所有参数惩罚至零的闭式解,从这个值开始,我们可以快速且准确的逼近求解路径。作为该方法的一些副产品,其一,通过将惩罚项设置为0,我们得到了一种高效求解低维大样本的分布式分位数回归求解器。其二,通过将惩罚项设置为0,我们得到一个当所有数据都存储在一起的,非分布式的对于一些列高维分位数回归问题的统一求解器QADMM。这些副产品可以根据具体应用来独立深入研究。我们给出一系列的数值模拟,通过和众多已有算法比较,以此展示了算法QADMM的卓越表现。并且在分布式平台SPARK上测试了算法DisQADMM。作为应用之一,我们通过给图片设置噪点,在此基础上使用QADMM解决熔断成组（fussed group）问题。相关的软件包QADMM/DisQADMM可以在https://github.com/ponda-donut/QRADMM找到。在第三章中,我们给出了针对高维协变量的稀疏的AFT模型带有l0惩罚的估计。我们提出的方法是基于Stute加权最小二乘准则和l0惩罚的融合。这个方法是一个计算的算法,基于根据KKT条件从原始信息和对偶信息以及发现根获得的活动集,它给出了迭代求解序列。我们提出了一个AFT-SDAR算法（用来支持检测和寻根）。我们理论方面一个重要的方面是我们直接关注基于AFT-SDAR算法生成的求解序列。我们证明了只要协变量矩阵满足温和的规律性条件,即使在高维线性回归的设置中,该温和的条件对于模型识别也是充分必要的,解序列估计误差以高概率指数衰减至最优误差范围。我们还提出了AFT-SDAR的自适应版本AFT-ASDAR,它以数据驱动的方式确定估计系数的支持大小。我们进行数值研究,以证明该方法在准确性和速度方面优于LASSO和MCP。我们还将提出的方法应用于真实数据集以说明其的应用意义。在第四章中,随着个性化医疗的高速发展,异质性效用分析变得越来越重要。同时,随着科学技术的发展,为了精准治疗,政府和其他机构都在很大程度上推动健康信息交互（HIE）。在这一章中,我们提出两种算法用来解决这一问题,其中随机块ADMM收敛快,对于一些对于数据隐私要求不高的情况可以得到运用。这里我们更多的关注通过在保证隐私和数据安全的前提下,综合分布式存储系统的数据正确的识别亚组信息。由此我们提出基于交替乘子算法的DisSRADMM算法。这一算法在分布式环境下,只需要传递节点计算结果,不要传递任何样本数据,对病人数据隐私有极强的保护。这一方法不仅可以处理大规模数据,同时可以忍受分布及其不均衡的亚组。这也就意味着,在实际应用中,即使一些传染病感染者分散在各个节点的医院,该类传染病的爆发也可以被及时的识别。我们运用一些数值模拟来证实方法的有效。我们的求解框架适用于解决一系列带有各种结构的异质性的回归问题,即使是在分布式环境下。在第五章中,我们对论文进行了总结,并对进一步的工作提出了展望。