伴随着移动互联网和物联网的高速发展,移动通信技术的发展也在快速的更新。随着5G移动通信系统的正式商用,多输入多输出（MIMO,Multiple-Input Multiple-Output）技术是在保证功率效率的前提下,大幅提高频谱效率的关键技术。大规模分布式MIMO通过协作利用宏分集进一步提高传输性能,成为MIMO技术的热点问题。具体地,本文主要研究了:第一章首先介绍论文的研究背景。然后分别介绍了大规模MIMO技术以及大规模分布式MIMO技术的发展概述。最后阐述了大规模分布式MIMO系统中多用户预编码和多用户检测的研究现状,并总结了论文的研究工作和内容安排。第二章研究了大规模分布式MIMO系统中下行链路的遍历和速率的确定性等同（Deterministic Equivalent）推导。由于实际系统中很难获取精确的信道状态信息（CSI,Channel State Information）,本文针对不完美CSI的系统模型,考虑多用户分布式MIMO系统中用户到多个接入点距离的不尽相同而造成的频域相位旋转问题,引入了相关的相位旋转变量以及预编码补偿变量,推导出系统的遍历和速率。最后,根据大规模随机矩阵理论,推导出正则迫零（RZF,Regularized Zero-Forcing）预编码系统遍历和速率的确定性等同。仿真结果表明确定性等同以较低的计算成本即可提供可靠的性能预测。第三章研究了大规模分布式多用户MIMO系统中预编码补偿矩阵的设计问题。根据推导出的系统遍历和速率的确定性等同,采用最优化方法进行预编码补偿矩阵的设计。为解决优化问题的非凸性,采用局部迭代优化算法,结合顺序参数凸近似框架（SPCA,Sequential Parametric Convex Approximation）,进行数值求解。仿真结果表明,优化出的预编码补偿矩阵,不论是低信噪比还是高信噪比,都能够有效的抵消干扰。在相干带宽内,只需要计算一次预编码和相位补偿矩阵,其它子载波的相位补偿矩阵可以根据该矩阵旋转生成。第四章讨论了大规模分布式MIMO原型系统中的迭代检测方案。研究了上行大规模分布式MIMO系统的干扰抑制处理,并提出了基于特征值分解的软干扰抵消迭代算法（EVD-MMSEISDIC,EVD based MMSE Iterative Soft Decision Interference Cancellation）,并应用在上行接收机中。在此基础上,提出了两种迭代检测方案:迭代检测和解码（IDD,Iterative Detection and Decoding）方案和迭代检测（ID,Iterative Detection）方案。接着,介绍了基于通用处理器（GPP,GeneralPurpose Processor）的大规模分布式MIMO原型系统的搭建和结构模型。最后,利用该系统进行了迭代接收机的测试验证。测试结果证明该算法对接收机的性能具有显著性的提高。