随着移动互联网时代的到来以及飞速发展,语音视频、手机游戏、高清直播等业务在丰富人们的生活,提供便利的同时,也对信息的获取和传输的速度和质量提出了越来越多的要求,是下一代移动通信系统所面临的主要挑战。与此同时,近年来获得广泛关注的大规模MIMO多天线技术,具有高频谱效率,高能量效率和高空间利用率的特点;分布式天线系统能够利用地理上分散的特性进一步改善无线传输性能。本文主要研究大规模MIMO分布式天线系统中下行预编码相关技术。首先,本文介绍了移动通信的发展历史及MIMO多天线技术的基本原理和最新研究进展,并概述了分布式天线系统的特点和多用户下行预编码算法的分类及经典算法。其次,本文研究了分布式天线系统的信道模型及性能特点。从传统无线信道的衰落特性及两种常用信道模型引入,根据分布式天线系统的特点将信道模型推广并推导出分布式天线系统信道模型。在此模型基础上,重点分析了分布式天线系统的覆盖性能和容量性能。仿真结果显示,分布式天线系统相比传统集中式天线系统覆盖性能更优,平均信道容量增益显著。然后,本文分别研究了多用户分布式天线系统中的下行链路线性和矢量预编码技术。在线性预编码方面,介绍了如块对角化等经典预编码算法及其衍生的低复杂度算法,并在此基础上提出基于信道扩展的简易QR算法和格基变换辅助的串行干扰消除算法以进一步降低计算复杂度。仿真结果表明改进算法可以在几乎不影响系统性能的前提下进一步减少计算复杂度。在矢量预编码部分,针对传统向量扰动算法球形译码过程复杂度过高的问题,使用格基约减进行了改进,能够以微小的性能损失代价得到复杂度的显著降低。最后,本文研究了多小区分布式天线系统中的协作预编码技术。多小区系统既需要抑制小区间干扰,也需要抑制小区内干扰。论文在分析传统迫零算法的基础上,扩展了基于迫零的级联预编码结构,提出一种将内层预编码为最小均方误差向量扰动的算法,然后又提出了最小化多小区总的均方误差和泄漏干扰总和的改进算法。仿真结果表明以上两种算法性能皆优于迫零算法。为了缩小与联合传输之间的性能差距,文中又提出了远端天线单元与多天线选择算法及用户分配算法,以进一步提升边缘用户的服务质量。