随着移动化浪潮涌现，智能设备日益增多，无线数据业务量呈指数增长，目前已大范围商用的4G技术将难以支撑未来的数据业务需求。为应对更高的频谱效率和能量效率需求，4G之后的通信技术变革迫在眉睫。密集分布式系统通过在宏小区范围内密集部署大量的低成本、易安装和低复杂度的远端接入单元(RAU)，能极大地提升频谱效率和能量效率，为应对未来通信需求，提供了一种经济和生态的解决方案，已成为移动通信的关键技术之一。本文从系统级仿真角度，对LTE-Advanced及密集分布式协作通信系统的性能进行了研究。　　首先介绍了LTE-Advanced系统级仿真框架，并应用适当的仿真模型和仿真方法，建立了基于C++的系统级仿真平台。平台包含主要模块有拓扑结构模块、无线传播模块、链路级映射模块、链路自适应模块和调度模块等，为保证平台的正确性和可靠性，根据3GPP和ITU组织的标准文档对平台进行仿真校正。仿真结果表明，对于各项校正指标，该平台都达到了3GPP的要求，通过在该平台上对轮循调度、最大载干比调度和比例公平调度等三种算法的性能比较，发现比例公平调度算法能够对公平性和吞吐量进行很好的折中。　　接着本文借助于上述平台对多用户MIMO系统传输模式的自适应切换方法展开了研究，并提出了基于遍历速率的切换方法，包括单一模式切换策略和多种模式切换策略。随着用户移动速度和空间信道相关性等的变化，为使系统和速率最大，传输模式需要在基于瞬时信道状态信息的单用户和多用户传输模式、基于统计信道状态信息的单用户和多用户传输模式间进行切换。单一模式切换策略借助于统计信道状态信息将各用户分组，并按照能量最大准则选择同组的两个用户，同时计算其在四种传输模式下的遍历速率，最后选择具有最大速率的传输模式。多种模式切换策略是对单一模式切换策略的改进，其结合比例公平调度算法进行了频带资源分配，使得被调度用户可以超过两个并能使用不同的传输模式。仿真表明，在多小区多用户场景下，两种切换策略都能使用户选择适合当前信道的最佳传输模式，并能提高系统频谱效率，且多种模式切换策略性能更优。　　最后本文对多小区密集分布式无线通信系统的下行传输进行了研究，并提出了基于RAU调度的区间干扰消除方法。为减少回程链路开销，该方法主要利用局部统计信道状态信息来实施调度，通过将无数据传输的RAU设为休眠状态以降低干扰。同时根据用户传输模式的不同，提出了基于单RAU传输的贪婪调度算法和基于协作RAU传输的贪婪调度算法。随后研究了在宏小区用户数量、RAU数量和RAU发射功率等不同因素的影响下，两种调度算法的性能。仿真结果表明，两种调度算法都能有效的抑制或消除干扰，并且前一种算法在大多数时候性能更好，而后一种算法在用户处于边缘区域或者宏小区用户数很少的情况下性能更优。