移动互联网的迅速发展使人们对数据传输速率和服务质量的要求不断提高，而这与实际的频谱资源紧缺相矛盾。为了实现下一代无线通信系统高传输速率及高频谱效率的目标，无线通信系统的网络架构和无线传输技术都在不停地演变。近年来，分布式天线系统(Distributed Antenna System，DAS)和协作通信(Cooperative Communication，CC)在国内外受到了广泛关注，在这两种通信网络架构上应用合理的传输技术，可以挖掘它们的潜在优势，提高频谱利用率和网络性能。　　 本文首先在远端天线单元(RemoteAntenna Unit，RAU)分簇的基础上，研究分布式天线系统的下行发送方案，主要包括预编码和功率分配，提出结合按比例功率分配的块对角化预编码方法。仿真结果表明，在高信噪比下，按比例分配功率方法性能接近注水功率分配算法，所提方法获得了性能和复杂度的折中。　　 然后将分布式天线系统与协作通信网络结合，具体从两点展开研究:第一点，考虑分布式天线系统下的中继协作，即这里的中继节点只考虑它转发数据而没有自己的数据要发送，在此背景下，建立了分布式天线系统中中继协作的网络模型，研究了物理层网络编码技术，提出一种联合调制物理层网络编码方法，并推导了接收机的软输入软输出检测算法，结合Turbo接收机进一步提高系统系能，仿真结果表明，所提出的方法可提升系统吞吐量;第二点，考虑分布式天线系统下的用户协作，即这里的中继节点是用户，在中继转发数据的基础上还要考虑它有自己的数据要发送，基于此背景，建立了协作频谱共享模型，应用议价博弈理论，给出了协作通信的MAC层实现策略，仿真结果表明所提出的方案可以大大提高系统的频谱利用率。