未来10年,全球移动数据流量将增长1000倍,与此同时频谱短缺问题十分严峻,巨大的频谱赤字高达300MHz。因此在第五代移动通信系统(5G)中,容量需求和频谱短缺的矛盾亟待新技术的研究与突破。本文针对5G移动通信系统的容量需求问题,以容量提升和干扰共存作为两大目标,从异构网络空间密集化和非授权频段接入技术两个解决办法入手,探其对网络容量性能的影响。同时,基于用户公平性和网络公平性,提出网络参数设置的优化方案。本文的研究内容分为以下三部分:(1)研究LTE系统在授权频段下的容量提升问题。在结合小区区域扩展策略和时域小区间干扰协调机制的密集异构网络场景下,应用随机几何模型分析网络容量性能。研究部署密度、小区区域扩展值、几乎空白子帧比例等网络参数对网络容量的影响规律。提出一种基于用户公平性的干扰协调参数配置算法,用户平均吞吐量提升20Mbps,不同用户间吞吐量差距下降25%。(2)研究在引入非授权频段下LTE系统的容量提升与信道接入问题。结合能量检测和退避算法,提出了一种新型的LTE在非授权频段的接入和退避策略。利用最优化理论,计算最优信道接入参数,最大化非授权频段下的LTE网络吞吐量,同时避免对WiFi系统的过度干扰。(3)研究非授权频段下LTE和WiFi双系统的容量性能与干扰共存问题。分别利用马尔科夫链模型对WiFi的分布式协调功能和LTE两种避算法进行建模,分析两种系统的信道接入概率和归一化吞吐量性能。提出一种基于接入公平的LTE最优争抢窗口计算方案,实现非授权频段下LTE和WiFi的公平共存。最后,对本文的研究内容进行总结,本场景下密集部署和非授权频段接入相结合技术有待进一步研究。