非正交多址接入(Non-Orthogonal Multiple Access,NOMA)是5G的一个重要候选技术,在相同资源上复用多个用户,可以满足5G在频谱效率、多连接、低时延、用户公平性等方面的需求。分布式天线系统(Distributed Antenna System,DAS)通过在小区内部署多个远程天线单元(Remoted Antenna Unit,RAU)来降低大尺度衰落,可进行更高效的资源调度。为充分发挥两种技术的特点,有必要考虑结合两者来进一步提升系统性能。本文围绕NOMA与DAS等相关问题开展研究,主要的工作如下:本文首先对NOMA和DAS的研究现状进行调研,并以下行链路的两用户场景为例,阐述了NOMA的原理,通过理论分析说明NOMA可以获得比正交多址接入(Orthogonal Multiple Access,OMA)更高的容量和更多的连接数。同时将DAS和集中式天线系统(Co-located Antenna System,CAS)进行分析对比,表明了DAS可以获得比CAS更高的容量。通过对DAS的功率分布和信道相关性分布的特点进行探究,本文构建了一种NOMA-DAS模型,在DAS虚拟小区的基础上,考虑RAU数小于用户数的场景,引入NOMA来解决系统过载问题,提出了一种NOMA虚拟小区混合传输方案,并将该传输方案与传统的MIMO虚拟小区传输方案进行分析对比,仿真结果表明,该传输方案可以在接入更多用户的同时提高系统容量。在NOMA-DAS模型的基础上,对于本文提出的NOMA虚拟小区混合传输方案,根据不同的情形有三种新的策略:(1)若虚拟小区中RAU数大于用户数,采用一种联合预编码抑制邻区干扰的方法,抑制干扰同时降低复杂度;(2)若虚拟小区中RAU数小于用户数,采用一种基于正交配对和指派方法的用户配对算法,该方法在保证组内用户具有较大信道相关性的同时使得组间用户信道相关性较小,从而进一步降低组间干扰;(3)为进一步提高系统的性能,需要对信号功率进行优化配置,针对此类非凸的优化问题,本文还提出了一种基于深度学习的NOMA分布式天线系统功率分配方法,该方法能够预测出功率分配,在牺牲一定容量的前提下可大大降低功率分配的计算复杂度。