随着无线通信的发展,频谱资源匮乏的问题愈发严重,基于非正交多址接入(NonOrthogonal Multiple Access,NOMA)的协作通信技术,由于具有高频谱效率和可以有效提升传输可靠性的优点而受到广泛的关注。在协作NOMA的研究中,通过将中继共享(Relay Sharing,RS)技术引入协作NOMA网络中,可以为更多用户提供连接并减少网络部署成本。另一方面,将直传与中继协同传输(Coordinated Direct and Relay Transmission,CDRT)技术引入NOMA网络中,则能够显著提高小区边缘用户的性能。目前对于采用共享中继的NOMA网络的研究中,仅仅分析了单用户对场景下的性能,却没有考虑更为普遍的多用户场景,当网络中存在多个待调度用户时,如何处理用户之间的依赖关系,在保证公平性的前提下尽可能提高网络性能,是一个值得研究的问题。另外,目前对于CDRT和NOMA联合作用的研究更多集中在单天线和单中继场景下中断性能的分析,少数天线选择的文章也仅仅考虑了最大化其中一个用户的中断性能,而没有考虑用户之间的公平性。并且,当中继无可靠的能源供应时,无线携能通信(Simultaneous Wireless Information and Power Transfer,SWIPT)的引入也将会对选择方案的设计产生根本性的影响。针对上述两个问题,本文的研究内容可以表述如下:(1)研究了采用共享中继的协作NOMA场景下的用户调度问题。在传统的正交多址接入(Orthogonal Multiple Access,OMA)场景下,最大-最小选择方案被认为是分集最优的中继选择和用户调度方案。本文证明,在采用共享中继的NOMA网络下,最大-最小选择方案存在明显的中断性能损失。为了解决该问题,本文提出了一种基于子集的自适应用户选择方案。该方案在保证高优先级用户的服务质量得到满足的条件下,尽可能提高了低优先级用户的数据速率,并且根据用户信道状况,方案将会在OMA与NOMA方案之间进行切换,以保证高优先级用户的性能不低于单独采用OMA传输方案时的性能。同时,本文给出了所提方案下不同优先级用户完整的中断概率表达式,并在高信噪比下得到了近似表达式,从而获得了两组用户的分集增益,证明了基于子集的自适应用户调度方案的优越性。最后,通过仿真验证了理论分析的正确性,并证明合理的传输参数设置可以进一步提高系统的性能。(2)考虑多天线且多中继协作NOMA网络下,当系统不存在可靠的能量供应时,本文提出了一种通过SWIPT技术协助的CDRT-NOMA系统下的天线与中继共同选择方案。方案旨在满足小区中心用户服务质量的前提下,尽可能提高小区边缘用户的数据速率,并得到了最优的功率分割因子。同时,本文给出了两个用户的严格中断概率表达式,并在高信噪比下得到了近似表达式以进一步分析用户的分集增益。最后,通过仿真验证了理论分析的正确性和方案的有效性。