本文主要讨论了非正交多址接入(Non-Orthogonal Multiple Access,NOMA)系统的关键技术。NOMA多址系统主要通过引入功率域,给复用的用户分配不同的功率来区分用户,实现多址。NOMA最大的优势是提高频谱效率。针对NOMA系统的相关问题,本文分四部分展开讨论。首先给出了NOMA系统的数学模型,并以两用户为例,详细阐述了NOMA的基本原理。NOMA技术的核心是引入功率域,因此对于如何灵活的分配功率将是NOMA系统发端重点研究的内容。本文首先给出了两种复杂度较低的NOMA功率分配算法,性能与最优算法相比相差不大,但具有低复杂度,可实现性强。然后又针对NOMA系统下每个子频带候选用户集中用户配对方案的相关研究,对于基于串行干扰消除(Successive Interference Cancellation,SIC)算法译码的NOMA系统,为了提高系统性能,接收机信干噪比差异要满足一定的阈值才能确保尽可能小的误码传播。为此本文给出了一种用户状态排序配对算法,并与其它经典的用户配对算法进行了仿真比较,证明了新算法的有效性。接着讨论了一种新用户接入方案。对于NOMA系统而言,与正交频分多址接入(Orthogonal Frequency Division Multiple Access,OFDMA)系统不同,由于频谱效率的显著提高,无需采用竞争性接入,本文给出了一种用户性能差异性选择接入算法,充分兼顾了最大容量原则和公平性原则,并与传统的随机接入和最大信干噪比接入算法相比较,证明了本文提出算法的有效性。最后,本文研究了NOMA系统接收端的关键技术——干扰消除技术。由于NOMA技术是在发送端主动引入干扰的多址接入技术,因此接收端的干扰消除技术就显得非常重要。本文主要研究串行干扰消除算法,但是仅利用SIC算法,其性能不佳,考虑传统线性检测算法的优势,我们将线性检测算法和SIC算法相结合,提出MMSE-SIC(Minimum Mean Square Error)算法,以及排序的MMSE-SIC算法。虽然MMSE-SIC算法性能是最佳的,但是其运算过程中有大量的求逆运算,复杂度较高。为此分析了QR分解算法,其复杂度较低,具有可实现性。除此之外,还考虑了干扰抑制合并(Interference Rejection Combining,IRC)算法,其性能远好于最大比合并(Maximum Ratio Combining,MRC)算法,并将IRC与SIC相结合,性能明显改善。最后给出了NOMA多载波系统的整体干扰消除算法——双向SIC算法,并通过仿真证明了算法的有效性。