目前正处于一个互联网与物联网同步高速发展的一个时代。在这样的背景下,下一代通信网络除了要满足超高速的传输需求外,还需要应对来自于联网设备的大规模普及以及在不同的应用场景下,用户不断增加的网络需求对现有的通信网络提出的更多挑战。为了应对现有以及将来网络通信中有可能出现的一系列问题,在本文中针对以下几个方面进行探索解决方案。首先是如何对现有的基站进行减负,即通过其他通信途径来减少通信基站所承担的无线通信负担,目前研究并且在应用上较为广泛的包括femtocell和D2D通信等。然后是通过一定的技术手段提高现有的蜂窝通信系统频谱利用效率,增大现有的通信网络容量,研究重点着眼于非正交多址接入技术。最后是在现有的通信环境下如何做到最大化的避免用户间干扰,提升通信系统用户隐私安全性保证,在本文中的研究重点将在于搭建通信系统模型过程中建立高效的资源分配策略,及对用户功率控制方案的详细分析研究。在本文我的工作核心也是基于以上几个方面进行了深入的研究探索,在下一代移动通信网络中,我研究的主要工作内容包括对D2D通信网络以及NOMA通信技术进行了展开研究,重点集中于研究如何采用NOMA技术来完成通信的网络系统模型的搭建,NOMA通信中用户配对方式对通信系统性能方面的影响,以及在不同的配对方式下NOMA系统采用的算法研究。然后,搭建D2D通信系统融合到蜂窝通信网络中的系统模型,对该模型进行相应的问题规划,主要集中于在该模型下提高系统吞吐量并抑制系统中用户之间的干扰,其中几种表现较好并应用广泛的资源分配算法,如博弈算法,最佳算法。应用这些算法进行系统的仿真,得到系统性能参数,并针对表现较好的最佳算法进一步的改进,提出一种新的双边剔除算法。最后,在研究上述两项技术后,我们设计一种可以容纳NOMA技术模型的D2D通信方案,即面向于D2D用户的NOMA通信技术策略,建立D2D与NOMA相融合的系统通信模型,在该模型中提出了用户簇的概念以针对NOMA技术中相对应的概念,尝试利用在第三章中提出的改进后的双边剔除算法进行仿真,最后经过Matlab仿真后得出的数据也显示该算法在降低算法复杂度的同时,极大的增加了在相同条件下允许接入该通信系统中的D2D用户簇数量,并且系统性能表现出更好的稳定性。