随着无线通信技术的发展，传统的以授权为基础的频谱分配方式在资源分配灵活性以及频谱使用率方面已经逐渐无法满足快速增长的无线通信业务需求。认知无线电的提出可以有效解决当前频谱分配方式下资源利用率不高的问题。混合蜂窝与端到端(D2D，Device-to-Device)网络是基于认知无线电技术提出来的网络系统。D2D用户利用认知无线电能力可以重用蜂窝通信的频谱资源实现不经过基站的直联通信，从而提高无线资源利用率。由于D2D通信与蜂窝通信重用频谱资源时会产生相互干扰并影响通信质量，因此如何保证混合蜂窝与D2D网络的通信质量成了当前研究的热点问题。本文在混合蜂窝与D2D网络的业务质量(QOS，Quality of Service)保证算法及机制研究方面进行了探索。从算法设计角度分析了影响混合网络通信质量的关键因素，提出了一种新的接入控制及QOS保证算法。在混合网络通信机制方面提出了两种方案，包括能够有效避免从蜂窝到D2D干扰的D2D资源选择方案和能够控制D2D链路接入的D2D接入控制方案。这些算法和机制都有效提高了混合网络的系统性能，保证了D2D的通信质量。本文的主要工作在于：　　 1.在算法研究方面，本文提出了_种新的D2D用户接入控制及QOS保证算法。这种算法将D2D链路信号干扰噪声比(SINR，Singnalto Noise and Interfernce Ratio)作为链路通信的QOS标志，以链路接入排序为基础对D2D用户进行接入控制。算法提出了一种新的GIR(Gain to Interference Ratio)排序准则对网络中的D2D链路的接入顺序进行排序，利用凸优化理论优化新D2D用户的SINR以判断新用户能否接入网络。在此基础上，本文提出了一种精度可控制的功率优化算法以优化D2D网络的总吞吐。仿真证明了相比于已有的接入控制及QOS保证算法，该算法能够在保证D2D通信QOS的基础上有效提高接入用户的数量以及资源分配的公平性。　　 2.在混合蜂窝与D2D网络的干扰避免机制方面，本文针对D2D通信复用蜂窝上行资源的场景介绍了一种可以避免来自蜂窝通信干扰的D2D资源选择机制。D2D通过解码蜂窝基站发送的上行资源分配信息以及干扰测量可以定位对自己产生干扰的蜂窝用户，从而在资源选择的时候可以避开干扰用户使用的无线资源，有效避免来自蜂窝用户的干扰。本文通过仿真验证了该方案能够提高混合网络的总体性能，保证D2D的通信质量。　　 3.在D2D链路的接入控制机制方面，本文首先介绍了一种基于时隙同步ALOHA机制的D2D无线资源竞争机制。这种机制可以有效提高D2D对资源的使用效率。在此基础上，本文提出了一种D2D接入控制机制。该机制通过调整D2D控制信道的功率控制参数可以控制不同链路质量的D2D链路的接入，保证了D2D的链路通信质量。仿真结果说明该接入控制机制能够有效控制D2D链路的接入数量与质量，保证D2D链路的通信质量。