随着无线通信技术的迅猛发展，5G通信即将步入实际应用，一些新型通信技术有效地提升了无线通信的传输速度，并且使网络结构更加灵活多样。D2D通信作为5G的关键技术之一，能够实现设备之间的直接通信，有效地减轻核心网的负担，提高信息传输速率和频带利用率，其灵活性、便捷性、高效性引起了学者们的广泛关注。由于10Gbps的高速传输速率对加解密的要求非常高，传统的加密方式需要复杂的运算，很难在短时间内完成加解密环节。然而，利用无线信道互易性的特征产生密钥的方法无需复杂的算法，其安全性依赖于信道的空间互异性和时间互易性，可以在较短的时间内更新密钥。在5G通信中阵列天线的大量使用使得信道特性更加明显，密钥提取更加便捷。目前，对于D2D通信的研究主要集中在节点发现和无线资源管理等方面，对于安全方面的研究尚少。一些标准和文献提出了安全方面的解决方法，但是主要集中在应用层。通过物理层解决安全问题有较为明显的优势，而这方面的研究较少。　　为了解决以上问题，本文分析了 D2D群通信特性与安全需求，研究了基于物理层的密钥生成方式，提出了两种基于信道相位的群密钥产生方法。所取得的研究成果主要有：　　1）对基于信道相位的群密钥生成方法和NOMA调制进行了研究，提出了基于信道相位的群密钥生成方案。在该方案中，基站采用NOMA调制，与群通信设备之间呈星形结构，利用所有群通信设备与基站之间的信道相位特征值提取出群密钥。相比于传统的加解密算法，这种利用信道特征产生密钥的方式，能有效地降低算法复杂度，减少核心网的负荷。由于信道相位服从均匀分布，可以采用均匀量化的方式，相比于对信号强度采用的量化方法，降低了量化过程的复杂度和时间消耗。此外，基于信道相位的密钥产生方式在用户设备处于相对静止的状态下也可以使用，减轻了基于物理层的密钥产生方式对环境的依赖。　　2）对利用信道特征的群密钥生成进行了研究，提出了基于信道相位差值的群密钥生成方式。在该方案中，首先选取一个群用户设备作为中心节点，群用户设备通过对中心节点和基站之间的信道相位特征进行量化、编码等步骤生成群密钥。相比于第一种方案，该方案减少了信道相位估计的次数，降低了信道估计过程中造成的误差。经过随机性测试与安全性分析，证明了该方案生成密钥的可用性。仿真分析表明，该方案相比前一方案，该方案在信噪比大于4dB时，密钥生成速率更高，密钥不一致率更低。