设备到设备(Device-to-Device,D2D)通信在基站的控制下允许用户间进行端到端的短距离通信。由于两个用户间进行直接通信,终端用户传输的数据不需要经过基站,D2D通信可以有效节约频谱资源、减少通信延迟、提高通信系统容量、减轻基站会话控制与数据传输负担,在下一代移动通信网络和无线系统中起着至关重要的作用。此外,D2D的通信模式在电子票据的离线承载、电子医疗的线下诊断、电子商务的面对面交易等方面也有着巨大的应用价值。然而,无线信道的开放性和安全基础设施的缺乏使得D2D遭受着隐私安全威胁。用户身份认证与通信密钥协商是D2D设备间建立安全通信信道的基础,但现有研究中主要关注D2D通信中的攻击检测或隐私保护,忽略了数据本身的安全性。鉴于此,本文为解决D2D通信数据传输过程中存在的窃听和篡改数据等安全问题,结合D2D通信系统的特点,以加密技术为基础,提出了高效的数据传输方案,研究内容如下:(1)提出了一种用于蜂窝网络中D2D通信的身份认证与密钥协商协议。本文首先分析了蜂窝网络D2D通信的特点、总结了密钥协商与身份认证过程的安全需求、提出了适用于D2D通信的攻击者模型,然后基于Diffie-Hellman(DH)密钥交换,设计了一种无需基站全程参与的身份认证与密钥协商协议,并结合hash函数的单向性、抗碰撞性等特点,设计了一种密钥验证机制。该机制使基站在不知晓D2D通信双方会话密钥的情况下能够验证密钥的正确性及合法性。安全分析表明协议可以有效抵抗中间人攻击和重放攻击。(2)提出了一种基于D2D的电子凭据安全流转方法。本文首先分析了电子凭据系统的特点与需求,然后基于DH密钥交换和数字证书书体制,设计了一种无需服务器参与凭据数据传输的基于D2D的电子凭据安全流转方法,基于证书体系的电子签名保证了数据的完整性、用户的认证性。性能分析表明本方法能减轻服务器处理请求的压力、节省服务器通信资源且具有较低的计算和通信开销。(3)使用基于BAN逻辑的形式化分析方法和Scyther形式化分析工具对上述身份认证与密钥协商协议和电子凭据安全流转方法的安全性进行了证明,并通过使用NS3仿真测试框架的方式对本文所提D2D通信的身份认证与密钥协商协议的使用性能进行了测试。仿真结果表明,本文方案可以有效减少D2D通信在身份认证和密钥协商阶段的计算开销,能够在蜂窝网络系统中得以应用。