随着物理层安全研究的兴起,利用无线网络节点间的协作通信逐渐成为提高无线传输物理层安全性能的重要技术。而博弈论,尤其是联盟博弈,为解决这一问题提供了一个非常正式的结构化分析工具。本文从联盟形成博弈的角度分析了含有窃听信道的多节点协作网络中面临的两个问题。首先,本文利用联盟博弈的相关知识对含有窃听信道的多用户协作中继通信系统进行了研究。将系统中既可以作为源节点发送信息又可以作为协作干扰节点发送干扰信号的用户节点间的合作问题,转化为一个不可转移效用的联盟形成博弈问题,并且提出了相应的分布式联盟形成算法。仿真结果给出了某一案例对应的稳定联盟结构,同时通过与非合作情况下安全容量的对比验证了上述算法的有效性。仿真也验证了该算法在网络结构发生变化时的自适应性。随后,本文将上述不可转移效用的联盟形成博弈结论及算法应用到了多用户之间通过波束成形方法解决物理层安全的研究上,仿真结果证明了上述应用的合理性和有效性。其次,本文对包含一个发送节点、一个目的节点、一个窃听节点和若干中间节点的中继选择通信系统模型进行了分析。为获得更大的安全容量,源节点希望从中间节点中选出若干节点来协助转发信息。由于所有中间节点都有可能被选中从而获得源节点支付的回报,因此它们彼此之间存在潜在的合作与竞争关系。本文利用联盟博弈的相关知识将该中继选择问题看成一个可转移效用的联盟形成博弈问题,通过重新定义比较规则,提出了分布式联盟形成中继选择算法。仿真结果表明,该分布式算法得到的结果明显优于集中式选择得到的结果。