传统空管系统存在飞机进近事故多发、航班准点率低等问题。为了保障空中交通的安全、有序和高效，以网络通信、信息共享为特征的通信、导航、监视和空管系统(新航行系统)越来越多应用到空中交通管理中。航空自组网不仅可以实现机间信息共享，减少机间距离间隔，提高空域利用率，而且能减轻管制员压力，符合新航行系统网络化的发展趋势。然而，飞机的高速度及其所处的复杂信道环境，使得航空自组网面临通信链路不可靠、多径干扰严重等挑战。本文从保障飞机安全进近的角度出发，针对合作通信在航空自组网中的应用，从巡航区、终端区、机场场面三个方面开展了研究工作，提出相应的分析和求解算法。本文的研究对新航行系统中的网络化通信有重要理论价值和实际意义，主要创新点如下：首先，面向飞机安全进近的需求，在现有空管系统的基础上建立了基于合作的包含巡航区、终端区和机场场面的航空自组网网络结构，并总结了该网络结构中的信道模型。其次，在巡航区，根据民航高度层配备标准，建立了单航路垂直网络模型。针对飞机的高速度导致网络拓扑剧烈变化的问题，在模型中分析了飞机的孤立概率和飞行速度、飞机密度及飞机通信半径之间的关系。同时，分析了多普勒频移对孤立概率的影响。进一步，从飞机安全进近的角度出发，设计了基于子网融合的数据传输机制，分析了合作情形下的链路连通概率。再者，在终端区，根据进近阶段综合视景系统对地空数据链可靠性的要求，采用合作通信对抗多径干扰。在莱斯信道条件下，采用概率约束对合作通信的中继选择问题进行建模，避免了传统信道信息反馈不准确的问题。采用概率逼近和鲁棒优化两种方法对问题进行转化，并在两种情况下分别设计了多项式时间复杂度算法，有效提高了进近飞机接收地空信号的可靠性。针对ADS-B获得的飞机位置并非实时连续的问题，采用鲁棒方法对由位置不连续导致的信噪比不确定性进行建模，进一步研究了进近中的概率约束中继选择问题。利用信道的期望和方差信息，设置一个可调参数来表示可靠性要求。通过航迹估计对中继飞机进行排序，设计了启发式算法，有效消除了位置信息的不连续对通信可靠性的影响。最后，在机场场面，将合作通信引入到OFDMA系统中以对抗多径干扰问题。结合ADS-B技术，研究了在概率约束条件下的中继选择和子载波分配问题。采用相对熵将问题转化为凸问题，并设计了内点割集法和迭代法结合的算法，有效提高了场面通信的可靠性。