TCP(Transmisson Control Protocol)协议是目前网络通信中广泛采用的传输层控制协议,它为用户提供了可靠、健壮的端到端数据通信服务,在保障网络通信质量方面起着非常重要的作用。TCP协议最初是在有线网络中提出的,而无线网络的误比特率高、高时延、带宽有限、移动性等特点使得TCP协议性能严重下降。跨层联合优化(Cross-layer Optimization)作为未来通信发展的一项关键技术,打破了传统OSI模型(Open System Interconnection)中严格的分层结构,让各子层相互共享关联信息,以全局的方式优化系统性能,实现网络资源的最优分配。可见,在无线网络中,基于跨层联合优化的思想,将上层用户QoS(Quality of Service)要求和下层网络状态信息反馈给传输层,传输层协议根据网络动态情况调整控制机制,对有效改善无线宽带网络性能具有重要的意义。因此,本论文以信息论和优化理论为基础,基于跨层联合优化思想,从理论分析和实际应用两方面对无线网络中TCP协议进行了深入研究,提出无线网络中保证QoS的跨层联合优化理论框架,并针对速率控制、拥塞控制、DCF机制等关键技术提出了TCP协议的跨层优化方案,为下一代无线通信网络的跨层协议设计提供一定的理论依据和技术基础。论文的主要工作和创新点如下：第一,基于网络效用最大化理论(Netowrk Utility Maximization—NUM),对跨层优化问题进行数学建模,提出了一种保证应用端到端的QoS服务质量的跨层联合优化设计理论框架。该框架是对跨层优化涉及到的应用层、传输层、网络层、链路层和物理层进行了简单而合理的数学建模,然后将上述复杂的通信问题转化为一个效用函数最大化问题,并利用凸优化理论求解全局最优解,即把多层间联合最优问题转换为数学优化问题。然后利用拉格朗日对偶法将全局优化问题分解为多个子问题,例如纠错编码、功率分配、端到端时延控制问题等,这子问题可在各子层分布式地解决,从而得到全局最优。此框架是跨层优化的方法论,用于分析不同网络(例如Ad hoc网,Mesh网等)在不同的约束条件下的性能最优(例如吞吐量最大化、网络存活时间最大化、容量最大化等),具有一定的理论意义。第二,根据本文提出的跨层联合优化理论框架,在多跳无线网络环境中,提出了一种保证多媒体应用QoS要求的TCP端到端最佳速率控制方案。此方案是以保证用户时延要求为目标,基于传输层拥塞状态,将物理层功率控制和MAC层接入竞争联合考虑的端到端速率控制算法,最大限度地提高网络的整体吞吐量。此算法是完全分布式的,具有良好的可扩展性。在研究方法上,采用了前面提出的跨层优化理论框架进行数学建模,利用凸优化理论工具对规划出的优化问题进行理论分析,得到最优的TCP速率控制方案。第三,基于带宽测量技术,提出了一种无线环境下跨层TCP拥塞控制机制—TCP_ABE(TCP with Adaptive Bandwidth Estimation)。在TCP_ABE中,通过探测TCP确认信号ACK返回速率和往返时间RTT,结合链路拥塞和物理层突发错误分布,计算带宽样本,估计无线链路动态可用带宽。这种估计方法对于丢包类型(拥塞丢包或误码丢包)具有鲁棒性。基于上述可用带宽估计算法,实时探测链路可用带宽和信道状态,若是拥塞丢包严重时,则动态调整慢启动阀值(Ssthresh)、发送速率等参数,保证资源的有效利用,提高系统性能；若短期内误码丢包变得较为严重时,降低数据的发送速率,减少误码丢包的数量,从而有效的提高系统可靠性,减少了系统不必要的能源消耗,保证用户的QoS。仿真结果证明,TCP_ABE算法使系统的可靠性、吞吐量、时延方面的性能均有较大提升。最后,IEEE 802.11协议在解决MAC层接入碰撞问题时,没有考虑接入时延以及碰撞丢包对上层协议性能的影响。在高负载情况下,多个节点激烈竞争信道,频繁碰撞导致接入时间过长或者MAC帧的丢弃,易造成TCP拥塞控制的误启动,使得TCP的拥塞窗口急剧振荡引起系统吞吐量下降或不稳定。本文最后针对以上问题,从跨层优化的角度,分析了物理信道状态、链路层接入方式对TCP拥塞控制的影响,基于物理层衰落统计特性和误码率,对IEEE802.11 DCF的跨层设计进行理论建模,推导出一种物理层信道状态参数与链路层包长和吞吐量之间的通用关系式。基于以上数学模型,提出了一种基于跨层联合优化的IEEE 802.11 DCF的自适应退避算法--ACWB(Adaptive Contention Window Backoff),此方案可以根据物理信道的状态信息,自适应的调节包长和竞争窗口的大小,以获得最大的饱和吞吐量。本文分析了物理信道状态、DCF机制对TCP性能的影响,并通过理论分析和仿真证明,ACWB大大降低了冲突的发生,提高了吞吐量、减少了时延。