无线自组织(Ad hoc)网络是一种无需基础设施且具有自组织能力的分布式临时自治网络系统。无线Ad hoc网络的易部署、终端可移动、灵活便捷以及可扩展等特性使之具有广阔的应用前景,同时也成为其它新兴无线网络的基础,因而得到了广泛的研究与快速地发展。TCP协议(Transmission Control Protocol)作为网络架构中传输层协议的主导角色被广泛应用于无线Ad hoc网络。然而,无线Ad hoc网络的链路竞争、节点移动性、无线信号冲突与干扰、信道不稳定等一系列有别于传统有线网络的问题严重影响TCP的传输性能以及整个网络的性能。尽管大量已有的相关研究工作通过添加协议补丁、修改完善协议算法等方式,针对性地解决或缓解了许多TCP协议特别是TCP拥塞控制机制应用于该网络时所产生的问题,但是,TCP依然面临着无线Ad hoc网络中各种问题的挑战,这些问题需要更深入地发掘与研究以提高TCP性能。本文研究主要分为如下两个方面：第一,TCP连接瓶颈通常作为TCP拥塞控制的依据。然而,在基于IEEE802.11的无线Ad hoc网络中,我们发现即使在节点静止的情况下,也会有频繁的路由失败／变化,它们会使得TCP连接瓶颈不断变化进而影响拥塞控制的准确性。在本文中,我们首先对路由失败／变化问题进行深入研究,包括问题的实验验证,问题的主要导致因素分析以及问题对TCP性能的影响分析。其次,为了解决这一问题,取代传统的限制路由变化的方法,我们充分利用按需路由协议在路由可变方面的动态特性,并基于此为TCP流提出一个新的虚拟路径(VRP, Virtual Routing Path)的概念,虚拟路径是在路由多变情况下对TCP连接的每条可能路径的瓶颈质量的综合权衡考虑,我们给出简单有效的方法来评测虚拟路径的质量从而获得准确的TCP连接瓶颈。基于评测结果,我们设计一个新的TCP拥塞控制机制称作VRP-TCP来调整TCP发送状态。第二,TCP连接容量通常以带宽时延积(BDP, Bandwidth-Delay Product)的形式来研究以提高TCP性能。然而,在无线Ad hoc网络中,所发现的往返时延(RTT, Round Trip Time)剧烈抖动的问题会严重影响BDP的准确性,同时会影响TCP拥塞控制导致其对拥塞窗口的不合适调节以及重传超时定时器(RTO,Retransmission TimeOut)的不准确计算,因而严重降低了TCP性能。在本文中,我们重新诠释TCP连接容量的含义并将其定义为虚拟连接容量,基于此来分析RTT抖动具体如何影响TCP的性能。为了计算准确的期望RTT,我们根据每个RTT样本在能否准确反映连接状况譬如信道利用率、包丢弃概率方面的有效性为每个RTT样本分配相应的权重。通过对RTT抖动的评测,我们提出一种拥塞控制策略称作TCP-SMOOTH以有效缓和RTT抖动对拥塞窗口调节和RTO计算的影响。