现实世界中的各种关系构成了不同类型的网络,而互联网（Internet）是目前对人类生活产生极大影响的网络之一。互联网的基础是计算机通信网络,其广泛使用的数据传输协议是端到端传输控制协议（Transport Control Protocol,TCP）,保证数据传输队列稳定的是一类叫做主动队列管理（Active queue management,AQM）的算法,TCP/AQM系统是二者结合的产物。在控制理论框架下,对此系统进行拥塞控制算法研究是目前的热点之一,具有重要的现实价值与意义。本文在对此方向研究发展现状详细综述的基础上,利用马尔可夫跳变系统理论、极小极大理论和Backstepping设计方法,对TCP/AQM网络系统的相关问题进行了研究,主要工作如下:首先,讨论了单路由器TCP/AQM网络系统的马尔可夫建模问题。综合运用随机理论和控制理论,建立了通信网络的原理模型,讨论了此模型下的控制和决策问题。重点研究了通信网络建模和主动队列管理算法。针对不同版本的TCP协议,应用马尔可夫过程建立了统一的机制模型。研究了动态网络系统主动队列管理问题的比例积分（PI）控制方法。其次,研究了具有UDP流的TCP/AQM网络系统的拥塞控制问题。将未知UDP流看作是对系统的干扰,采用极大极小方法计算出对系统影响最大的干扰,进而针对具有严格反馈结构的非线性TCP/AQM网络模型,利用Backstepping方法设计了一种状态反馈拥塞控制器,使网络系统渐近稳定。仿真结果表明了方法的优越性和可行性。进而,研究了双路由TCP/AQM网络系统的拥塞控制问题。基于单路由窗口模型,遵循传输的优先选择、随机传输原则,构建了双路由TCP/AQM网络系统模型。利用一类状态变换,得到了下三角型非线性系统的状态空间模型。采用Backstepping设计方法,提出了一种双路由器网络系统的主动队列管理拥塞控制算法,设计了使TCP/AQM网络系统渐近稳定的状态反馈控制器。仿真结果验证了方法的可行性和有效性。最后,对本文的研究工作进行总结,并对未来的研究方向进行了展望。