在过去的数年中,非线性优化框架已经被成功的应用到了通信系统中的一个较宽广的领域,从高速因特网,到无线Ad hoc网络,从均衡技术和编码到宽带接入,从信息论到网络拓扑建模。本论文尝试对通信网络中的非线性优化问题的关键技术,以及非线性优化在通信网络中的应用进行探讨。首先,考虑非线性优化方法应用在通信网络的资源分配问题中。特别的,本论文考虑一个OFDMA网络场景的等功率分配下的子载波分配问题。提出了一种与控制论有相似性的自适应算法。首先通过定义效用函数的方法,将子载波分配问题抽象为一个非线性目标函数优化问题。然后通过控制和调整实时业务和非实时业务在子载波分配中的权重,通信网络集中控制器可以自适应调节实时业务和非实时业务的公平性。这种类似于控制论中的负反馈控制的方法可以认为是本部分的亮点和创新。通信网络中的非线性优化问题的一个显著难点就是求解复杂度高,特别是当目标问题是非凸问题时。基于这个原因,目前学术界提出了基于“网络效用函数最大化”(NUM)理论的多种非线性优化问题的分解方法。“网络效用函数最大化”理论的核心就是把通信网络本身看作一个非线性优化器;网络中的节点可以分布式地协同参与完成网络的优化过程。当目标问题非凸时,亦可以采用求解目标问题的对偶问题(是凸问题)从而避免直接处理目标问题,使问题得到解决。近几年研究得非常多的即是如何将一个NUM问题进行分解,从而便于网络中的节点进行处理。这部分本论文将总结近些年学术界提出的多种分解方法,并通过数值仿真比较它们的性能。接着,本文考虑非线性优化问题中的一个关键问题,即通用效用函数定义方法。通用效用函数定义是通信网络中非线性优化问题的一个新出现的研究点。它着眼于探讨是否存在一种通用的效用函数定义方法,可以在保证非线性优化问题的目标函数凸性的前提下,保证完整、客观地刻画数据业务特性,例如延时、吞吐量、丢包率等。在这部分,基于作者发表在ICC会议的一篇论文,对OFDMA系统下的通用效用函数定义给出一系列设计准则。这系列准则可以为后来的研究人员更好地研究OFDMA系统下的资源分配问题提供帮助。非线性优化是求解网络优化问题的通用方法,既可以应用在集中式网络中,也可以应用在分布式网络中。例如,无线传感器网络(WSN)中的分布式数据融合问题就可以建模为一个典型的非线性优化问题。数据融合(Data Fusion)是个信号处理领域的术语,已经研究了数十年。近几年,由于WSN的广泛使用,如何高效率利用WSN的分布式特性进行有效的数据融合引起了学者们的兴趣。因此多种基于非线性优化的分布式数据融合算法被提出,其中不乏使用凸优化理论辅助以其他算法(例如增量子梯度算法、投影子梯度算法)提出的高效算法。在这一部分,本论文介绍作者提出的一种分布式螺旋优化算法,并证明其更加高效的性能。最后,给出全文的总结,并对本领域未来的发展方向做一展望。