近些年来,无线通信技术发展迅猛,人们对无线电频谱的需求与日俱增,频谱资源短缺的问题日益显著。认知无线电因其强大的认知与重构能力,成为解决由于授权频谱的低利用率而导致的频谱资源稀缺问题的有效手段。动态网络拓扑是认知无线电自组织网络组网技术的关键组成部分,在频谱动态变化的环境下,快速且健壮的组网成为一大难点。首先,本文针对认知无线电与认知自组网的主要特性、关键技术与面临的挑战进行了调研,分析了复杂网络理论的拓扑特征与模型在认知自组网研究中的应用潜力和重要意义。在此基础上,本文提出了一种基于链路预测的能效优化认知自组网算法。该算法通过引入对授权用户的干扰以及认知用户的移动性,提出了一种动态链路可靠性的度量,结合节点的能效优化策略,提出了相应的认知自组网路径优化方法,该方法可通过优化选择保留动态网络拓扑中的更可靠链路,从而提高认知自组网的鲁棒性。借鉴复杂网络理论中网络特征对网络拓扑稳健性的分析方法,本文仿真研究了该算法下的网络拓扑稳健性,仿真表明算法可有效降低重路由的次数,减小系统能耗,从而延长网络的寿命。基于上述组网算法,本文继续以网络抗毁性为优化目标,提出了一种最小网络开销的抗毁性优化算法。该算法基于多树结构,通过最小化组网能量开销的方式,满足了二度连通的抗毁性约束。基于系统仿真,与经典的整数线性规划(Integer Linear Programming,ILP)模型算法相比,本文所提算法在保证网络稳健性要求下的网络开销方面性能有显著的提高。