随着无线通信业务的飞速发展，无线频谱资源稀缺的问题变得十分严重。认知无线电的提出为解决频谱资源紧缺的问题提供了一种有效的途径。用认知无线电中动态的频谱分配方式替代传统静态的频谱分配方式，能够有效的提高频谱的利用效率。因此，怎样实现认知无线电系统对空闲频谱资源的有效利用具有十分重要的研究意义。在认知无线电的频谱分配领域，基于图论模型的基本遗传算法已经得到应用，并取得了一定的效果。但基本遗传算法存在收敛速度慢、易早熟、收敛精度不高的缺点，所以本文基于认知无线电的图论频谱分配模型，提出一种改进的遗传算法，即自适应小生境混合遗传算法。首先，简单的阐述认知无线电的定义，较为详细的介绍认知无线电的关键技术以及应用。对认知无线电中的频谱分配原则、频谱分配技术以及频谱分配模型进行深入研究。然后，对图论模型进行数学化描述，并进一步研究基于图论模型的颜色敏感图论算法和遗传算法。最后，在基本遗传算法基础上，提出一种混合遗传算法的基本框架，针对认知无线电中频谱分配问题，引入自适应技术、小生境技术以及模拟退火的思想，提出一种自适应小生境混合遗传算法。建立仿真实验环境，对所提算法进行仿真实验，验证了本文所提算法应用于频谱分配领域时，不易陷入早熟，且具有更快的收敛速度和更好的寻优性能。