用户对无线通信业务需求的增加导致了频谱资源的日趋紧张，而固定的频谱分配模式使得频谱资源利用率低下。认知无线电作为一种智能的频谱共享技术，革新了传统的频谱管理体制，是解决上述问题的有效途径之一。认知引擎作为认知无线电的核心，能够根据通信环境的变化和用户需求，利用人工智能动态配置工作参数。本文针对认知引擎及其决策优化策略开展研究，主要内容包括：1）从认知循环角度描述认知引擎概念，通过比较和分析现有的引擎架构的特点，提出一种新的认知引擎模型并阐述其工作流程，以此为基础，设计认知引擎主要功能模块。2）研究认知引擎的输入模块——环境感知模块：针对传统的能量检测法判决门限难以确定以及循环平稳检测法计算复杂度高等缺点，设计一种自适应双门限检测算法，在双门限之外实施能量检测保证实时性，在双门限之内实施循环平稳检测保证精度，依据信道状态自适应调整双门限值。对该算法的检测性能进行仿真分析。3）研究认知引擎的学习推理和优化决策模块：认知决策就是在一个巨大的解空间中寻优，人工智能是解决多目标寻优的有效方法。针对多子载波系统，设计两种基于机器学习的认知决策模块，实现工作参数配置的优化。认知决策模块一基于自适应免疫遗传算法，在免疫遗传算法中引入自适应遗传算子，保证种群的多样性，克服遗传算法后期爬山能力弱的缺点，分别从搜索效率、收敛精度和优化性能等方面进行仿真测试，验证模块性能；认知决策模块二基于二进制蚁群退火算法，在二进制蚁群算法中引入模拟退火算法，融合蚁群算法快速寻优和退火算法概率突跳的特性，避免蚁群算法容易陷入局部最优解的缺陷，分别从全局搜索能力和平均适应度等方面进行仿真测试，验证模块性能。