优化问题广泛存在于各种学科领域,解决好优化问题可以对国民经济发展起到重大的推动作用。目前解决优化问题的算法有很多类,可以根据不同的优化机制将其划分,比如经典优化算法,人工智能优化算法,混合算法等。然而实际工程问题具有复杂性、约束性、非线性、多局部极值和建模困难等特点,寻找适合于工程实践需求的新型优化方法,一直是优化计算领域中的一个重要研究方向。在解决这些问题的所有算法中,每种算法都各有长短,但没有哪一种算法是万能的。本文通过对这些优化理论和算法的分析研究,将各种算法和理论进行有效地融合,通过解决实际的工程应用问题,探索众多优化算法在解决各种不同优化问题上的特点。在国民经济快速发展的大背景下,该研究具有重要的工程应用价值。本文针对人工智能、凸优化和博弈理论的内部机理、算法创新及其在通信信号处理中的应用进行了研究。在选题上,从遗传算法,粒子群算法和人工鱼群算法入手,在这些研究基础上,将博弈理论和其他方法融入其中作为切入点；在理论上,给出了关于各类算法的原理、结构和实现方法的系统阐述；在应用上,将改进的算法应用到了通信信号处理领域中不同的优化问题；在算法创新上,将博弈理论中的纳什均衡概念、最大最小策略和非劣排序算法引入到智能算法中,高效的解决了多目标优化问题；在实验仿真结果上,注重算法间的性能比较分析,结果显示提出的新算法获得了较好的全局搜索能力和收敛速度。本文以算法应用为主线,从算法分析、仿真验证和工程应用相结合的角度出发,着重介绍了算法理论和算法改进创新,以及在通信信号处理领域应用方面的研究工作。本文内容上章节之间相互联系,具有较好的连贯性,最后总结了改进的算法性能和应用特点,给出了优化算法未来的研究趋势。