量子蚁群算法是将蚁群算法与量子计算相结合的一种新型量子群智能优化算法，具有种群分散性好，并行性佳，收敛速度快，全局搜索能力强等优点。本文主要研究量子蚁群算法的特性及其改进，并将其应用于LTE系统信号检测中。全文的主要研究工作如下：第一，研究了二进制编码的量子蚁群算法以及连续量子蚁群算法的基本原理和算法流程，分析了两种量子蚁群算法的主要优势与不足。基于三个标准测试函数的仿真实验表明，量子蚁群算法较之蚁群算法具有更佳的优化性能及更快的搜索效果。第二，采用自适应相位旋转角策略，结合二进制编码的量子蚁群算法，提出了一种新型量子蚁群算法。基于五个标准测试函数的仿真实验表明，所提出的新型量子蚁群算法比已有的二进制编码的量子蚁群算法以及连续量子蚁群算法具有更高的全局收敛速率以及更好的寻优效果。第三，研究了LTE系统的几种传统信号检测技术并分析了各自的优点与不足。针对传统信号检测技术在误码率性能方面的缺陷，提出了基于量子蚁群算法的LTE系统信号检测方案。数值仿真和图像传输仿真实验结果表明，本文提出的方法在误码率性能上明显优于传统的检测算法，更接近于最大似然检测效果，同时证明了量子蚁群算法的信号检测性能优于蚁群算法。