数字通信系统中，由多径传输和衰落而产生的码间干扰导致接收到的信号严重失真，为提高通信质量，需要对接收信号进行均衡以有效地减少或消除码间干扰。传统的自适应均衡技术需要周期性发送接收端已知的训练序列来跟踪信道变化，这样做虽然提高了数据可靠性，但降低了通信效率，浪费了通信容量；盲均衡技术不需要使用训练序列，它提高了带宽利用率，并使发射机和接收机的协同性要求降低，目前已成为通信领域的研究热点之一。本文系统地研究了无线通信环境中的盲均衡技术，提出了几种新的盲均衡算法，理论分析和实验结果都证明了新算法的有效性。本文主要工作和研究成果如下：(1)首先介绍了无线信道的特性和信道模型，然后阐述了盲均衡的基本理论，包括盲均衡的概念、理想均衡条件、均衡准则以及均衡性能的几个衡量指标。(2)概括总结了几种经典的Bussgang类盲均衡算法，讨论了分数间隔均衡器并结合经典盲均衡算法证明了其优越的均衡性能；进而从误差函数的角度，提出了基于星座图匹配误差(CME)的MCMA算法(CME-MCMA)、基于判决引导(DD)的双模式MCMA算法(DD-MCMA)和基于Stop-and-Go的MCMA算法(SAG-MCMA)；然后针对固定步长常模算法的不足，给出了一种新的变步长准则，在此基础上，提出了基于变步长的MCMA算法(VSS-MCMA)；并在此基础上进一步提出了DD-CME-MCMA、ME-VSS-MCMA、DD-VSS-MCMA和CME-DD-VSS-MCMA等混合型盲均衡算法，此外还介绍了以近乎超指数速率收敛的超指数迭代算法。理论分析和仿真结果均表明：以上提出的几种盲均衡算法均能够有效地降低剩余码间干扰，提高收敛速度。(3)研究和分析了支持向量分类和回归机在无线通信信道盲均衡算法中的应用；进而根据支持向量机(SVM)收敛速度快但计算量随着数据长度的增加而急剧增大和传统盲均衡算法计算复杂度低但收敛速度慢且对权向量初始化敏感的特性，本文将支持向量机(SVM)与方形轮廓线算法(SCA)有机结合，提出了基于支持向量机初始化的SCA盲均衡算法(SVM-SCA)。仿真结果表明本文提出的SVM-SCA算法非常适用于快速衰落信道的突发数据信号；使用支持向量机初始化的传统盲均衡算法的均衡性能得到显著改善。(4)研究分析了盲均衡算法代价函数的几何结构对盲均衡算法性能的影响。由于常数模算法代价函数非凸的拓扑结构，存在局部极小值和鞍点，因此造成了算法收敛速度慢甚至发散。只有使用具有全局极小值、无鞍点的凸代价函数可以得到良好的收敛性能。本文探讨了使用子梯度投影方法的盲均衡算法，该方法将均衡器输出的凸无穷范数作为代价函数。仿真结果表明子梯度盲均衡算法对均衡器抽头系数的初始化不敏感，所需的数据长度远小于其它算法，并且通过选取合适的步长可以得到快速的收敛速度，因此有很理想的均衡性能。