本文主要研究数字接收机的非线性盲辨识技术。按照控制科学中的系统辨识思想,利用“黑盒”模型的思路对数字接收机的非线性进行辨识,即不考虑接收机中各模块的具体电路结构及其非线性特性,而是将整个接收机视为一个非线性系统,从而对非线性加以盲辨识与补偿。在基于二阶统计量(Second-Order-Statistic,SOS)的算法框架下,比较了Volterra及Hammerstein模型对数字接收机进行非线性辨识的性能；利用高阶统计量(Higher-Order-Statistic,HOS)作为辨识工具,分别针对Hammerstein模型的记忆效应及非线性效应实现“盲”辨识。归纳起来,本文的主要内容包括以下几个方面：1、对典型的非线性函数模型进行了详细地分析与总结,包括无记忆非线性模型和记忆非线性模型,如幂级数模型、多种正交多项式模型、Volterra模型和模块化模型等。分析对比了这些模型的特性,如计算复杂度、相互关系、正交性等；总结了以上模型的求逆方法,并指出了利用这些求逆方法进行非线性补偿时所面临的问题；推导了非线性辨识与补偿算法对于采样率的要求,理论及仿真结果表明：尽管系统的非线性特性会导致输出信号的频谱扩展,但是利用输入信号的奈奎斯特采样频率对输出信号实现采样的结果并不影响非线性辨识与补偿。此外本文还结合正交多项式的性质,阐明了利用正交多项式模型实现非线性多址接入技术的潜在应用价值。2、在一种“基于带外功率最小”的盲辨识算法框架下,分析对比了Volterra模型和Hammerstein模型对数字接收机的辨识性能；该算法的思路是：利用关心频带以外的信号功率表征系统的非线性,并以带外功率最小作为准则对非线性模型进行参数提取,同时改善关心频带内的非线性失真情况；针对有记忆和无记忆非线性模型及其逆模型的特点,分析了“带外功率最小”准则的性能；分别采用实际平台测试及计算机仿真的方法对Volterra模型和Hammerstein模型的辨识性能进行了比较。仿真及利用实际数据计算的结果表明,对数字接收机进行非线性辨识时,Hammerstein模型不仅具有结构简单的优势,而且比Volterra模型具有更佳的辨识与补偿效果。3、研究了基于高阶统计量的非线性辨识方法,通过计算机仿真对比了两类典型解析与迭代算法的优劣,并且指出传统的基于高阶统计量的辨识方法只能针对已知记忆深度和非线性阶数的模型参数提取。为此,针对未知记忆深度及非线性阶数的Hammerstein模型,进一步提出了一种基于高阶累积量的记忆效应盲辨识方法,此方法可以确定Hammerstein模型的未知记忆深度,并提取线性记忆模块的系数。首先从理论上证明了Hammerstein模型的记忆深度等于模型输出信号高阶累积量组成的扩展矩阵的秩；提出了非线性对角线乘积方法(Nonlinear Product of Diagonal Entry,简称NPODE)以确定记忆深度,并分别比较了此方法和GM直接定阶法和拐点法的鲁棒性。最后结合提出的记忆深度估计算法,给出了线性记忆模块系数的直接提取方法。理论推导与仿真结果表明,线性记忆模块系数的提取过程不受无记忆非线性效应的影响。为了进一步增强记忆参数提取算法的精度与鲁棒性,本文还提出了改进的系数提取方法,即利用模型输出信号的高阶累积量建立两个线性方程组,在求解两个线性方程组得到的参数中选择最优的记忆模块系数。改进的系数提取方法同样不受Hammerstein模型的无记忆非线性效应影响。最后的仿真结果表明,在高斯(有色或无色)噪声存在情况下,此类辨识方法比直接提取参数法具有更高的精度。4、研究了信号的归一化峰度及其在弱非线性系统辨识中的应用策略问题。给出了信号的归一化峰度定义及重要性质；在此基础上,分别针对非线性系统的记忆效应和非线性阶数对系统输出信号归一化峰度的影响进行了理论推导和仿真分析,揭示了该参数随系统特性的变化规律,表明归一化峰度具备精确辨识弱非线性系统的潜力。利用归一化峰度作为准则,提出了针对中等强度的非线性系统辨识与补偿的方法,并与P阶逆方法的辨识效果进行了对比；最后,针对SFDR(无杂散动态范围)高达80dBFS(dB Full Scale)的记忆弱非线性系统,提出了一种分步辨识的方法,并结合基于高阶累积量的方法对极弱非线性强度的Hammerstein模型进行了整体辨识。