论文部分内容阅读
非线性判别分析是模式识别领域十分重要的分支之一,随着社会的发展进步对非线性判别分析不断提出更高的要求,因此,对非线性判别分析的研究具有十分重要的理论和实际意义。传统的非线性判别分析方法包括:神经网络和核方法。神经网络经常伴随着过度拟合现象,其拟合能力和泛化性能十分依赖网络结构和参数;核方法利用核函数将输入样本映射到高维特征空间,在特征空间对映射结果进行线性分类。然而,核函数的选取和确定对核方法的判别精度具有十分重要的影响,如何构造面向实际问题的核函数一直是核方法研究的难题之一。事实上,核方法依赖经验函数作为映射函数,缺乏一定的灵活性。针对上述问题,本文尝试构造新的非线性判别分析方法,具体研究内容有:(1)研究了BP神经网络和RBF神经网络,在深入研究当前RBF神经网络训练算法的基础上提出了Schmidt正交基变换方法,用于确定RBF输出层权值。(2)受到神经网络和核方法的启发,本文利用BP神经网络构造映射函数,将输入数据映射到低维空间,引入Fisher准则思想构造目标函数,将判别分析问题转化为最优化问题,然后利用差分进化算法(DE)进行优化求解,提出BP-Fisher判别分析法(BPFDA)。数值实验表明,BP-Fisher判别分析法具有更高的判别精度。(3)通过对BPFDA法中类间散布矩阵进行改进,提出基于改进类间散布矩阵的BP-Fisher判别分析法(NBPFDA)。数值实验表明,基于改进类间散布矩阵的BP-Fisher判别分析法在隐含层节点数目较少时,比BPFDA方法具有更高的判别精度。这为非线性判别分析提供了新思想和新方法。