医学显微图像自动识别与分析一直是生物医学工程领域的研究热点。论文围绕鼻咽癌显微细胞图像中有形成分提取过程和基于协同模式分类识别方法的关键技术展开研究,在细胞图像的有形成分提取方面主要研究了细胞图像的滤波、分割技术、细胞边缘的提取技术、重叠细胞的分割及重叠区域的修复技术;在鼻咽癌细胞的协同模式分类识别方法方面重点研究了协同模式识别的学习方法、协同神经网络的优化方法和协同模式识别的不变性等关键技术,并将协同模式识别应用到了鼻咽癌细胞的智能分类识别上,并对各种算法都进行了实验和分析。在鼻咽癌细胞的有形成分提取方面,首先分析了细胞图像的主要降质因素及噪声模型,采用了基于梯度与各向异性扩散方程的自适应去噪方法,在选择性过滤图像背景噪声和脉冲噪声的同时,保留了图像中目标边缘细节信息。针对于细胞图像分割,提出了一种基于粒子群优化模糊C均值与Markov随机场的耦合聚类分割算法,以分割细胞和组织,利用模糊C均值算法局部搜索的特点,将粒子群优化聚类结果作为后续FCM算法的初始值,同时采用Markov随机场与模糊聚类的耦合策略计算适应度函数,在考虑灰度信息的同时,利用像素的空间信息对分割的影响以提高分割的效果。在细胞边缘提取方面,改进了多尺度形态边缘检测算法,用不同尺度的结构元素分别检测出图像的不同尺寸的边缘信息,然后采用证据加权的融合方法对不同尺寸的边缘图像进行融合,通过细胞的边缘信息获取单个细胞。针对显微病理图像中常有的细胞重叠现象,提出了一种组合细胞散点图和改进Snake模型的重叠细胞分割方法及重叠区域的修复方法;在获取边界重叠掩膜图像的基础上,针对因重叠导致重叠区域图像信息变化的情况,采用了一种自适应迭代卷积的快速图像修复方法。协同模式识别学习算法是协同模式分类识别主要研究的内容,本文从四个角度出发对协同模式识别的学习方法进行了改进,首先改进了协同原型模式的修正方法,利用粒子群的全局优化能力控制修正力度,以减少样本“过修正”现象,获取最优协同原型模式。接着,从原型模式和伴随模式同时学习的角度出发,提出了一种基于记忆梯度法的协同模式学习算法,利用协同势能函数的进化过程,将记忆梯度法引入到协同进化的动力学过程,将求解原型模式和伴随模式归结为求解非线性最优化问题,以同时获得最优原型模式和伴随模式。然后,从降低实验模式的相关性以提高协同模式识别性能的角度出发,提出了一种基于非下抽样Contourlet变换的稀疏协同模式学习方法,将Contourlet变换和协同模式识别进行结合,采用非下抽样Contourlet变换获得训练样本的低频和高颇变换系数,并根据其特点通过融合以获得模式的最优稀疏表示,消除样本冗余信息的影响,以生成最优原型模式。最后,将传统的细胞特征参数提取和协同模式分类方法相结合,提出了一种基于粗糙集约简特征维数的鼻咽癌细胞协同原型模式选择方法,在已有的细胞特征参数基础上,通过粗糙集区分矩阵约简的方法生成不同维数的约简集,然后通过协同分类方法检验生成的约简集,根据识别结果,从不同约简集中选择最适合鼻咽癌细胞协同分类的约简集以生成协同原型模式。在协同神经网络的优化方面,从序参量变换的角度,提出了一种正交逼近的协同神经重构网络模型,针对这种模型,采用了一种协同序参量的正交逼近的变换方法,利用正交多项式函数的逼近能力,将其应用到协同神经网络中以获取序参量变换参数,并在训练过程中引入快速的权值确定法以提高重构速度,加入序参量变换层以提高协同神经网路的自学习能力。从协同神经网络参数优化的角度,提出了一种基于差分进化的协同神经网络约简参数优化方法,对约简的参数模型利用差分进化的方法搜索最优协同进化参数,同时采用了均方适应度方差的机制自适应调整搜索速度和搜索精度,克服差分进化算法参数调整困难的不足,以提高差分算法的寻优能力,从而提高整个协同神经网络的性能。在协同模式识别不变性方面,采用了一种新的基于共轭梯度优化仿射参数估计的协同不变性算法,将协同神经网络中的匹配问题转化为函数优化问题,通过势能函数的进化,采用试验模式和仿射参数交替迭代的优化策略估计最优参数,通过协同神经网络中测试模式和原型模式同化等效的推论,然后由序参量进化方程得到正确的识别模式。