脑-机接口(brain-computer interface, BCI)是一种不依赖于正常的由外围神经和肌肉组成的输出通道的通讯系统。它在医学领域、人工智能的实现以及新型的娱乐研究等方面有重要应用,其实现涉及多个学科,触及许多前沿技术。因此BCI技术的研究具有科学与应用的双重价值,已经在国际上引起了广泛的兴趣并获得了快速的发展。其中,信号处理环节是实现BCI系统、提高系统可靠性与性能的关键,其实质是BCI信号的模式识别,主要包括三部分:信号预处理、特征提取和分类,本文着重研究后两部分,以期提高BCI系统的识别率。针对BCI发展过程中遇到的主要问题,如提高系统模式识别的精度和鲁棒性、缩短训练时间、发展异步工作模式下BCI系统的模式识别等,本文开展了如下工作:1、针对脑电信号噪声强、数据分布复杂、维数高、训练样本相对不足等特点,本文提出了两种不同的运动相关电位(movement related potentials, MRPs)特征提取算法——邻域空间模式和自适应空间模式算法。前者基于流形学习思想,利用样本向量之间的邻域关系和标签信息构造目标函数确定映射矩阵,不依赖于样本的分布;后者采用特征向量的欧式距离估计样本之间的相似关系,并基于这种关系建立目标函数,通过自适应迭代确定样本之间的邻域关系和最佳的特征投影矩阵,该算法的实施同样不需要对样本数据的分布做任何假设,还给出了高维EEG信号数据相似性的一种有效度量方法。实验证明,这两种算法均能增强MRPs特征的鲁棒性,提高分类精度;2、事件相关失同步/同步(event-related desynchronization/synchronization, ERD/ERS)和MRPs是BCI特征提取中的两大生理背景基础,它们都是在运动/运动想象前后或者过程当中产生,在某一特定的时间、某些电极位置、某一特定频段,特性表现比较明显,即对时空频信息敏感。针对这些性质,本文提出广义时空特征提取算法(general temporal- spatial extraction, GTSE),同时优化时空判别信息。ERD/ERS和MRPs的特性不同,针对它们的GTSE算法也不同。实验结果证明,GTSE算法能有效捕捉ERD/ERS和MRPs的时频特性,有效提高分类精度。3、针对BCI发展过程中缩短训练时间的要求,本文提出了两种针对BCI系统的半监督学习算法,一是基于联合特征的半监督学习算法,选择置信度高的无标样本(连同预测标签)迭代扩充训练集,并基于现有的训练集更新特征提取器和分类器,从而达到利用大量未标样本和少量的有标训练集学习模式识别系统参数的目的;二是针对MRPs特征的半监督特征提取算法,直接利用标签和未标签样本信息优化特征提取模型的参数。实验结果证明,基于少量的有标签样本,这两种半监督学习算法都能取得较为满意的分类效果。4、异步BCI系统的模式识别是近期的研究热点,其难点之一是识别实验过程中用户思维想象状态和空闲状态。由于空闲状态具有多样性,往往没有有效的空闲状态样本。本文提出了一种自适应的空闲状态检测方法。它以训练集(只有各类运动想象样本)的正确检测率和正确分类样本的类内散度为指标,根据接受者操作特性曲线的最佳临界点选择原则,构造目标函数,确定三分类器的上下阈值。为了进一步优化分类结果,该算法还采用了模糊化技术对预测标签进行处理。实验结果证明了算法的有效性。总的说来,本论文着眼于EEG作为生物医学信号固有的处理难点和BCI技术的进一步发展和实际应用推广过程中出现的新研究课题,研究更加有效、实用的BCI系统特征提取和分类方法,并用实验证明相关算法的有效性。