近年来,随着脑神经科学、电生理学、计算机科学、信号处理技术和生物医学工程等领域的飞速发展以及医疗康复领域的需要,脑-机接口(Brain-Computer Interface, BCI)技术正迅速成为全球科学家的研究热点之一。BCI是在大脑和计算机或其他外部设备之间建立不依赖于常规大脑信息输出通路(外周神经和肌肉组织)的全新通信和控制技术。借此,人们可以直接通过大脑的思维活动来表达想法或操纵设备,而不需要任何言语或动作。这使得严重残疾患者与外界环境的交互通信成为了可能,将有效地帮助提高他们的生活质量,同时也为健康用户提供了一种不同于传统通信形式(如,听觉,视觉和触觉形式等)的全新通信交流方式。BCI的实现可以通过多种不同的脑信号形式来完成,如,非植入式的脑电图(Electroencephalogram, EEG),脑磁图(Magnetoencephalogram, MEG),功能磁共振成像(Functional Magnetic Resonance Imaging, fMRI),近红外光谱(Near-Infrared Spectroscopy, NIRS)和植入式的脑皮层电图(Electrocorticogram, ECoG)。由于EEG技术最为安全实用,且成本相对较低,因此其在BCI的研究中被应用最为广泛。本文采用这种非植入式EEG技术,主要对基于视觉诱发电位的BCI分析算法优化和实时控制系统构建问题进行了研究。研究工作所取得的主要成果如下：(1)针对稳态视觉诱发电位(Steady-State Visual Evoked Potential, SSVEP)的识别过程中的相关性参考信号优化问题,将多维信号分析的思想引入典型相关分析,提出了一种多维典型相关分析(Multiway Canonical Correlation Analysis, MCCA)。 MCCA通过对三阶张量EEG数据(导联×时间×试验)与二维正余弦信号之间的多维相关性分析寻找最优的相关性参考信号。优化得到的刺激频率参考信号不仅准确反应了EEG信号中的SSVEP频率成分,同时包含了被试间差异性和试验间共性等信息。利用SSVEP诱发实验中记录的EEG数据,证实了所提出的MCCA算法有效地提高了在较短时间窗内的SSVEP识别精度。(2)提出了一种基于最小绝对收缩和选择算子(Least Absolute Shrinkage and Selection Operator, LASSO)回归的稀疏表征识别模型,并将其应用于解决SSVEP的识别问题。该算法通过执行EEG信号与所有刺激频率参考信号之间LASSO回归,从而形成一个稀疏表征问题,稀疏的回归权值向量反映了EEG信号中最主导的频率成分,即当前的目标刺激频率。这种稀疏表征算法有效地增强了SSVEP识别的鲁棒性,缩短了识别所需的时间,从而提高了基于SSVEP的BCI系统实时性。(3)从不同分析角度出发提出了三种事件相关电位(Event-Related Potential,ERP)空间特征优化算法：基于FastICA的P300快速提取算法,用于在少次试验下通过多导联去噪以准确地提取P300模式；基于离散粒子群优化的P300分类最优导联选择算法,通过群智能优化搜索产生最高分类性能的EEG导联组合,用以确定各被试的P300分类最优导联；基于Fisher准则的正则化共空间模式算法,通过多导联空间优化提取单次试验下具有高可判别性的模式特征,以提高ERP分类精度。利用Hoffmann’s P300数据集和实验所采集的人脸感知ERP数据集,证实了所提出的上述三种ERP空间特征优化算法的有效性。(4)理论上导联数量越多时所能提供的ERP特征信息就越丰富,从而可能得到更好的ERP分类效果。然而,多导联多采样点的串联会导致特征向量维数过高而出现所谓的维数灾现象,这将严重影响所学习分类器的泛化能力,从而导致较差的分类效果。针对该问题,将广泛应用于压缩传感领域的稀疏(Sparsity)正则化技术成功引入线性判别分析,提出了一种基于l1-范数(稀疏)正则化的线性判别分析算法(Sparse Linear Discriminant Analysis, SPLDA),并用于解决小样本高维特征下的ERP分类问题。通过大量的实验数据集证实了SPLDA算法对ERP准确分类的有效性。(5)针对ERP分类问题中使用传统向量化高维特征时所带来的维数灾问题,将一般线性判别分析扩展至多维判别分析,提出了一种空间-时间判别分析算法(Spatial-Temporal Discriminant Analysis, STDA)。STDA算法通过对EEG的空间维和时间维进行交替协同优化以学习两个投影矩阵从而使投影后的特征在目标类和非目标类之间的可判别性达到最大化。利用所学习的两个投影矩阵将构造的各空间-时间二维样本转化为新的维数显著降低的一维样本,有效地改善了协方差矩阵参数估计,并增强了在小训练样本集下所学习分类器的泛化能力。利用BCI竞赛-Ⅲ’s P300数据集和实验所采集的ERP数据集,证实了所提出的STDA算法对减少基于ERP的BCI系统校验时间的有效性,其对提高系统实用性有着十分重要的意义。(6)将认知神经科学领域中广泛研究的人脸感知结构处理(Configural Processing)特性成功引入BCI系统的设计中,开发了基于人脸结构感知的多ERP融合BCI系统。该BCI系统的刺激范式采用了具有结构损失人脸作为刺激,并结合传统基于P300的BCI系统中的Oddball范式进行刺激呈现。生动形象的人脸刺激有助于帮助缓解被试长时间使用该系统后所可能产生的疲劳和反感,且人脸结构损失促使被试更加积极地注视刺激,并引起大脑中与结构信息处理相关的更高水平认知功能响应,即诱发出了显著的人脸结构处理事件相关VPP和N170成分。经过大量的刺激物实验比较分析,证实了基于人脸结构感知的多ERP(VPP、N170和P300)融合BCI系统的优良性能。(7)在Simulink/Matlab (Mathworks Inc., USA)平台上成功开发了三种基于人脸结构感知相关的多ERP融合BCI控制系统：智能轮椅控制系统、机器假肢控制系统和机器人交互系统。这些系统均不要求用户有任何肌肉神经的动作,只需专注于所设计的BCI范式,即可实现对轮椅的驾驶操作、对机器假肢的移动操作(如抓取食物和传递物品等)以及针对机器人控制的多种操作。