脑机接口提供了一种大脑与外部环境直接通信的机制,使得患有严重残疾的人士能够获得与外界交流的机会。本文主要研究基于头皮脑电(electroencephalograph,EEG)的脑机接口。其中,P300字符拼写脑机接口经过多年的发展,在刺激范式设计和信号处理算法方面的改进使得该系统越来越接近实际应用。然而,该系统仍存在很多问题亟待解决,其中的一个关键问题就是如何缩短训练时间,减轻用户负担。为了满足在较短时间完成训练,同时获取较高的分类准确率,本文从半监督和无监督学习方面展开研究工作:1)本文提出了一种基于超限学习机(extreme learning machine,ELM)的在线半监督P300字符拼写算法,称为self-training regularized weighted online sequential ELM(ST-RWOS-ELM)算法。ELM算法计算量小,并能达到类似于支持向量机(support vector machine,SVM)的泛化能力,因此适合于在线学习的场景。本文提出的在线半监督方法利用少量有监督数据训练初始的分类器模型,通过在线获取的无标记样本更新分类器,最终达到理想的分类性能,并满足实时计算的要求。2)由于P300拼写系统的数据有其独特的结构,利用该结构信息,可以实现无监督的训练。本文中提出了一种针对P300字符拼写的无监督训练方法。该方法随机初始化多个分类器,通过自训练迭代,收敛后通过优化目标函数来选择最优分类器。在国际脑机接口竞赛的P300字符拼写数据和本实验室P300字符拼写数据上都取得了类似于有监督学习的分类准确率。同时,本文中还详细分析了P300字符拼写系统能够实现无监督训练的原因。