脑机接口(brain-computer interface,BCI)是一种允许人脑与外部设备进行交互的通信和控制系统,其中P300拼写系统是一种基于Oddball刺激范式的BCI系统。它由两步分类步骤组成,一是检测脑电图(electronencephalogram,EEG)信号中是否存在P300电位,二是组合前一次的P300检测结果来确定目标字符。在实际应用中,提高P300拼写系统的拼写准确率和信息传输率(information transfer rate,ITR)很重要。然而传统P300检测算法在分类前一般需要进行较复杂的预处理和特征提取操作,且字符识别准确率(character recognition rate,CRR)及信息传输率不够高。针对这些问题,本文试图从深度学习的角度提升P300拼写系统的性能。本文的研究内容如下:标准的卷积神经网络(convolutional neural network,CNN)在P300检测中容易出现过拟合问题,故本文在标准卷积神经网络的基础上改进模型,命名为批归一化卷积神经网络。其中,在卷积层中引入批归一化层(batch normalization,BN)、在全连接层之间添加Dropout层来缓解梯度消失及过拟合问题。提出减少非目标字符干扰的改进算法。由于非目标字符产生的干扰主要来自于与目标相邻的字符,故本文设计了一个三分类模型来减少这种干扰。即把目标字符对应样本、目标字符的相邻字符对应样本、以及其他样本作为三个类别进行训练。采用基于门控循环单元(gated recurrent unit,GRU)的双向循环神经网络(recurrent neural network,RNN)进行P300检测,以解决时间序列信号的长期依赖问题。把卷积神经网络与循环神经网络相结合,同时进行空域滤波和时域滤波。故采用ConvLSTM网络来解决卷积神经网络无法处理的长期依赖问题,也解决循环神经网络无法进行充分空域滤波的问题。实验证明,以上的深度学习方法在P300拼写系统中能取得较好的效果,即字符识别准确率和信息传输率要优于传统算法和经典的卷积神经网络算法。