脑-机接口系统克服了对外围神经和肌肉的依赖性,可以直接在大脑和外部设备之间建立连接通路,为探索大脑的认知机制提供了新的研究途径和方法。基于运动想象的脑-机接口系统是一类典型的自发式脑-机接口,即不需要借助外界装置的刺激,受试者通过运动想象即可产生脑电信号。在传统的脑电解码方法中,基于共空域模式的脑电解码方法及其扩展很有代表性,其思路是通过求解空间滤波矩阵的方式,提取各个空间滤波后的脑电通道的能量特征,以用于后续分类。但是,能量特征已不再具有时域序列的表示形式,从而忽略了对脑电信号中时域信息的进一步学习。因此,如何进一步利用脑电数据的时域信息是脑电解码研究中的一个难题。此外,如何设计一种有效的半监督学习框架,实现对有标签及无标签的脑电试验的协同训练,也是目前的脑电解码研究中的又一挑战。针对现有的脑电解码研究中存在的问题与挑战,本文引入了深度学习的方法,以提高脑电解码性能。本文的主要工作和研究成果有以下三个方面:1、为了实现对脑电时域和空域信息的学习,本文提出了一种有监督式深度网络模型FBSF-TSCNN。首先采用滤波器组空间滤波(FBSF)算法对原始脑电信号进行空间滤波预处理,处理后的脑电信号仍为时域序列形式;接着将脑电信号送入时-空卷积神经网络(TSCNN)模块进行特征提取和分类,得到最终的解码结果。特别地,FBSF-TSCNN也是分析脑电时域和空域信息的有效工具,可为基于运动想象的脑-机接口系统的研究和应用提供更好的技术分析手段。2、为了克服训练样本数量少以及模型参数随机初始化导致的优化困难,本文提出了一种分阶段训练策略对TSCNN模块进行训练。首先通过优化三元组损失(Triplet Loss)代价函数来对TSCNN模块的特征提取层进行训练;接着固定特征提取层的参数,通过优化交叉熵损失(Cross Entropy Loss)代价函数对TSCNN模块的分类层进行训练;最后采用反向传播算法对整个TSCNN模块的参数进行微调。实验结果表明,分阶段训练策略下的TSCNN模块的脑电解码性能要显著优于传统的端到端的训练策略;且所提出的FBSF-TSCNN方法显著优于FBCSP-NBPW等其它竞争方法,并取得优异的脑电分类性能。3、为了实现对有标签及无标签脑电试验数据的协同训练,本文提出了一种基于堆叠式变分自编码器的半监督式深度网络模型SVAE。首先采用滤波器组空间滤波(FBSF)方法对原始脑电信号进行空间滤波处理,然后利用希尔伯特变换提取脑电数据的包络线表示,用于后续的深度解码识别。实验结果表明,该半监督式深度网络模型的分类性能显著优于其它的有监督式学习模型,且具有可扩展性。因此,SVAE在基于运动想象的BCI系统中有着较高的应用价值。