脑机接口（Brain-computer interface,BCI）是一种将传感器采集到的脑部信号解析成为脑神经活动信息的科学技术,该技术能够达到人脑控制外部设备或进行信息交互的目的,在人体机能康复和神经功能延展领域具有广泛的研究和应用价值。受脑信号的个体差异性和非平稳性影响,根据已有样本训练好的分类模型在预测其他受试者数据时难以保持准确性,并且采集受试者的脑信号数据往往时间花销大,因此在小样本数据的情况下如何提升模型泛化能力成为脑机接口领域的研究重点。在迁移学习和黎曼流形学习的理论基础上,本文针对脑机接口领域存在的数据域分布不匹配和小样本集问题展开研究,其中主要内容包括:本文在原子空间对齐算法基础上进行了改进,子空间对齐算法将源域和目标域间的Bregman散度作为目标函数,求解出相应的变换矩阵将源域和目标域进行对齐变换。该方法的不足之处是未利用源域数据的标签信息,因此本文提出引入Fisher判别项进行改进,在减小领域分布差距的同时提高数据的类别可分性。算法可以有效提升模型预测新目标数据的能力,在跨受试者实验中对比直接训练方法以及迁移学习算法,平均分类准确率分别有7.73%和5.53%的最大提升。在受试者仅带有少量标签样本的小样本情况下,本文在黎曼空间下实现普氏分析变换方法,对源域和目标域的数据进行统计分布上的匹配,并进一步提取脑信号黎曼特征进行分类,同样在跨受试者的脑电预测实验中与其它迁移学习算法进行比较,验证了该算法的有效性。针对脑电数据样本维度过高的问题,本文基于黎曼空间滤波算法改善脑电特征,在脑电数据的特征提取环节进行降维处理,保留主要的特征信息,防止维度过高造成分类器性能下降,使脑机接口领域中的模型校准和计算时间过长问题缓解。