脑-机接口（Brain-Computer Interface,BCI）是一种新型的神经科学与工程技术相结合的技术,该技术通过使用计算机或其它设备实现对大脑思维活动所产生的脑电信号（Electroencephalogram,EEG）进行解码,以此来实现与外界环境沟通的目的。随着科学技术的进步,脑-机接口系统的应用变得越来越广泛。基于运动想象（Motor Imagery,MI）范式的脑机接口系统以其训练成本低、受试者不易疲劳等优势,被广泛应用于脑机接口领域,在大脑的可塑性诱导方面体现了重要作用。本文针对MI-BCI系统中存在的诱发脑电质量较低、运动意图解码性能较差等问题,开展了以下主要工作:（1）针对现有的运动想象脑电信号诱发任务复杂度较低,诱发采集的脑电信号质量较差的问题,本文提出了一种新的基于动态复杂对象控制的实验任务——“碗-球”系统,把实际生活中移动装满水的水杯这一生活场景抽象为概念化的动态复杂控制的实验范式,并基于这个新的实验范式采集了两种对应类别的运动想象脑电信号。（2）针对脑电信号非线性、平稳性差等问题,本文利用共空间模式算法和基于相位锁值的功能性脑网络提取了脑电信号的四种特征,并且对以上四种特征在识别效果以及可视化角度上做了对应的研究。进一步将流形学习的理念应用于特征融合上,提出了基于均匀流形投影（Uniform Manifold Approximation and Projection for Dimension Reduction,UMAP）的多特征融合算法,对得到的数据特征进行降维,对最终嵌入维度进行了讨论,将降维前后的识别效果进行了比较,并且通过对比其他降维方法研究了UMAP算法的性能,最终讨论了UMAP算法在可视化角度的表现。发现无论是在准确率上还是在可视化角度上,使用UMAP算法降维后的数据的表现都要优于降维前的数据。（3）为了更好地实现对大脑活动信息的解码,提出了基于相似度矩阵的块混合聚类模型（Block Mixture Model,BMM）应用于脑电信号的识别领域。通过对脑电特征数据的相似度矩阵的构建,进而得到脑电信号的对角块结构模型,完成脑电信号特征的聚类。接着讨论了针对EEG信号BMM算法的最优超参数问题。进一步研究了BMM算法在脑电信号聚类识别领域的具体性能表现,测试了BMM算法针对降维前后多种脑电特征的聚类结果。最后将BMM算法与传统聚类算法进行了对比研究。实验结果表明,相比其他传统算法,BMM算法应用在脑电信号识别领域的聚类效果更好,具有更优秀的性能。