脑机交互系统主要是指使用外部辅助设备实现人脑与计算机或其他电子设备之间控制或通信的技术。在扩展脑机交互系统控制指令集方面,国内外研究者在实验范式以及信号处理算法方面进行了大量的研究,但由于EEG信号属于非线性非平稳且随机性较强的生理电信号,单纯扩展运动想象实验范式任务种类容易造成被试思维疲劳,降低采集到的EEG信号质量,并不能有效提高脑机交互的指令集。本文针对基于运动想象的EEG脑机交互系统控制指令集较少的问题,设计了手指运动想象与运动执行的实验范式,研究了手指运动想象与执行的分类与优化方法,用于扩展脑机交互系统的指令集。针对EEG信号易受外界与自体干扰,信源质量不高的问题,在EEG信号预处理方面,将采集到的原始脑电信号使用基于Infomax算法的独立成分分析法去除眼电伪迹之后,使用经验模态分解构造的最优光滑降噪方法,完成其他噪声伪迹的去除;在特征提取方面,优化了传统的共空间模式特征提取算法,将由希尔伯特黄变换提取的希尔伯特边际谱时频特征与共空间模式提取的空间域特征结合,进而使用Fisher线性分类器完成EEG数据分类,该方法取得了较为理想的分类正确率且鲁棒性较其他方法更高;由于传统的支持向量机分类方法仅支持样本数据的二分类,因此在综合分析一对一(OVO-SVM)分类与一对多(OVR-SVM)分类的优缺点后,提出了结合OVO-SVM与OVR-SVM的分层支持向量机(HSVM)。针对脑电信号的非线性与非平稳信号特性,选取了具有较好插值能力和局部提取能力的高斯核函数与具有良好非线性处理能力和全局提取能力的多项式核函数分别应用于HSVM的两层,提高了样本的可分性。实验结果表明,本文提出的分类与优化方法正确率较其他方法有所提高。由此,通过手指运动执行和运动想象的分类扩展了脑机交互系统可选用的指令集。