脑-机接口（Brain-Computer Interface,BCI）是一种可以将外部设备与大脑进行连接的技术。这项技术在教育、医疗康复、生活娱乐以及军事领域等都有广泛的应用前景。脑-机接口技术的重点研究内容是如何对脑电信号进行识别。脑电信号是一种多通道时序信号,具有非线性、不稳定等特点。采集脑电信号时会受到眼电、肌电以及设备工频等噪音的影响,因此难以采集高质量脑电信号样本。这导致脑电信号样本数量少,同时也为脑电信号特征提取增加了难度。本文针对脑电信号样本量小的难题,选择了边界人工少数类别过采样法（Borderline Synthetic Minority Oversampling Technique,B＿SMOTE）来对脑电信号进行样本扩充;考虑到脑电信号具有非线性、不稳定等特点给以及其为高维度信号的性质,采用改进的卷积神经网络（Convolutional Neural Network,CNN）对脑电信号进行特征提取与识别。传统的B-SMOTE算法使用欧式距离对样本进行距离度量从而确定处于边界的样本,并在原始样本与相邻样本间生成新的样本。针对脑电信号这类时序样本使用欧式距离进行距离度量不准确以及样本生成会改变其原有特征的问题,提出了利用动态时间规整（Dynamic Time Warping,DTW）对样本进行距离度量;同时通过在经过短时傅里叶变换（Short-time Fourier Transform,STFT）得到的幅频信息中增加噪音并重构的方法对样本进行新样本生成。实验结果表明,相比于其他脑电信号样本扩充方法,所提方法生成的样本能更加完全地保留原始信号的特征并能取得更好的识别准确率。CNN能有效的提取非线性多维输入的特征。本文利用脑电信号为多通道时序信号的特点,提出了一种改进的CNN结构。使用多尺度卷积提取脑电信号中的时间特征、空间特征以及全局特征。其中使用Sinc-Layer将原始卷积核限定为带通滤波器,用于提取脑电信号的时间特征并增加理论解释性。为了防止所提取特征造成的特征冗余,提出自适应特征权重分布层对特征进行筛选,防止冗余特征对识别造成的负面影响。实验结果表明,所提相比于其他脑电信号识别方法取得了最好的效果。最后设计一种基于机械手的在线BCI控制系统,将所提样本扩充方法与脑电信号特征提取方法结合应用于此系统。实验结果表明,所提系统具有可行性。