随着脑科学研究的发展,精准的脑电信号识别不仅可以帮助医生进行疾病的诊治,同时可以帮助患者进行疾病的预测。但是脑电信号的分类研究中仍存在算法复杂度过高导致不适合应用于可穿戴设备中、样本量太少导致分类效果差、数据类别不平衡导致性能不稳定等问题。如何解决脑电信号识别面临的这些关键问题成为推动脑科学进一步发展的重要因素。本文首先分析了脑电信号识别面临的主要问题,同时在了解国内外研究现状的基础上,通过提出相应的算法来依次解决上述提到的三个问题。首先,本文在小波分解得到的多个子频带上提取多种不同类型的时频特征进而组成特征集合,并提出改进的基于相关性的特征选择算法,同时将其应用于特征集合上进一步获得最优特征集,并采用五种分类器对癫痫病患者的发作期、发作间期以及正常脑电信号进行三分类识别。最终使用波恩大学癫痫数据集来验证算法的真实性能,其中逻辑模型树的识别结果最佳,达到了97.2%的分类准确率。该算法通过减少冗余的特征数目,从而达到降低算法复杂度的同时提高分类精度的目的。此外,我们实现了一个基于共空间模式算法和卷积神经网络的癫痫模型。由于癫痫预测数据存在发作前期数据和发作间期数据处于极度不平衡的问题。故本文采用时域分解重构的方式生成发作前期数据,从而达到癫痫数据的平衡。同时癫痫预测数据量并不属于小数据集,因此设计了一个组合共空间模式算法根据数据集特性提取其时频特征。同时,使用我们设计的卷积神经网络(Convolutional Neural Network,CNN)进一步优化特征并进行预测识别。该算法最终被应用于CHB-MIT数据集,达到了92.2%的敏感性和0.11/h的误报率,实现了较高的敏感性以及较低的误报率。最后,因为脑电信号数据采集过程较为复杂且招募受试者也较为困难,所以通过以下三种方法进一步改进共空间模式算法使得该算法更适应于小样本数据集的脑电信号的分类识别:(1)通过引入非目标用户的协方差矩阵降低目标用户的协方差矩阵估计方差,从而实现正则化协方差矩阵。(2)通过正则化目标函数即添加一个惩罚项至目标函数中从而减小噪声的影响同时增加整个算法的鲁棒性。(3)因为脑电信号具有较强的个体差异性,因此应用小波包获得具有相同大小的子频带,进而使用前两步中的改进共空间模式方法在所有子频带上提取特征,同时应用最大相关最小冗余算法选取与类别相关性最大、与其他特征相关性最小的特征子集,最终,线性判别分析算法得到的较高的准确率(82.01%)显示了改进方法对小样本数据较强的分类能力。本文针对现有的脑电信号识别面临的主要问题,提出了针对三种不同情况的分类识别算法,并应用于不同的数据集中,能够很好的满足面临不同问题的脑电信号分类任务的需要,可以为其他分类任务提供有效的参考途径。