脑机接口(brain-computer interface,BCI)是不依赖于常规的外周神经和肌肉组织的参与,在人脑与计算机或其他电子设备之间直接建立连接的一种新的通信系统。近年来,基于视觉诱发电位(visual evoked potentials,VEP)的BCI研究变得越来越流行。在基于VEP的各种BCI模式中,基于编码调制的VEP BCI(c-VEP BCI)具有可选择的目标数量多、信息传输率高等优点。本文对基于编码调制的视觉BCI进行了研究,提出了一个新的基于不同编码分组调制的c-VEP BCI范式,可以大规模地增加刺激目标的数量。本文设计了一个基于c-VEP的多目标脑机接口系统,将刺激目标数量增加到了64个,并在之前研究的基础上,对视觉刺激器的设计做出了改善。将目标分为四组,采用不同编码分组调制的方法对刺激目标进行调制,利用模板匹配法进行目标识别。共邀请了八位受试者参加了BCI实验,并对实验数据进行了详细地分析,验证了该系统的可行性和有效性。首先分析了四个参考模板信号的相关性,结果表明,本系统使用的四个调制编码产生的刺激响应(即c-VEP)信号,具有良好的自相关和互相关特性,使得组内目标和组间目标都很容易区分。然后对单次实验的数据进行了分类识别,结果表明,该BCI系统的分类正确率为88.36%,而信息传输率高达184.6比特/分钟,证明增加刺激目标数量可以显著提升系统的信息传输率。最后对数据进行了深入分析,研究数据长度的选择以及频域和空域滤波对系统性能的影响,结果表明,使用一个刺激周期长度的数据对目标进行分类识别可以得到最高的信息传输率;对原始的脑电(electroencephalography,EEG)信号进行2~30Hz的带通滤波,并且使用典型相关分析(canonical correlation analysis,CCA)方法优化产生的空域滤波器,对多通道数据进行空域滤波,能够大幅度提高c-VEP信号的信噪比,得到最高的分类识别率。