脑-机接口（Brain Computer Interface,BCI）技术是一种检测神经电信号进行识别分类而完成人机交互的方法。基于稳态视觉诱发电位（Steady-State Visual Evoked Potential,SSVEP）的BCI系统凭借其较高的信息传输速率（Information transfer rate,ITR）具有广泛应用前景,而结合头戴式增强现实（Augmented Reality,AR）技术的SSVEP-BCI可以将虚拟刺激诱发界面直接投影在用户视野中,有望拓展其应用场景、解决便携性不足的问题。但是目前基于SSVEP的AR-BCI系统性能较低,且缺乏运动状态下AR-BCI系统及人机交互方法的探究,降低了AR-BCI系统实际使用价值,因此本课题针对以上问题进行了研究。首先,本文针对AR-BCI系统中由于数据同步不准确而造成的SSVEP解码性能较低的问题研究了改进方法。实验结果表明,对时间向量和空间滤波器同时进行优化的互相关任务相关成分分析（Cross-correlation task-related component analysis,x TRCA）可以有效降低AR-BCI系统中时间误差带来的影响,在0.7s的脑电数据下平均识别准确率达到94.4%,超过了带模板的滤波器组典型相关分析算法、任务相关成分分析算法和卷积神经网络可以达到的72.4%、62.1%、87.3%。其次,本文搭建了基于SSVEP且具有眼动追踪功能的AR-BCI系统,探究了AR-BCI和眼动交互在在头部固定和地面固定模式下的性能,为运动状态下AR-BCI系统的研究提供可行性方法。结果表明,AR-BCI系统在头部固定和地面固定下对1s、2s的脑电数据识别平均识别准确率分别为85.1%、92.7%和82.3%、91.6%,ITR分别为59.8bits/min、48.9bits/min和56.3bits/min、48.1bits/min。眼动追踪结果表明,被试在静坐状态下使用眼动追踪具有较好的识别性能,0.3s的数据长度下头部固定和地面固定平均准确率均可达到99.7%。最后,本文设计了脑控机械臂在线系统,进一步验证了x TRCA算法及不同固定模式的实际性能,实现了59.7bits/min的在线信息传输速率,平均每分钟正确输出17.8个控制指令。本文进一步探究了运动状态下AR-BCI系统的脑电识别和眼控性能,并提出了运动状态下使用SSVEP-BCI与眼控融合的人机交互方法。结果表明数据长度分别为1s、2s时,双模式融合决策、脑电识别和眼动追踪单模式识别方法平均识别准确率为82.6%、71.1%和70.1%,以及92.5%、81.3%和78.1%,验证了双模式融合决策可以有效的提升运动状态下AR-BCI系统性能。本文通过优化脑电解码算法提升了AR-BCI系统性能,验证了具有眼动追踪功能的AR-BCI系统在不同固定模式下的可行性,最后设计完成了脑控机械臂在线实验,并探究了运动状态下AR-BCI系统的多模式融合人机交互方法。本文研究成果有望为AR-BCI技术的日常化应用提供新的解决方案。