煤矿智能化是建设智慧矿山的前提和基础,实现对综采工作面“三机”装备（采煤机、液压支架和刮板输送机）的准确监测是煤矿智能化中的重要环节,而构建虚拟综采工作面VR（Virtual Reality,虚拟现实）监测系统是核心技术之一。现有的监测系统大都基于理想水平面,脱离实际,难以搭建具有复杂煤层条件下的综采工作面,也难以实现装备和煤层的精确耦合,此外,煤层无法自动更新导致整个虚拟综采工作面的持续回采无法实现。因此,本文对复杂煤层条件下综采工作面VR仿真系统及关键技术进行研究,旨在建立一个更加真实的虚拟仿真系统,进而对装备和煤层进行相关分析,实现对采煤过程指导的目的。主要研究内容及结论如下:（1）在搭建综采工作面VR仿真系统阶段,研究了煤层的建模方法,确定了煤层的综合建模方式;利用刚体组件使装备具有了重力属性,利用碰撞体为装备和煤层增加了接触效果,根据装备之间的配合方法对模型进行了约束配合,基于虚拟引擎Unity 3D,建立了复杂煤层条件下综采工作面VR仿真系统。该仿真系统使装备和煤层具有真实的重力和接触属性,能够使装备具备在复杂条件下运动的特点。（2）对综采工作面“三机”装备工作空间的构建方法进行了研究,在综采工作面“三机”装备上标记了关键信息点,在系统仿真运行过程中实现了对关键信息点的实时记录,分别建立液压支架、刮板输送机和采煤机的运行工作空间。该方法可以实现对“三机”装备工作姿态的提取和表征并可将其进行空间三维表示。（3）对采煤机的目标截割轨迹进行了预测,将仿真系统运行过程中产生的采煤机历史截割数据构成训练数据集,对数据集进行划分和处理,利用BP神经网络和极限学习机两种机器学习方法对采煤机截割轨迹分别进行了预测,并对两种方法的准确度进行了分析和评价。结果表明:极限学习机的预测效果优于BP神经网络的预测效果,是更为优秀的预测模型。（4）针对仿真系统进行了仿真实验,建立了原型系统,对采煤机记忆截割、人工干预的采煤机记忆截割和采煤机自主截割三种方案进行了仿真实验,运用逆向重构的方法建立了初始煤层模型和动态煤层模型,并求得了留煤量和割岩量,通过计算其体积完成了对截割方案的评价。结果表明:采煤机自主截割方案是最优方案,可实现最大割煤和最小割岩。本文建立的仿真系统解决了装备和煤层难以准确耦合的问题,能够在复杂煤层条件下对“三机”装备进行仿真,并能够对多种采煤机截割方案进行测试和运行结果评价。