随着计算机硬件功能和软件开发环境的不断成熟，GPU应用逐渐从图形计算向通用计算领域发展，使用基于GPU的高性能计算平台进行海量数据计算科学研究的例子不胜枚举。虚拟化技术是当今计算机领域的一个研究热点，在虚拟化和GPU通用计算的结合处，学术界的研究处于起步阶段，本文对虚拟化环境下的GPU通用计算关键技术进行研究。本文对虚拟化技术和GPU通用计算进行了详细的分析，对现有的GPU虚拟化解决方案进行总结，在GPU虚拟化方案和GPU资源调度算法的基础上，立足于降低任务的周转时间，对现有的GPU调度算法进行改进。通过设置综合负载评价值的方法实现负载均衡，将GPU特征、任务规模和计算复杂度纳入负载评价考量，实现更细粒度更准确的负载评价。针对大规模计算程序，本文在虚拟化环境下设计了基于OpenMP的多GPU协同计算方法，根据不同任务类型和任务规模进行不同的任务划分，采用经典的矩阵运算和复杂度较高的离散傅里叶变换等具有代表性的科学计算实例进行实验验证。实验结果表明，随着计算规模的增加，多GPU的加速比可以达到接近GPU的个数。为了降低由于虚拟化本身给GPU通用计算带来的性能开销，本文对现有的虚拟机域间通信优化解决方案进行总结，在特定虚拟化平台下采用对CUDA性能影响最低的通信方式。同时，在GPU内部数据交互的方式上，设计了两种数据传输方式对GPU协同计算进行测试，通过对理论计算和实际测量进行对比，验证了预测结果的正确性并得出影响多GPU协同运算效率的主要因素。