异构计算被视为计算机处理器的发展继单核、多核之后的第三个时代，它实现了多种体系架构的处理器间协同运算，有效缓解在提升CPU时钟频率和内核数量的过程中遇到的散热和能耗问题，同时增强了计算平台的可扩展性。异构计算系统通常包含除CPU以外的一个或多个协处理器，协处理器一般是包含众多处理核心的专用功能计算设备，只有通过合适的并行程序才能充分利用其并行计算能力。OpenCL是一个为异构设备编写程序的标准框架，虽然它的出现增加了程序在各平台之间的可移植性，但是在多个计算设备协同计算时，多种计算设备的调用、设备间的负载均衡等问题严重制约了它的普及。因此，对异构系统下多设备并行计算的研究具有重要的意义。本文依据OpenCL规范，利用多线程技术实现了多平台下多GPU的调用，分析了不同的任务划分模型对计算性能的影响，优化了存储器间的数据传输。随后，设计了可利用多个GPU辅助加速的两个算法来验证多GPU并行计算研究的可行性，第一个算法为适合较大规模数据的内部排序算法，算法中设计了适合设备端的GPU内部排序算法和主机端的基于败者树数据结构的归并排序算法，与CPU串行排序算法相比，该算法在多GPU的辅助下对较大规模数据的排序运算时，性能提升了十倍左右。另一个算法利用多GPU加速柔性作业车间调度问题的求解，该算法设计了适合GPU架构的数据结构以及基于岛屿模型的遗传算法，利用GPU提高了种群内个体的进化以及个体的评估效率。该算法在多GPU的加速下，与基于CPU的遗传算法求解柔性作业车间调度问题相比，在处理更大种群规模的前提下，在更短的时间内取得了较优的解。