作为具有极大潜力的计算硬件设备,GPU正越来越多的被用于科学计算领域,对具有大量并行性的高吞叶量计算等应用进行计算加速。但在GPU上运行的通用计算程序的编写和优化往往较难,限制了GPU通用计算的普及和发展。HMPP沿袭了多核时代OpenMP的思路,用编译制导语句加上编译器自动对代码进行变换的形式辅助程序员编写或移植GPU程序,是一种可行的解决思路。本文提出了两种在HMPP架构下对自动生成的HMPP程序进行优化,即不更改原程序代码而以程序给出指示信息,由编译器实施变换方式对程序进行优化的方式:维度变换和物理存储排列变换。维度变换被应用到循环上时就是传统的循环变换,并起到将问题数据集对应到CUDA线程模型的作用,还可以配合循环交换来改变循环的执行次序,起到对循环分块的作用。物理存储变换在程序的访存模型不能保证足够比例的凝聚访问时能起到作用,通用优化访存模式减小GPU程序的访存压力,提高整体效率。本文从理论上论证了前者的可行性,从示例程序测试的角度证实了后者的可行性,两种方法都易于加入到HMPP框架中。最后,本文用Stencil问题测试了多种优化方法的实际运行效果,并测试了多种参数对运行效率的影响,总结了不同方法的优点与不足,以及在新Fermi架构GPU下优化GPU程序的策略。