移动计算设备的飞速发展已经成为转变传统计算设备发展的根本趋势。GPU在图像处理方向应用的同时,也为通用计算提供了良好的运行平台。CUDA是功能完善的图形处理器通用计算编程API,但其并没有解决移动设备上并行计算的问题。GPU在移动设备上的发展虽然很迅速,但是仅仅依赖片上GPU来提升计算能力,在计算效率和能耗等方面都有很大限制。本文设计了CUDA程序在移动设备上的运行环境,实现CUDA程序在基于Android系统的移动设备上运行。程序经过移植之后,可以实现在Android系统的移动设备上访问位于高性能服务器上的GPU通用计算资源,对移动设备上的高性能计算具有很大意义。移动CUDA运行环境由服务端和客户端两部分构成,客户端部署在Android系统的移动设备,以伪装API方式获取CUDA程序的调用函数与函数参数,将其发送到服务端,在服务端完成对实际GPU的操作。由于采用伪装API方式,原有的CUDA程序不需要引入其他特定的API,实现了兼容性的特点。针对Android平台的CUDA程序移植是建立在详细分析CUDA程序的编译流程上,改变原本的混合编译策略,采用分离不同平台编译结果的方法。在GPU设备端执行的程序编译成fatbin格式,而在主机端执行的C程序则使用ARM交叉编译工具编译成ARM平台的目标程序。经过实验证明,本文实现的CUDA程序移植方法对计算密集型算法性能提升效果显著,具有较好的计算性能和加速比。本文使用的Socket优化方法对于无线网络传输性能也有很大提升。