在传统MIMO系统中,预编码技术可以一直导频污染及小区间干扰等因素,但是常用的全数字预编码算法中一根天线需要配备一条射频链路,而大规模MIMO系统中天线数量成百上千,需求的射频链路数量太多,成本太大,全数字预编码算法并不适用于大规模MIMO系统。因此混合预编码技术应运而生,成为研究的重点。本文针对毫米波大规模MIMO系统的预编码算法进行研究。论文首先针对课题的研究背景和研究意义进行阐述,并介绍了当前的研究现状,由于对毫米波频段的深入研究,预编码研究重点开始从全数字预编码转移到混合预编码技术。然后对毫米波大规模MIMO系统阐述,毫米波大规模MIMO系统主要由三个部分组成:发射器、无线信道和接收机,并且对这三个部分做了详细介绍。在此基础上对三种常用的线性预编码算法的基本原理进行介绍和性能仿真,并对基于交替最小化的混合预编码算法的模拟预编码器和数字预编码器原理设计详细阐述,在仿真中与全数字预编码器和传统OMP算法做性能比较,通过分析可以得到基于交替最小化的混合预编码算法在性能上优于传统OMP算法且逼近全数字预编码器。本文的另一个研究重点则是迫零预编码的FPGA实现。迫零预编码算法很好的消除了用户间的干扰,为实现迫零预编码算法,针对迫零预编码矩阵,由于在实现过程中会涉及到复杂的矩阵求逆运算,在考虑到预编码矩阵维度的基础上采用矩阵分解的方法对逆矩阵做求解。考虑到实现的复杂性,文中将预编码的实现细分为六个模块,分别对每个模块的结构和接口等进行介绍,并针对模块的功能做了详细的阐述,同时介绍了基于cholesky的矩阵分解算法,通过该算法对矩阵做求逆运算,详细描述了矩阵分解和矩阵求逆部分的设计过程。分析计算了模块复杂度和资源消耗,最后对每个模块的功能仿真验证,并通过与matlab仿真数据做对比来验证设计。实现的误差分析表明该设计符合预期。