高速铁路移动通信以及旅客无线接入需求呈现出宽带化、多样化、数据化的趋势,这些对高铁移动通信系统在大容量、低功耗方面均提出了更高的挑战。为了满足高铁下一代无线通信系统的高可靠性和大容量的需求,毫米波波束成形技术和大规模天线技术在提高系统频谱效率和能量效率方面优势突出,可作为用于提高高速铁路无线通信系统性能的有效解决方案。基于此,本文主要聚焦于高速铁路场景下的毫米波大规模天线及波束成形技术的研究。首先,针对高铁场景下轨旁基站按照天线空间有限,研究不同排列方式的大规模天线阵列对混合预编码系统性能的影响。考虑均匀线性阵列、均匀矩形平面阵列、均匀六边形平面阵列及均匀圆形平面阵列,分析了四种天线的阵列相应矢量,并针对不同的阵列相应矢量利用正交匹配追踪算法寻找对应天线阵列的最佳混合预编码器。仿真结果表明,均匀平面阵列天线集中度越高,系统的频谱效率和接收端的能量效率越高;针对系统的频谱效率和接收端的能量效率,平面天线阵列的性能优于线性阵列。其次,为了增强毫米波大规模多输入多输出系统波束成形增益的同时,并且有效降低轨旁基站移相器的硬件成本,提出一种基于离散移相器的混合预编码设计方案。以最优化频谱效率为目标,该方案通过分析天线的阵列响应矢量,将毫米波信道的空间特性预编码的设计考虑为空间稀疏重构问题,采用离散化正交匹配追踪原理求出数字预编码与离散化的模拟预编码。仿真结果表明所提出的离散化混合预编码方案中精度为3位时的移相器的性能近乎达到全精度移相器的性能增益;当移相器的精度为4位时,可以获得最优的能量效率,从而大大降低轨旁基站的能耗。最后,为了进一步提高轨旁基站的能量效率,研究具有低精度的模数转换器(Analog-to-Digital Converters,ADCs)和数模转换器(Digital-to-Analog Converters,DACs)的毫米波混合预编码系统的频谱效率和能量效率。首先,考虑ADCs/DACs的量化噪声,推导出频谱效率的近似表达式,提出一种两级交替最小化优化方案,以获得最优的混合预编码矩阵。仿真结果表明,所提出的混合预编码方案具有与全数字预编码几乎相同的频谱效率;与全数字预编码相比,所提出的混合预编码方案可以在频谱效率和能量效率之间实现更好的折衷。此外,ADC/DAC精度的提高可以有效地改善系统的频谱效率性能,而精度为4位的ADCs/DACs为混合预编码系统实现最佳的能量效率。