大规模多输入多输出(Massive Multiple-Input Multiple-Output,M-MIMO)网络是第五代/后五代移动通信(The 5th Generation and Beyond,5G/B5G)系统的关键技术之一,其利用空分复用可以显著提高无线蜂窝网络的频谱效率(SpectralEfficiency,SE)和能量效率。在传统基于二维(2D)M-MIMO的水平2D预编码的基础上,调整天线阵的倾斜角度(Antenna Array Tilt Angles,AATAs)可获取垂直维度的空间自由度进一步提高系统容量,形成三维(3D)MIMO。通过调整AATA,3D-MIMO系统能够实现可感知业务量/用户分布的阵列配置来实现无线蜂窝网络的干扰管理及性能增强。然而多小区环境中天线参数的调整十分重要同时也极其复杂,现有相关工作大多采用相对复杂的传统AATA优化方法,在计算时间上难以满足通信系统的实时性需求。本文基于机器学习(Machine Learning,ML),研究典型3D-MIMO系统场景下的AATA的优化方法,在保证良好性能的同时大幅降低天线调整所需系统开销,达到满足3D-MIMO系统天线参数调整的实时性要求的效果。本文主要工作如下:1)本文针对多小区3D-MIMO系统提出了一种新颖的基于ML的前摄性AATA调整机制。利用ML,基站(Base Stations,BSs)能够预测使下一时隙所辖区域SE接近最大的AATA参数组。使用这种方式,BSs可直接调整AATAs而不用频繁获取用户在当前时隙的真实位置,进而缩短了调整时间并节省系统开销。另外,预测过程通过经训练后结构良好的神经网络进行,能够进一步节省在线实施的优化时间。仿真结果表明,与已知实时的用户位置并使用穷搜法获得AATAs的最佳对比,所提ML赋能的前摄性AATA调整方法可以达到98.7%以上的SE性能,而所提机制显著节省了系统开销和线上计算复杂度。2)为了进一步提升ML赋能的前摄性AATA优化方案的可扩展性,本文进一步提出了一种基于栅格化的ML赋能AATA优化方案,其中我们对BS覆盖范围进行基于距离的栅格化,使得基站能够直接调整AATAs而无需知道从用户到其的精确角度信息。特别地,我们对较少栅格的情形引入半监督聚类(Semi-Supervised Clustering,SSC)机制,可将栅格化的用户状态快速成组地映射到AATAs上。数值仿真证实了所提机制在更低的时间开销下有杰出的线上性能,表明其对满足5G/B5G通信系统的实时性需求具有良好的潜能。3)最后,本文针对所提方案的鲁棒性及可扩展性展开了优化设计及较为全面的仿真验证评估。我们将完美信道状态信息(Channel State Information,CSI)条件缩紧至使用导频估计的非完美CSI条件,并考虑了更为实际的多区部署场景。仿真发现所提出的前摄性AATA调整机制对条件和场景的改变具有较好的鲁棒性。针对多小区下栅格数变多进而引起数据量和计算时间剧增的问题,我们提出了将SSC方法调整为使用经训练的神经网络(Neural Network,NN)将线上用户状态直接映射到AATA组上的优化机制,提升了算法效率及可扩展性。仿真发现在多栅格情形下应用NN拟合的方法取得了较好的SE性能,这表明所提出的基于栅格和ML方法计算AATA的机制对不同条件和场景均具有较强的可扩展性。