随着移动互联网的迅猛发展,数据业务量和业务类型的激增,移动数据流量将出现爆发式增长,有专家预估未来十年的数据容量的总需求将达到现今的十倍。为了应对新时代的挑战,人们提出了第五代移动通信(Fifth Generation Mobile Network,5G)的概念。以用户为中心大规模MIMO系统(User-centric Massive MIMO,UC-MMIMO)是5G通信中的关键技术之一。作为网络化大规模天线阵中的一员,由于通过密集的接入点天线布置结构有效的提升了系统总容量,分布式的部署规则也使得UC-MMIMO也能够满足“无处不在”的通信理念,所以UC-MMIMO已经成为了研究人员的研究重点。虽然UC-MMIMO拥有如此优良的性能,但是也对系统配置提出较高要求。首先,大量接入点天线的部署使得天线系统更加复杂,导致传统天线选择算法不再适用于Massive MIMO系统,因为传统算法依赖于信道状态信息(Channel State Information,CSI)进行天线选择,但是Massive MIMO系统中很难获得足够的CSI。其次,大量的接入点天线在工作中会产生巨大的能量消耗,部署成本和维护成本也大大增加。因此,必须为UC-MMIMO设计新的天线选择问题解决方案和能效优化问题解决方案,以降低布置大量接入点天线带来的不利影响。近年来,人工智能(ArtificialIntelligence,AI)和深度学习(Deep Learning,DL)技术的发展为各行各业面临的问题提供了解决方案,并取得了丰硕成果。强化学习作为AI技术的重要分支在许多问题中表现出色,如AlphaGo。在通信系统中引入强化学习方法解决UC-MMIMO系统的天线选择问题和能效优化问题有着很重大的研究意义。围绕上述两个问题,本文展开了以下两个研究,具体如下:1、针对天线选择问题,本文将强化学习方法引入到天线选择问题中,提出了一种基于强化学习的天线选择方法。此方法由两个模块构成——天线选择模块,天线调整模块。通过仿真,此基于强化学习的天线选择算法相对于传统的天线选择方法有着更低的算法复杂度,并且对CSI依赖程度大大降低。2、针对能效优化问题,基于Massive MIMO系统相较于传统MIMO系统的差异,本文将基站计算能量和带宽系数考虑到能量效率优化问题中,采用强化学习的方法解决此问题以提高系统能效。通过仿真,此基于强化学习的功率分配算法相对于平均功率分配算法有着更高的能效,将此部分工作和本文在天线选择问题的工作相结合,发现基于强化学习的功率分配算法对用户总容量的提升也有一定帮助。