随着智能手机及其它移动终端的出现，移动数据业务呈爆炸性增长。目前使用的移动通信系统无法满足未来业务的增长。因此新一代移动通信系统的出现成为必然。MIMO技术能够有效的提高系统容量，并已经在目前的通信系统中得到广泛应用。但在传统的MIMO系统中天线的数量很少并且带宽也较窄，不能满足未来移动通信中持续增长的业务量需求。因此研究大规模多天线技术以及毫米波通信系统下的多天线技术具有重要意义。针对以上两种多天线技术，完成以下工作:　　(1)大规模多天线系统中的能效性分析:在该系统模型中，我们推导得到了使用天线选择时互信息量的近似分布。从得到的结果中发现即使使用了天线选择技术，“信道硬化”的现象仍然存在。在此基础上，我们得到了能效性的闭式表达式，分析了两种情况下能效性的表现:1）电路损耗与发射功率在同一个数量级或者电路损耗远远大于发射功率2）电路损耗远远小于发射功率。理论分析表明在第一种情况下，存在一个最优的选择天线数量使得能效性最大，而在第二种情况下，使用所有的可用天线能够获得最优的能效性。基于上述理论结果，提出了两个简单并且有效的天线选择算法来获得最大的能效性。　　(2)毫米波通信系统中的多址接入信道容量分析:首先建立了三维坐标系表示任意的天线摆向，根据建立的坐标系，推导得到了多址接入信道的和速率表达式，然后将优化问题进行等价。根据发射节点与接收节点之间能否满足“瑞利距离标准”分三种情况讨论，得到每种情况下获得最大和速率的最优天线摆向条件。对于不能获得最大和速率的场景，使用迭代算法获得次优解。最后仿真结果表明，通过仔细设计天线阵列的摆放方向可以有效的提高系统容量。