随着无线通信技术的发展,移动通信网络产生的数据和能耗迅速增长,用户对提高传输速率和降低系统能耗提出了更高的要求。波束成形采用多天线技术,多天线技术具有改善信号质量、扩大系统容量、提高能量效率等优点,本文主要研究了多基站MISO下行干扰信道中频谱效率和能量效率最大化的波束成形。本文针对基站传输功率限制下的系统频谱效率最大化和能量效率最大化进行研究。这两个问题均为非凸优化问题,很难得到问题的全局最优解。传统方法一般将非凸优化问题转化为凸优化问题,通过迭代算法来逼近最优解。但是迭代算法存在计算复杂度高的缺点,因此寻求复杂度低的波束成形方法是一项具有重要意义的工作。近年来,深度学习作为人工智能领域的一个重要分支得到了快速发展。深度学习通过离线训练神经网络,然后利用训练好的神经网络对目标进行在线预测,减少了在线计算复杂度。本文主要研究了利用深度学习算法设计频谱效率和能量效率最大化的波束成形。首先,本文提出基于深度学习的频谱效率最大化波束成形算法。一般地,直接使用卷积神经网络估计波束成形向量,网络输出的维度会随着发射天线数量的增加而显著增加,导致神经网络的训练变得困难。因此,本文提出了低复杂度的深度学习算法。该算法主要分为两步,第一步用深度学习求得波束成形向量结构中的参数,第二步利用网络预测输出的参数,结合二分法得到最优波束成形向量。该算法同时考虑了性能和计算延迟,并可以实时学习最优波束成形。最后,通过与基准算法对比,仿真结果证明该算法不仅能够保证容量性能的有效性,同时降低了计算复杂度。然后,本文在频谱效率最大化系统模型的基础上考虑功耗问题,提出了一种基于深度学习的能量效率最大化的波束成形算法。算法中的网络结构采用卷积神经网络,为了降低网络的输出维度,减少训练复杂度,选择波束成形向量最优解中的部分标量参数作为输出数据集,将网络预测的输出值经过在线计算得到最优波束解。最后对基于深度学习的最优波束向量解进行了数值仿真,通过与基准算法对比,证明了其性能的有效性,以及低时延性。