目前,无线通信系统大多部署在3GHz以下,随着接入网络的无线设备不断增多,移动数据业务量呈数量级增加。大量的无线数据对网络容量不断提升的需求导致在低频段出现频谱资源紧张。毫米波频段具有丰富的频谱资源可供无线通信使用,可以极大的提高无线网络容量从而满足数据业务量不断增长的需求。然而毫米波信号在传播过程中路径损耗较高,需要通过多天线技术提供足够的链路增益才能在通信收发端建立稳定的连接。而毫米波频段信号具有波长较短的优势,在一定的面积上能够放置大量的天线阵元,适合大规模天线阵列的部署。因此,毫米波大规模天线技术不仅能够使用较宽的频谱资源而且能够获得阵列天线的多种增益,可以显著的提升无线通信系统的性能。毫米波大规模天线技术将在未来宽带无线通信应用中扮演重要的作用。毫米波大规模天线技术的实际应用仍然面临着诸多的挑战,本文的研究内容为毫米波大规模阵列中的模拟波束成形方法以及单比特架构下的波束成形方法,具体的研究内容如下:针对相控阵波束成形中采用的移相器精度有限的问题,分析了射频移相器精度对毫米波相控阵波束成形的影响。本文从理论上分析了射频移相器的量化误差对单流波束成形带来的增益损失,建立起增益损失与移相器误差之间的理论关系,仿真表明4比特移相器在单流波束成形应用中具有足够的精度。同时,移相器的误差会对波束成形的指向带来偏差,本文分析了移相器的量化误差对单流波束成形指向的影响,建立指向误差与移相器量化误差之间的理论关系。仿真结果得出,在毫米波大规模阵列的情况下,移相器精度对指向带来的误差有限。毫米波阵列较大,针对建立通信时的波束成形技术通常需要进行信道估计而具有较大的开销和复杂度的问题,提出了线性相控阵中的一种低复杂度基于级数迭代的模拟波束成形方法。该方法通过级数迭代原理,利用毫米波信道中不同路径之间近似正交的性质,在多次迭代中获得毫米波信道中最强路径所对应的阵列响应作为波束成形矢量,它能够在避免信道估计的情况下通过收发端之间多次迭代实现通信双方的波束对准。该方法能够获得接近于传统的奇异值分解(Singular Value Decomposition,SVD)方法的性能并拥有快速收敛的性质,能够减小在无线通信连接建立过程中的系统开销;在实际应用中,平面天线阵列不仅能够提供较大的增益同时具有更好的指向分辨率,在未来宽带通信中会具有较大的应用潜力。本文将线性阵列中的基于级数迭代的波束成形方法扩展至平面阵列,解决了在单射频链路情况下获取二维阵列中每个阵元接收信号的问题,在迭代中将获得毫米波二维信道中最强路径对应的阵列响应作为波束成形矢量,仿真中验证该方法能够获得接近于SVD方法的信道容量并且能够快速收敛。目前毫米波大规模天线阵技术中与波束成形有关的文献较多采用平坦衰落信道模型来进行分析求解,本文提出了在频率选择性信道模型下线性相控阵的迭代波束成形方法,该方法中分析了在相控阵中提取信道矩阵奇异向量的相位作为波束成形权重的有效性,利用级数迭代的原理获得近似最优的波束成形系数,该方法避免了在大规模天线阵列条件下的信道估计,减小了毫米波无线通信系统中的开销,并具有较快的收敛速度。毫米波大规模阵列天线数量较多,采用全精度模数转换器(Analog to Digital Converter,ADC)进行数据采样会带来较大的系统功耗。针对该问题,本文提出了采用单比特ADC条件下的多天线阵列接收端波束成形方法,该方法首先利用网格划分的方法对信号的到达角(Direction of Arrival,DOA)进行粗估计,选取获得最高接收功率的网格作为DOA粗估计值,并将粗估计值作为自适应最小均方(Least Mean Square,LMS)算法的初始值,通过LMS算法寻找最终的波束成形矢量。该方法能够获得与精确的DOA估计接近的性能同时具有较快的收敛速度。