毫米波通信技术是5G高频通信的关键技术之一。为有效弥补传播过程中巨大的路径损耗,毫米波通信系统通常采用波束成形技术(Beamforming,BF)对无线信号的能量进行聚焦,从而形成一个指向性的窄波束(Beam)。但如何保持基站与终端之间的波束是对准的,尤其是当用户处于移动条件下快速准确地进行波束配对是技术上的难点。要获取高增益的定向窄波束,收发端需要精确的信道状态信息,传统方案一般采用信道估计技术,但该方案在动态场景中会造成巨大的训练开销。因此,本文主要基于均匀线性/矩形阵列两种传输模型研究适用于毫米波通信系统的低复杂度波束跟踪技术。首先,研究了一种基于均匀线阵模型的低复杂度波束跟踪算法。该算法以二阶扩展卡尔曼滤波为核心,并结合了一种基于阈值判定的波束切换方案,在保证低复杂度的前提下降低了估计误差。仿真结果表明当信道角度参数AOA/AOD(Angles of Arrival/Angles of Departure)的变化速度范围处于0.5～0.7度/时隙时,该算法相比同类算法可以使估计误差最多降低约30%,同时仍然保持了较低的计算复杂度。然后,为了解决现有波束跟踪算法普遍存在的大阵列对AOA/AOD变化敏感的问题,研究了一种具有鲁棒性的两级波束跟踪算法。该算法通过对辅助波束对结构(Auxiliary Beam Pair,ABP)进行改进,使其适用于波束跟踪框架,并将目前具有代表性的扩展卡尔曼滤波(Extended Kalman Filter,EKF)波束跟踪作为一级算法来实现初始ABP的构成。该方式巧妙地实现了一种带有AOA/AOD修正能力的低复杂度波束跟踪算法。仿真结果表明该算法有效降低了大阵列对AOA/AOD变化的敏感程度,使得AOA/AOD估计值的变化轨迹可以紧跟真实值的变化轨迹,显著提高了同类型算法的鲁棒性。最后,研究了一种基于均匀矩形阵列模型的波束跟踪算法。首先分析了矩阵分解(Matrix Factorization,MF)校准算法的解决思路,并指出该算法对信道矩阵进行元素级校准导致的计算量庞大以及代价函数选取理想化的问题。为此,研究了一种基于最小方差准则的次优校准算法,并尝试采用无迹卡尔曼滤波(UnscentedKalman Filter,UKF)波束跟踪进行初始估计。仿真结果表明UKF波束跟踪可以有效降低校准算法的迭代次数,并且所研究的次优校准算法在慢时变信道环境下的估计性能可以逼近最优的MF校准算法,同时具有更小的计算量。