下一代移动通信在追求超高传输速率的同时对应用场景也提出了多样化的要求。随着飞机高铁等交通运输方式的普及,人们希望在高速运动场景下获得相同的通信服务。毫米波通信凭借其丰富的频谱资源广受关注,同时它也需要结合多天线波束成形技术来补偿传播过程中的严重路径损耗。幸运的是,毫米波频段极短的波长让对应使用的天线物理尺寸极小,可以大规模使用天线阵来获得很高的接收增益。但同时天线数目的增多也向传统的波束成形技术提出了挑战。为了更好的平衡硬件损耗与所获性能,结合数字波束成形高性能和模拟波束成形低功耗特点的混合波束成形技术应运而生。本文以高速运动物体下的通信为研究背景,在毫米波系统的混合波束成形架构下研究快速有效的自适应波束跟踪技术。本文主要工作内容如下:首先本文研究了基于码本搜索的波束成形算法。即在预定义的波束集合中根据信道实时训练选择能获得最大频谱效率的波束作为发送端和接收端的成形矩阵。此类方法可以避免复杂繁琐的信道估计,将波束成形矩阵的计算简化为多元函数在固定取值范围中求最优值问题。本文提出的二维离散随机优化算法在搜索过程中每次都以最大概率向最优码字前进,并且热启动初始化的策略避免了多次随机初始化所带来的无用搜索。接下来针对三维平面阵应用下码本规模急剧增大的情况,本文还提出了逐流优化的思想。在多数据流下的通信将每个数据流的成形矢量独立训练,可以很大程度上减少搜索次数,使得波束训练时间大大缩短。通过理论推导与仿真验证可以发现,本文所提算法获得性能最接近于全域穷举搜索,并且训练开销与计算复杂度极低。然后本文研究了一种盲自适应波束成形算法。该算法应用在分离型子阵划分结构的混合波束成形系统中。利用相邻子阵间接收信号的时延关系可以提取出期望信号波束到达角信息,并且该算法在理论上就消除了多普勒频移对角度估计的影响,可以很好的适用于高速运动场景下。算法结合前一时刻波达角方向在其邻域内搜索可以很好的跟踪波束不至于丢失。差分波束估计算法在不同子阵划分形式下具有高度适用性,仿真发现该算法可以获得良好的波达角估计,并且通过增加子阵的数量可以提高算法的收敛速度。最后本文在前一个研究点的基础上研究优化数字波束成形矩阵以获得更高的输出信干噪比,具有更好的抗干扰性能。本文根据线性约束最小方差准则提出了两种适应于分离型子阵结构下的混合波束成形算法。与经典最小方差无失真响应(MVDR)算法相比均降低了算法运算复杂度。其中分级MVDR算法将高维度成形矩阵的求解转化为两个低维度矩阵的求解。子波束域MVDR算法将传统算法中对天线阵元加权矢量的求解转化为对各波束方向加权矢量的求解,降低计算复杂度的同时提高了算法对期望信号方向估计误差的容错能力,使算法更具有鲁棒性。