随着人们对通信系统容量和可靠性要求的进一步提高,如何改善基于阵列天线的信号处理算法的性能并降低其复杂度,成为越来越受关注的问题。基于阵列天线的到达角(Direction of Arrival, DOA)估计问题中,DOA估计算法的复杂度和性能成为制约天线规模大小的因素。阵列天线的波束成形问题中,自适应波束成形器需要抵抗系统环境的快时变性和不稳定性。针对上述两个问题,本文对其进行深入研究,并提出有效的改进算法。基于阵列天线的DOA估计问题中,本文提出了一种低复杂度的基于降维子空间的交换低维分解(Alternating Low Rank Decomposition, ALRD)机制。ALRD机制中,阵列接收数据依次通过一个子空间分解矩阵和一个低维辅助矢量处理,计算输出功率谱,通过谱峰搜索,估计信源DOA。子空间分解矩阵由一组基向量构成,基向量和辅助矢量依据线性约束最小方差(Linearly Constrained Minimum Variance, LCMV)准则进行联合优化。将ALRD机制与递归最小二乘(Recursive Least Squares, RLS)算法结合,提出自适应的ALRD-RLS算法。此外,对ALRD机制进行改进,用同一个基向量通过平移的方式构成子空间分解矩阵,提出MALRD机制。与现有的DOA估计算法相比,提出的ALRD-RLS算法和MALRD-RLS算法复杂度较低,并且在较少快拍数和低信噪比环境中,性能有明显的改善。关于自适应波束成形器的设计,本文基于LCMV准则,将两种实现结构与两种自适应算法进行组合,选择性能最优的搭配,并基于该最优搭配设计了两种低复杂度的变遗忘因子(Variable Forgetting Factor, VFF)机制。实验表明,广义旁瓣抵消器((Jeneralized Sidelobe Canceler, GSC)结构与RLS算法组合时,波束成形器性能最优。两种VFF机制分别为基于时间平均的变遗忘因子(Time Averaged Variable Forgetting Factor, TAVFF)机制和相关时间平均的变遗忘因子(Correlated Time Averaged Variable Forgetting Factor, CTAVFF)机制。TAVFF机制将当前数据快拍的瞬时代价函数进行时间平均,用来调节遗忘因子的值,CTAVFF机制则是将相邻数据快拍得到的瞬时代价函数进行相关运算,用于调节遗忘因子。与其他VFF机制相比,TAVFF机制和CTAVFF机制复杂度很低。对采用TAVFF机制和CTAVFF机制的RLS算法进行平稳状态分析和仿真实验,其结果表明改进算法在收敛速度和稳态性能上均有所提升,并且在平稳和非平稳的环境中都能高性能工作,有效地解决了在时变的通信环境中,难以预先确定RLS算法中最优遗忘因子值的问题。