阵列信号处理主要利用阵列空域结构信息进行信号处理以获得待估计的期望信息,目标波达方向(Direction-of-arrival,DOA)估计和波束形成是阵列信号处理的两个重要研究领域。DOA估计主要是对到达接收阵列的来波信号的到达角进行估计,进而为波束形成提供先验信息;而波束形成器的主要目的是利用DOA等先验知识提取期望信号,同时尽可能的抑制干扰信号和噪声。与单天线信号处理技术相比,阵列信号处理技术利用了数据采集系统的几何形状以及传感器特性等先验信息,其具有超分辨、高增益和同时估计多个目标信息等性能优势。但实际应用中,阵元位置扰动、幅相误差、低信噪比和小快拍等非理想因素会严重降低DOA估计精度和波束形成器的空域滤波效果,且仅利用阵列结构提取信号信息的相关改进算法已很难带来较为明显的性能提升。为此,针对非理想条件下空域阵列信号处理方法性能下降等难点问题,本文进一步探讨了不同场景中的接收信号在时空频域中的特性,在此基础上,研究了基于信号时空频特性的阵列信号处理技术,以改善传统的DOA估计器和波束形成器的输出性能。本论文的主要工作及创新点归纳如下:首先,研究了基于信号时域特性的DOA估计和波束形成算法。随着研究的深入,人们发现常规的阵列信号处理方法对来波信号本身的时域信息利用并不充分,而充分利用信号的时域特性可以显著提高阵列信号处理器的输出性能。通讯系统中许多信号都是非圆信号,非圆特性作为一种典型的时域特性得到了广泛的关注,这是因为基于信号时域非圆特性的阵列信号处理方法可以更加充分的挖掘信号的二阶统计信息。在DOA估计器设计方面,结合信号非圆特性和确定性最大似然方法,本文提出了基于信号非圆特性的确定性最大似然方法,为了降低算法求解复杂度,提出了非圆交替投影方法求解该问题。此外,相比于ESPRIT方法,结构最小二乘(Structured least squares ESPRIT,SLS-ESPRIT)方法更好的建模了信号子空间误差之间的结构关系,结合SLS-ESPRIT和信号非圆特性的优势,本文提出了非圆SLS-ESPRIT的DOA估计方法。在波束形成器设计方面,针对现有的基于信号非圆特性的波束形成算法在存在阵列误差时鲁棒性较差且收敛速度慢等问题,本文提出了基于信号非圆特性的变步长迭代自适应波束形成算法,该算法通过自适应调整迭代步长以加快算法收敛速度,同时进一步利用信号的非圆信息以获得较好的输出信干噪比。其次,研究了基于信号空域特性的DOA估计和波束形成算法。由于阵列接收信号在通常情况下均具有空域稀疏分布的特性,且基于信号稀疏特性的阵列信号处理方法在小块拍、低信噪比以及信号源相干等情况下具有更好的适用性,因此该类方法得到了广泛关注和研究。值得注意的是,稀疏类方法在应用到阵列信号处理领域中时,往往会遇到栅格约束和调节因子选择等极具挑战性的问题。为了克服以上挑战,在DOA估计器方面,本文提出了一种不需要调节因子选择的块交替迭代DOA估计算法,该方法利用嵌套阵列以增加算法自由度,并将栅格建模为随机变量的形式,进而将DOA估计问题建模为联合字典学习和稀疏信号恢复的问题,使得DOA估计器摆脱了栅格点的约束,提高了估计结果精度。针对相干信号问题,本文提出了一种稳健松弛的DOA估计方法,该方法利用块连续上界最小化的方法更新每一个信源的优化代价函数,然后利用牛顿迭代方法对DOA进行进一步的精确定位。在波束形成器方面,本文提出了一种基于中断概率的发射波束形成方法,该方法利用来波信号具有空域稀疏分布的特性,将信道建模为高斯混合模型,然后考虑在满足指定发射功率约束的条件下,最小化中断概率来设计波束形成器。最后,研究了基于信号频域特性的DOA估计和波束形成算法。由于宽带信号广泛存在于许多实际应用中,与窄带信号模型不同,宽带信号无法表示成导向矢量和源信号乘积的形式,从而带来了更具挑战性的宽带阵列信号处理问题。通常情况下,可以对阵列信号做傅里叶变换,用频域模型描述宽带信号,因此许多基于信号的频域分布特性的阵列信号处理手段被提出。在DOA估计方面,针对欠定条件下的宽带信号DOA估计问题,本文提出了一种基于迭代最小化的稀疏重建DOA估计方法。该方法利用信号在频域的不同子频带具有相同分布的特性建立代价函数,进而通过迭代方法进行DOA估计。在波束形成方面,首先针对单频信号,本文提出了一种基于协方差矩阵重建的最差性能稳健波束形成方法,该方法首先通过干扰噪声协方差矩阵重建的方式剔除了期望信号的信息,然后利用自适应的方法近似估计期望信号导向矢量的误差范围,进而用更新后的误差值代替最差性能波束形成器中预设的误差常数。此外,本文进一步将干扰噪声协方差矩阵重建的方法推广到宽带模型,通过将信号变换到频域,利用信号的频域分布特性估计宽带信号干扰噪声协方差矩阵。仿真实验证明了所提方法具有较好的鲁棒性和输出性能。