目标方位(DOA)波达估计一直以来是阵列信号处理的热点之一。传统的阵列信号处理利用空间布置的声压传感器阵列接收目标辐射的声信号做波束形成来实现DOA估计。然而常规的波束形成受瑞利限的约束，对目标的分辨能力由空间孔径的大小决定。对于低频信号，通常阵列需要具有较大的孔径，这样势必会造成成本的提高，以及使用的不便。近些年来，矢量传感器阵列信号处理技术日益成熟。由于它同时共点地拾取声场中声压和振速的信息，可以得到较声压传感器更多的信息量，得到的波束具有比常规波束形成有更窄的波束，且消除了声压波束形成中的左右舷模糊问题，故在本论文中将矢量传感器应用于较小的阵型，研究小尺度矢量阵的多目标分辨问题。本文首先简述了矢量阵信号处理的基本理论，阐明了相干源辐射声场和各向同性干扰场中声压和振速的相关性，并对矢量传感器的指向性进行了分析，选择了增益不随方位角度的变化而变化的矢量组合(p+v_c)·v_c作为波束形成的输出组合。本论文所采用的波束形成较以往波束形成不同，是利用了自适应notch滤波器的离线重构相移波束形成，该滤波器具有窄带滤波的特性，可以跟踪信号频率，提取噪声背景下的线谱成份，并且灵敏度和相位的补偿比传统做法更简易。针对阵列信号处理中目标分辨率的问题，提出了频段划分思想、虚拟阵元和恒定束宽方法。将宽带信号划分成窄带信号处理，避免了因为信号强度不同相互覆盖的现象；虚拟阵元技术可以有效减少栅瓣，在一定程度上可以增加空间孔径的大小，从而使主波束变窄；恒定束宽则是将不同频段上不同宽度的波束转化成相同宽度的波束，为后续个频段的波束融合创造了条件。同时，虚元的引入也解决了在恒定束宽过程中时延差估计的相位模糊问题。最后，详细阐述了小尺度矢量阵多目标分辨系统的流程，指出虚元和恒定束宽在小尺度阵多目标分辨和跟踪中的具体应用，结合实际工程的情况，给出一系列判据，对信息的融合判断从最大程度上降低虚警概率。论文给出了仿真结果和实际数据的处理结果，对该方法的可行性进行了验证。