具有时变特性的非平稳信号广泛的存在于各个领域中，要想揭示非平稳信号的本征特征需要借助于各种时频分析方法，而Hilbert-Huang变换方法是一种新颖的时频分析方法，它可以不利用任何先验知识仅根据信号自身的特点自适应的将任意复杂的非平稳信号分解为若干个本征模态函数之和，每个本征模态函数在某一时刻只含有一个振动模态，因此可以得到具有物理意义的瞬时频率。Hilbert-Huang变换方法具有自适应分解信号和时频分辨率高的突出特点，相比与其他的时频分析方法，在非平稳信号分析与处理中具有显著的优势，Hilbert-Huang变换方法自诞生以来就引起了人们极大的关注，人们纷纷使用这种方法来处理各领域内的非平稳数据，目前Hilbert-Huang变换方法已经被广泛的应用到了科研与工程的各个领域中。本文对Hilbert-Huang变换算法中的均值曲线拟合、端点效应和模态混叠等问题进行了研究，并提出了相应的解决方案。论文中提出了一种利用分段高级样条直接拟合均值曲线的方法，该方法利用分段高阶样条获得更精确的均值点，对均值点序列直接进行拟合来得到均值曲线，该方法使得使得EMD方法在筛选本征模态函数时可以获得更为精确的均值曲线，从而实现准确的模态提取，同时相对于传统的方法，该方法具有更快的分解速度。本文中对模态混叠问题也进行了研究，分析了产生模态混叠现象的根本原因，提出了一种基于平移不变小波变换和EMD尺度滤波的消除模态混叠的方法，利用该方法可有效的剔除信号中引起模态混叠现象的高频间断信号，从而达到克服模态混叠现象的目的。传统的Hilbert-Huang变换算法存在着运算量过大的缺点，为了使Hilbert-Huang变换算法在硬件上能够实时实现，本文针对水声信号处理中信号的特点，对Hilbert-Huang变换方法从均值曲线拟合、端点效应处理、筛选本征模态函数的终止条件、EMD分解的终止条件、计算Hilbert变换等几个方面对其进行了算法改进，使得在保证Hilbert-Huang变换性能的基础上，大大减少了Hilbert-Huang变换算法的运算量。针对水声信号的特点，本文将Hilbert-Huang变换应用到水声信号处理领域，发展了基于Hilbert-Huang变换的目标方位估计方法和水声通信方法。本文将Hilbert-Huang变换方法与矢量声信号处理技术相结合，发展了一种基于Hilbert-Huang变换的目标方位估计方法，该方法对矢量水听器输出的各路信号分别利用EMD方法进行分解，再利用同阶本征模态函数的解析信号得到复瞬时声能流，从而得到某一目标的瞬时方位。该方法可以将矢量水听器输出的合成矢量信号分解为单分量信号之和，从而实现对不同方位目标的识别。具有不同起始频率和调频斜率的两个线性调频信号在进行合成的时候由于相位变化速度的不同，合成的信号中将出现一些局部反相的情况，造成附近出现小尺度信号的情况。对这样的合成信号利用EMD进行分解并利用Hilbert变换得到其一阶本征模态函数的瞬时频率曲线上将出现一些峰值，而采取一定的方法对合成后的信号进行改造会使具有峰值的地方变得平坦甚至凹陷。在此基础上可以发展出一种基于Hilbert-Huang变换方法的水声通信方法，该方法利用尺度上的信息进行编码，利用本征模态函数的瞬时频率进行解码，本章对该方法从仿真实验、水池实验和湖上实验等方面验证这种新的水声通信方法的有效性。