随着科技的快速发展以及军事、民用、医疗等方面需求的不断提高，能够有效地结合各种新技术，提高对运动物体状态的估计精度以及效率，对于估计理论的发展和应用研究具有十分重要的意义。然而，经典的状态估计算法，如卡尔曼滤波算法以及其一些改进算法等，均需要待测系统为线性或者弱非线性系统，这就大大地限制了这些算法在实际中的应用。因此，本文主要是在概率模型的基础上，对原有算法的不足进行改进，提出适用于复杂非线性系统的状态估计方法。　　对于经典的估计算法：扩展卡尔曼滤波、无损卡尔曼滤波、粒子滤波，本文分别对其收敛性以及估计精度进行了详细的理论证明，并通过在不同系统中的仿真实验，对比各种方法的优缺点以及论证各个方法的适用条件。由实验结果发现，对于强非线性系统以及高维系统扩展卡尔曼滤波的估计精度明显降低，而粒子滤波由于是一种不确定采样算法，对于强非线系统同样适用，但是该方法的运行时间较长，降低了算法的估计效率。　　无损卡尔曼滤波算法作为一种确定性采样算法，主要是利用一系列带权值的sigma点来近似非线性系统状态向量的后验分布。该方法只是捕获了后验分布的前两阶矩，故而在此基础上，本文通过对采样方法进行改进，使得三阶矩偏度也被捕获到。通过实验结果得出，该方法的估计精度相对于标准的无损卡尔曼滤波得到了明显提高，并且对于复杂的多峰分布的系统也同样适用。　　状态估计的实质就是利用观测值、系统的状态方程以及观测方程来得到系统的状态值。因此，本文将观测值作为初始序列，应用梯度下降法，通过迭代来得出满足状态方程的一列向量，即为系统的状态向量。实验表明，该方法有较好的估计精度。在贝叶斯滤波中当先验分布已知并且确定的情况下，本文提出一种简便算法，即基于共轭分布的思想，可直接得到后验分布的闭型解，避免了大量的积分运算。此外，本文还介绍了几种机动模型，对运动轨迹进行建模，将实际问题与算法有效的结合起来，并通过实验说明了状态估计算法在目标跟踪中的应用。