非线性滤波算法因其普适性及重要性一直是国内外学者研究的热点问题。虽然在非线性滤波方面已经取得了一些重要的理论成果,但是对其的研究问题还不是很完善。对于非线性随机系统,利用传统的线性滤波精确无法求解非线性系统系统的状态后验分布,故无法得到精确的非线性最优滤波估计。为此经过不懈努力,学者们提出了许多经典的且易于实现的次优非线性滤波方法。随着对非线性估计理论研究的日益深入,非线性滤波理论也取得了显著进步,尤其以Sigma点卡尔曼滤波和粒子滤波为代表的的新兴非线性滤波理论的发展成熟,使得非线性滤波理论取得了长足的发展。然而,近十年来,关于非线性滤波的研究工作还是对已存在的方法的改进之上。随着机器学习理论的飞速发展,以及硬件性能的极大提升,机器学习的理论用于非线性滤波之上吸引了众多学者的关注。其中,变分贝叶斯学习与最大期望算法是机器学习算法的代表.变分贝叶斯学习是在传统贝叶斯推理与最大期望算法迭代估计算法的基础上引入变分近似理论而提出,因为比蒙特卡洛马尔可夫链法等采样方法在估计上的快速性,使得它的应用领域已经从图像处理、语音信号处理等参数推断领域延伸到了更大的信号处理领域,成为该领域一个重要的研究课题。作为非线性估计的一种方法,变分贝叶斯方法在模型适应性方面不够有力,有待于进一步发展。当非线性滤波系统存在未知参数时,如何对状态进行估计?如何辨识非线性状态空间模型?当系统存在非高斯随机不确定性参数扰动,如何对状态进行鲁棒估计?本文针对非线性状态空间模型,采用变分贝叶斯推理的方法,对加性、乘性及多未知参数的估计问题,状态空间模型的辨识问题,非高斯随机不确定性扰动的抑制等问题进行了研究。首先,建立未知参数模型,然后基于变分推理对状态和未知参数进行迭代估计;然后基于泛函分析的相关理论对所提算法进行收敛性分析,保证算法的稳定性;最后在典型应用场景下进行仿真实验,验证算法的有效性,使得算法在工程应用中具有很好的实际意义。本文的主要研究贡献包括:1.利用变分贝叶斯推理研究了含有单个加性及多未知参数的非线性自适应滤波算法。将变贝叶斯推理与蒙特卡洛采样技术相结合来解决这个问题,提出了一套求解未知参数和概率密度函数的非线性递推自适应滤波算法。所提出的算法通过产生可分离的变分分布来近似的逼近真实的系统与未知参数和状态的联合后验分布,同时给出了变分推理的收敛性分析,保证了算法估计的收敛性和抗干扰的鲁棒性。2.提出一类基于变分贝叶斯理论的非线性滤波算法,用于解决目标跟踪系统中测量噪声含有未知信息的问题。当未知测量噪声有条件独立于状态时,基于变分思想,将状态概率密度函数的估计转化为未知噪声和非线性状态的近似两个概率密度函数。然后,利用变分贝叶斯推理,建立了一种联合估计状态和未知测量噪声的迭代算法。因此,未知的测量噪声可以被估计为隐藏状态。给出了非线性概率密度函数近似算法的收敛性结果。3.提出了一种非线性系统中存在非高斯随机参数滤波器。滤波器设计的两个步骤,第一个是近似边际似然(非高斯随机参数)以进行模型比较;第二个是近似状态的后验分布(也称为系统模型),然后可以用于预测。确定循环的规则是状态的真实分布和选择的固定易处理分布之间的Kullback-Leibler散度,用于逼近真实分布,推导出迭代算法,该算法基于采样思想进行初始化。4.提出一种变分贝叶斯滤波器,针对非线性滤波模型中未知参数估计问题,结合期望最大化算法、粒子平滑器和粒子滤波器,直接估计一般非线性离散时间状态空间模型中的未知参数,采用最大似然准则来保证算法的一般统计效率。从概率密度函数的角度估计未知参数,其中非线性系统中考虑的未知参数变量可具有任意分布。对于未知参数和状态,将未知参数估计转化为两个概率密度函数,算法的初始化采用了序贯重要抽样法。然后,建立迭代算法来对状态和未知参数进行联合估计。5.提出了一种基于状态转移和观测函数为基函数展开的贝叶斯学习算法。针对非线性状态空间模型的辨识问题,从数据中学习基函数,使用与高斯过程进行连接,还发展了关于系数的先验知识,用于调整模型的灵活性和防止对数据的过拟合,类似于高斯过程状态空间模型。先验也可以看作一种正则化,并帮助模型在不牺牲基函数扩展所提供的丰富性的情况下对数据进行泛化。为了有效地学习系数和其他未知参数,使用最新的序贯蒙特卡罗方法形成了一个辨识算法,为贝叶斯学习提供了理论保证。