进入21世纪后,世界各国进一步加快了在深空探测领域探索的脚步。与此同时,深空探测器的数目与种类也在急剧增加,而火星“类地”特征的存在和历史存在河流等的发现使得火星探测逐渐成为当前深空探测活动的主流。由于探测器的深空飞行任务时间长、距离远、环境复杂多变,因此探测器的有效自主导航与控制尤为重要,成为深空探测领域最重要的关键技术之一。而在各种导航方案中,滤波技术的有效应用可以在很大程度上提高探测器导航的精度和自主性。本文依托于国家973项目“深空探测高精度天文测角测速组合自主导航基础研究”,以火星探测为研究对象,主要对火星探测器的巡航段展开讨论。首先研究了目前常用的自主导航方案和滤波方法,通过对巡航段模型时变特性的分析,制订了适宜的自主导航方法,同时对滤波技术也进行了一定的改进。在巡航段,小行星成像可近似为点光源,是可观测的主要导航天体。因此本文采用通过观测小行星来获取相应的导航信息,提出了基于星光角距的天文/惯性组合自主导航系统方案。在该方案中首先建立了导航系统的四体模型状态方程和基于小行星夹角的量测方程,并构建了导航星体数据库,完成对天文/惯性组合自主导航系统的搭建。其次确立了导航过程的评价指标,以实现对导航方案的仿真验证。导航的系统和观测模型均为非线性系统,应采用适用于非线性系统的粒子滤波进行更为精确的导航估计。本文中对粒子滤波方案中的重采样技术进行了改进,提出了分别基于奖惩策略和粒子优选策略的分层重采样方法。在对粒子集分层的基础上,充分考虑小权值粒子的影响,对各层次的粒子进行分类处理,有效遏制因重采样导致的粒子匮乏问题,在兼顾实时性的基础上对滤波精度进行了一定提升。其次,利用一维非线性追踪模型对改进的粒子滤波进行仿真,验证了改进方式的可行性。再次,将改进的重采样方案与EKF和UKF滤波技术相结合,实现了滤波精度的进一步提升。最后,本文以2018年火星探测任务为例对上述导航方案进行仿真验证,将改进的扩展卡尔曼滤波与无迹粒子滤波方法应用于本文提出的组合导航系统,利用MATLAB进行仿真验证和结果分析,同时将实验结果导入STK软件进行可视化验证。实验结果表明本文提出的导航系统与改进的滤波方法具备更好的导航性能。