“天问一号”火星探测器已成功发射,我国的小天体探测任务预计于2024年前后实施。与大行星和月球等天体相比,小天体具有体积小、形状不规则、先验信息少的特点,其探测器的自主导航能力要求更高。本文以小天体着陆段为背景,对小天体探测器导航方案进行设计,并提出相应的滤波算法以提高探测器的状态估计精度。本文的主要研究内容如下:首先,构建小天体探测器着陆过程所参照的坐标系,并对各坐标系之间的转换关系进行推导。采用椭球谐函数法对小天体着陆段引力场进行建模,进而建立小天体探测器着陆段动力学方程。其次,针对小天体表面缺少可匹配特征点、陨石坑等陆标的问题,采用不规则曲线作为导航陆标,在成功匹配的基础上,利用不规则曲线上的点及切线的二维-三维信息,求解导航相机坐标系相对于小天体着陆点坐标系的旋转矩阵和平移矩阵,即解算小天体探测器的位置和姿态。针对小天体探测器在着陆过程中可能遇到的非高斯白噪声和其他未知突变噪声干扰的情况,采用UFIR滤波算法,对小天体探测器着陆段的位置和姿态进行估计。针对不同噪声干扰情况进行仿真,仿真结果验证了基于不规则曲线匹配的UFIR滤波导航算法的可行性,其稳定性也优于传统卡尔曼滤波算法。最后,针对小天体表面暗弱情况下导航陆标提取受到影响的问题,采用激光雷达/视觉的组合导航方案,并将小天体自转和导航相机到小天体表面特征点的位置作为状态量与小天体探测器位姿同时进行估计,为保证方程线性化精度采用UKF算法,对小天体探测器位姿进行估计,以爱神星（Eros433）小行星为背景对激光雷达/视觉组合导航算法进行了仿真,在5个特征点成功匹配的条件下位置估计误差在0.6米以内,姿态估计误差在1.5°以内。