小行星探测聚焦宇宙生命起源等重大科学问题,一直是深空探测的重点和热点。开展小行星探测,对于探索生命起源、研究太阳系起源和演化、保护地球安全具有重要意义。小行星数量众多,具有弱引力、形状不规则、动力学环境复杂等特征,给小行星探测器的轨道设计优化与自主导航系统设计带来了新的技术挑战。本文以我国未来的小行星探测任务为背景,针对双小行星探测中的特殊问题,开展小推力轨道优化与自主导航关键技术研究。根据动力学特征的不同将小行星探测过程划分为巡航段和环绕段,并分别针对这两个过程的轨道设计优化以及由此引起的自主导航方面的问题进行深入研究,主要研究工作包括:定义小行星探测任务中常用的坐标系,建立巡航段轨道动力学模型,在二体动力学模型的基础上,建立瞬时引力辅助模型、变模式电推进推力模型,并进行归一化处理;建立双小行星捕获段、环绕段的三体动力学模型,推导并分析其主要动力学特征,为后续章节的研究提供理论支撑。针对多天体借力的小推力转移轨道设计与优化问题,提出一种串联式组合优化策略。首先基于改进的能量状态图搜索可能的借力序列,然后利用粒子群算法得到全局最优的脉冲转移轨道,最后以脉冲转移轨道为初值,通过直接法求解小推力转移轨道优化问题。仿真分析表明,所提的优化策略能够充分发挥粒子群算法的全局最优性和直接法对初值不敏感的特性,得到满足工程约束的小行星探测转移轨道,为求解多天体借力小推力转移轨道设计与优化问题提供了一种有效的方法和途径。针对巡航段采用小推力变轨带来的推力模型不确定性等问题,提出了改进的自适应交互式多模型无迹卡尔曼滤波算法,克服了模型集合先验信息不准确对导航精度的影响,以较少的模型个数实现对导航系统状态的覆盖,克服了模型集合先验信息不准确对导航精度的影响,数值仿真表明,位置估计精度和速度估计精度有明显提升,组合导航系统的鲁棒性和抗干扰能力大幅提高。针对双小行星系统探测捕获过程的轨道设计与优化问题,提出了一种利用双小行星系统特殊的动力学特性进行捕获轨道设计的方法,通过零速度曲线将具有正惯性能的日心轨道和具有负惯性能的环绕轨道连接,通过打靶零速度曲线来提高惯性能的变化量,然后在远拱点施加一个小的速度增量使探测器进入一个有界的环绕轨道,并通过引入旋转质量偶极子模型将提出的捕获策略扩展应用于狭长型小行星。针对双小行星探测环绕段相对自主导航问题,利用双小行星自转角速度参数建立双小行星动力学递推模型,提出了不依赖测距信息的环绕段相对自主导航方法,采用双小行星的视线角作为导航量测量,克服视线矢量信息受探测器姿态指向精度影响的问题,通过测角测速组合导航解决观测盲区的导航滤波发散问题;提出了一种通过迭代判断实现双小行星动力学递推初值修正方法,显著提升了双小行星动力学递推初值的估计精度。