小天体是指太阳系中除了行星和卫星之外的数不清的小行星和彗星，开展对小天体的探测和深入研究具有重要的理论意义和实际应用价值。大部分小天体的直径在100公里以下，它们距离地球较远，具有尺寸小、引力不规则等特点，探测器在绕飞、接近和着陆小天体过程中还会受到太阳光压、太阳引力等空间多种摄动力影响。可知探测器在小天体附近的动力学模型呈现显著非线性，不确定性和扰动加深了其动力学环境的复杂性。因此，小天体附近探测器运动的自主制导与控制技术是整个探测技术的关键。相比于月球等较大天体，小天体附近探测器运动的制导和控制具有一定的难点，研究成果还较少，目前有很多待解决的问题。比如小天体附近探测器所受到的不规则引力的处理和描述问题、探测器在小天体附近运动的轨道控制、姿态调整和姿轨耦合控制问题。探测器在小天体附近受到的系统不确定性和空间扰动增加了系统动力学分析及控制的复杂性，具有鲁棒性和和自适应性的控制方法是保证探测器成功绕飞、下降和软着陆的关键技术。从国内外的研究现状来看，对于小天体附近探测器运动系统，很多学者从航天领域出发研究导航、轨道机动和设计、基于相对运动模型的轨道控制设计。探测器在小天体附近绕飞及下降着陆过程中的姿态和轨道耦合控制也是必要的，控制器设计过程中的自主性、鲁棒性和自适应性也是研究的重点问题。本文结合国家重点基础研究发展计划资助项目“行星表面精确着陆导航与制导控制问题研究”的子课题“不规则弱引力场中探测器运动行为分析与着陆控制”，针对存在模型不确定性和外界干扰时小天体附近探测器运动的轨道和姿态控制问题，进行了深入、系统的探讨和研究。全文的主要内容及研究工作如下：1、阐述了论文选题的研究背景和研究意义，对小天体探测及小天体附近探测器运动的国内外研究现状及研究的关键问题进行了综述，指出了探测器运动的轨道和姿态控制中存在的问题。2、在小天体不规则引力和自旋影响下，基于牛顿运动定律和相对微分原理，推导出小天体固连坐标系下探测器下降轨道动力学模型；在此基础上，基于坐标变换思想建立着陆点坐标系下轨道动力学模型；利用刚体复合运动关系和欧拉-牛顿法建立探测器在小天体附近运动的姿态模型；最后根据执行机构的安装方式不同，给出探测器软着陆的两种姿轨耦合动力学模型表述方法。3、为了减少探测器下降着陆过程中燃料消耗，首先设计探测器下降着陆小天体的燃料次最优多项式制导轨迹。然后基于一类轨迹跟踪控制思想，在存在模型不确定性和外界扰动情况下，利用Lyapunov函数设计带有补偿项的终端滑模控制器，采用自适应律估计系统不确定性和外界扰动的未知参数，使探测器在有限时间内跟踪期望制导轨迹到达天体表面某一高度，使整个控制系统具有全局鲁棒性。接着针对此控制器存在设计过程复杂、控制参数难调整的问题，采用动态平面方法结合传统的反演技术，设计鲁棒跟踪控制策略，在此控制律作用下探测器下降着陆过程的位置和速度稳态跟踪误差收敛到原点的一个小邻域内，达到满意的控制效果。4、探测器在小天体附近绕飞过程中会受到不规则引力力矩、空间不确定和扰动力矩的影响，这样可能会影响和破坏探测器在绕飞过程中的姿态指向，从而无法对目标天体进行形状和参数的观测导致探测任务失败。针对以上问题，首先分析探测器在小天体附近绕飞过程中的姿态运动与转动惯量、轨道半径等参数的关系，基于赫尔维茨判据给出探测器绕飞的稳定条件。接着针对绕飞过程中存在的空间不确定和干扰力矩，设计鲁棒自适应反演滑模控制律，实现探测器三轴欧拉角姿态指向控制。5、针对传统滑模控制存在抖振的问题，提出探测器下降过程姿态调整的动态滑模控制方案。首先设计外环回路二阶动态滑模和内环回路一阶动态滑模控制器，利用积分项消除了抖振。并采用自适应律在线估计复合干扰的上界，有效抑制其影响，实现姿态角的指向控制。然后针对探测器可能遇到的较强干扰，采用非线性干扰观测器在线观测外界扰动，将估计值反馈给动态滑模控制器实现实时补偿。对于干扰观测器的估计误差，采用自适应律在线获得上界并设计补偿项，保证系统的鲁棒性。6、针对小天体附近动力学模型中存在的姿态和轨道耦合问题，首先设计一种反演自适应模糊六自由度姿轨耦合控制方案，采用模糊系统逼近系统不确定性和扰动引起的部分模型，并采用自适应律在线更新模糊系统的最优逼近参数，使探测器位置和姿态同时满足控制精度要求。考虑到执行机构配置方案不能提供足够的控制维数，提出一种基于反演思想的鲁棒姿轨耦合控制律，引入一阶滤波器避免级数膨胀现象，并保证闭环系统的稳定性。最后，总结本文所作的工作，并结合本人在小天体附近探测器轨道和姿态控制、鲁棒控制和自适应控制等方面的研究心得，做出了对未来的研究展望和下一步的工作计划。