如今,小天体成为越来越受关注的太空探索目标。对于小天体探测任务,特定区域的近距离飞行观测至关重要,因为它允许探测器在安全范围内最大限度地靠近小天体,从而实现更精确的地貌观测任务,也为即将到来的着陆阶段进行排练并收集信息。小天体探测任务中,探测器距离地球遥远且所受作用力复杂,小天体周围环境不确定性大,地面测控无法提供快速准确的测量,并进行迅速的决策与控制,传统的轨迹规划方法难以满足快速、鲁棒和安全等要求,因此优秀的任务轨迹自主规划方法是实现小天体特定区域近距离飞行观测任务的关键。本文主要对小天体表面多个兴趣点的近距离飞行观测任务的轨迹自主规划问题进行了研究。首先对小天体附近的力学环境进行了建模。小天体引力场建模为在布里渊球外采用球谐函数模型,在布里渊球内使用内球贝塞尔引力场模型,解决了当探测器处于布里渊球以内时,球谐函数引力场中的无穷级数计算结果存在较大误差甚至发散的问题。对主要空间摄动力进行计算,并推导了小天体固连系下的探测器动力学模型。接着,针对小天体表面特定区域的飞越观测任务,根据探测器与观测点的相对距离、视线角和光照条件设计了观测收益评价指标,建立了考虑多约束的轨迹规划模型。然后,针对之前建立的规划模型,分别基于自适应网格细分算法和多种群遗传算法给出了飞越观测任务的单脉冲轨迹规划方法。轨迹仿真显示出两种算法能很好解决单个兴趣点飞越观测任务的轨迹规划问题。最后,将小天体表面单个兴趣点的观测任务拓展为多个兴趣点的观测任务,给出了一种解决多目标任务的滚动时域规划方案,对前述的单点观测任务轨迹规划模型进行了改进。在多个兴趣点的飞越观测任务的轨迹规划仿真中,验证了滚动时域规划方案的有效性。通过引入两个带启发性质能对决策进行优化的参数——后续观测机会和末端状态价值,改善了滚动时域规划的全局优化性能。分别通过100次蒙特卡洛仿真分析了这些参数对提高任务成功率、降低任务成本的价值。并设计仿真验证了前述的两种搜索算法在这类解空间存在大量局部最优区域的规划问题中表现良好。