航天器轨迹优化的目标是在空间中的任意两个轨道之间寻找一条能量消耗最少的轨道。对于脉冲变轨,可利用Lambert问题来求解终端正切条件下转移轨道参数的解析解。对于连续推力变轨,几乎无法得到解析解,而由间接法可推导得到的非线性两点边值问题,但其协态变量初始值难以猜测,这一直以来是航天领域未解决的问题。然而连续正切推力轨道(推力矢量沿着飞行路径角方向)具有能量消耗少,无需改变推力方向等优势,可为最优连续小推力轨道提供初始设计。因此,本文对正切轨道问题展开研究,主要内容包括:(1)最优双脉冲终端正切交会问题;(2)连续正切推力共面轨道多圈转移和交会问题;(3)连续正切推力异面轨道多圈转移和交会问题;(4)最优连续小推力共面和异面轨道多圈转移问题。具体的研究成果如下:针对共面椭圆轨道,提出了一种最优双脉冲终端正切交会方法,考虑了近地点半径下边界和远地点半径上边界约束。终端正切交会要求两航天器经过相同的飞行时间以相同的路径角到达交会点。在轨迹安全约束下,求得了解析形式的最终真近点角范围。转移轨道的转移圈数是以初始轨道和目标轨道的真近点角和漂移圈数为变量表示的函数。当给定目标轨道最大漂移圈数时,即可确定所有可行解,进而确定能量最小解。最后,分析了两个数值例子的所有解,最优解存在于含有初始漂移段的转移情况中。当交会时间足够长时,终端正切交会的最优解略优于双正切交会的最优解。对于短的交会时间,双正切交会也许无解,而终端正切交会存在解。针对连续正切推力共面轨道转移和交会问题,提出了一种径向形状函数。并证明该形状能够在轨道的近地点和远地点之间来回振荡,且满足轨迹安全约束。对于转移问题,由轨迹边界条件确定形状系数解析解。对于交会问题,由轨迹安全约束确定第四个形状系数的解析形式范围以及确定交会时间的范围。对于给定的交会时间,可通过割线法求解第四个形状系数。对于短的交会时间和交会时间足够长两种情况,讨论了解存在的条件。与逆多项式形状相比,使用新径向形状函数的轨迹成型法能够提供能量更低、最大推力加速度更小的次最优解。针对连续正切推力异面轨道多圈转移和交会问题,以初始轨道平面为参考面建立球坐标系,并从几何上推导得到与转移轨道倾角和升交点赤经相关的仰角解析表达式。然后将倾角和升交点赤经分别表示为关于方位角的单调递增形状函数,可获得新的仰角形状函数。经过证明,新的仰角总是小于等于任意两个轨道平面之间的夹角,即轨迹总是介于任意两个轨道平面之间。针对倾角和升交点赤经变化大或同为高倾角的异面轨道,新仰角形状与第三章的径向形状的组合方法均存在解。最后,与Novak方法相比,使用新形状组合的轨迹成型法能够提供能量更低、最大推力加速度更小的次最优解。针对最优连续小推力轨道多圈转移问题,依次利用轨迹成型法、一阶梯度法和邻近极值法求解协态变量初始值。首先,利用第三章与第四章的轨迹成型法可得到能量次最优解;然后,将次最优的控制变量作为一阶梯度法的初始迭代条件,可得到粗略估计的协态变量初始值;最后,将粗略估计的协态变量初始值作为高精度的邻近极值算法的初始迭代条件,从而获得高精度的协态变量初始值。共面和异面小推力轨道数值例子表明三种方法相得益彰,有效地解决了协态变量初始值难以确定的问题,从而获得最优轨迹。