随着外太空任务的复杂化,在轨航天器趋于结构复杂、功能多样化、在轨时间长和高成本等,从而增加了航天器故障风险。另外,空间碎片日益增多,进而加剧了轨道资源的紧张和严重威胁了在轨卫星的安全。为了应对新的挑战,国内外航天机构提出了航天器在轨服务与维护系统建设。在轨服务的典型任务包括卫星在轨维修、空间碎片主动清除和空间态势感知,它具有巨大的经济军事价值和重要的科学研究意义。服务航天器平台本身的精确运动控制是一个基础共性的核心问题,它是完成在轨服务任务的先决条件。在轨服务任务中,目标航天器主要分为合作目标和非合作目标。相较于合作目标,诸如太空碎片、翻滚航天器和敌方航天器等典型的非合作目标,它们的非合作特性主要体现在三个方面:1)在形态结构方面,目标星结构特性未知且没有匹配服务星抓捕的标准接口,给抓捕策略的设计带来了极大的困难;2)在导航测量方面,目标星与服务星之间不存在信息交互,并且没有安装敏感标志便于相对状态信息的测量,可能会导致反馈的导航信息存在较大的误差和不确定性,甚至存在仅有部分状态可知的糟糕情形;3)在行为方面,目标星无法实现三轴姿态稳定甚至存在翻滚或者轨道机动,这要求追踪星的姿轨机动必须考虑目标的机动特性。综上所述,面向非合作目标星的相对运动操控技术研究是一个极具挑战性的问题。本论文以航天器在轨服务任务为背景,围绕着近距离下航天器相对轨道自适应滑模控制这一科学问题展开研究,主要内容包括以下五个部分。首先,考虑空间在轨服务对象的运动特性,针对合作目标星,建立目标星当地轨道坐标系下的近圆轨道相对运动模型,该模型是线性定常系统。针对非合作目标星,建立追踪星视线坐标系下的相对轨道运动模型,该模型以相对距离和视线角为状态变量,是强耦合非线性系统。其次,针对近圆轨道上的合作目标星,将近圆轨道相对运动模型归为一类带有匹配干扰项的二阶机械系统,研究了二阶机械系统的自适应快速有限时间控制问题。结合反步法和非奇异快速终端滑模,并采用具有积分形式的强非线性Lyapunov函数,提出了一种新的快速有限时间控制律,并给出了控制器参数所需满足的充分条件以保证闭环误差系统的快速有限时间稳定性。进一步地,在干扰项上界未知的情形下,提出了一种自适应控制律,能够保证跟踪误差渐近收敛到零。最后,考虑航天器交会和绕飞两种典型空间轨道任务,数值仿真结果验证了所提方法具有更快的收敛速度和更高的跟踪精度。随后,考虑到航天器相对速度不可知的情形,在存在外部扰动和目标轨道角速度不确定性的情形下,研究了近圆轨道下航天器相对轨道运动的动态输出反馈控制问题。首先,基于自适应滑模控制方法,设计了航天器悬停的降阶动态输出反馈滑模控制器,能够保证跟踪误差渐近收敛到零的邻域内。另外,考虑H_∞性能指标、极点配置和输入约束,设计了航天器交会的全阶动态输出反馈控制器,并基于线性矩阵不等式,将多目标动态输出反馈控制器设计问题转换为一组线性矩阵不等式的可行性求解问题。紧接着,考虑了航天器悬停和交会两种典型空间轨道任务。仿真结果表明,相较于全阶控制器,所提出的降阶滑模控制器仍能够保证航天器任务的顺利完成,并且取得很好的控制性能。然后,针对处于任意开普勒轨道的太空碎片和故障航天器等典型非合作目标,基于视线相对运动模型,研究了近距离逼近的相对轨道悬停问题。首先,结合线性滑模面和高阶滑模观测器,设计了基于干扰观测器的滑模控制器来补偿未建模动态特性,能够保证系统状态在有限时间内到达滑模面且跟踪误差沿着线性滑模面渐近收敛到零。进一步地,考虑到线性滑模面只能够保证跟踪误差随着时间趋于无穷大而收敛到零,引入非奇异快速终端滑模面来代替线性滑模面,设计了自适应非奇异快速终端滑模控制律。将未建模动态特性和外部干扰力归为一类不确定项,在不确定项上界已知的条件下,能够保证跟踪误差有限时间收敛到零。在不确定项上界未知的条件下,能够保证跟踪误差渐近收敛到零。考虑到传统自适律会产生很大的切换增益进而加剧抖振现象,引入了一种改进自适应控制律,能够保证跟踪误差收敛到零的邻域内。最后,考虑一类典型空间相对轨道悬停任务,仿真结果验证了所提出控制律的有效性。最后,针对一类具有轨道机动即运行于非开普勒轨道的非合作目标,在追踪星质量和目标星轨道机动项未知的情形下,研究了近距离下的相对轨道悬停问题。首先,将这类问题转换为具有未知参数和有界干扰项的二阶机械系统的自适应滑模控制问题。在干扰项上界未知的条件下,基于切换增益自适应律和连续投影算法,设计了一种自适应滑模控制器,所提出的依赖等效控制的自适应律能够显著地减小抖振幅值,相应的投影自适应律是连续的且可以强制质量估计值保持在期望的值域内。进一步地,为了消除抖振现象,用双曲正切函数代替符号函数,能够保证系统的跟踪误差收敛到零的邻域内。随后,考虑了航天器悬停典型空间轨道任务。仿真结果表明提出的自适应滑模控制律能够保证空间相对轨道悬停任务的顺利完成,并且可以有效地估计未知干扰项。