失效/故障航天器、空间碎片等空间非合作目标大量存在于地球轨道空间中,若不对它们进行维修或者清理,将极大影响到人类正常航天活动。空间非合作目标往往具有复杂或不规则的外形结构,甚至由于失去正常控制功能而处于旋转状态,对其进行在轨服务操作（如故障维修、燃料加注、碎片清理、在轨组装）具有较大的难度。为对非合作空间目标开展在轨服务任务,首先需要控制服务航天器超近距离（100m以内）安全接近目标。设计针对复杂外形非合作空间目标的安全接近控制方法是本文的研究目标,研究内容主要分为以下几点:研究了空间非合作目标复杂外形重构方法。利用高斯混合模型（Gaussian Mixture Model,GMM）对空间目标三维复杂外形进行拟合得到解析表达式,可以较为精确地重构目标的复杂外形特征。随后提出了基于GMM的人工势函数（Artificial Potential Function,APF）,用以描绘由非合作目标复杂外形影响的三维运动空间约束。服务航天器在GMM-APF的作用下可以避免与目标外形结构部件发生碰撞。研究了考虑复杂外形影响下空间目标安全接近有限时间控制方法。结合非奇异终端滑模控制方法和PID控制理论,提出了非奇异积分双环滑模控制（Nonsingular Integral Double-loop Sliding Mode Control,NIDSMC）,然后再结合GMMAPF,设计了GMM-NIDSMC控制器,以实现针对存在不确定性干扰下复杂外形目标安全接近任务的有限时间稳定控制。仿真证明该控制算法有效,并具备高精度、低能耗等优良性能。研究了面向姿态旋转复杂外形空间目标的安全接近固定时间控制方法。针对旋转目标的复杂外形,提出了瞬时高斯混合模型（Instantaneous Gaussian Mixture Model,IGMM）以描述旋转目标复杂外形在空间中的变化。基于IGMM提出了IGMM-APF,可以描述旋转目标复杂外形对三维运动空间的时变约束。随后,在IGMM的基础上,考虑航天任务的时间约束而引用固定时间控制（Fixed-time control,FTC）理论,设计了IGMM-FTC控制器,以实现对旋转复杂外形空间目标的安全接近。通过仿真验证了IGMM-FTC的有效性以及高精度收敛和低能耗的优良性能。进行了安全接近地面模拟实验。首先搭建地面模拟实验系统,并作了详细介绍,然后设计安全接近实验场景,将本文所设计的两种控制器分别放在地面实验平台上进行实验验证。实验成果表明,两种控制器分别能对无姿态变化的和姿态旋转的复杂外形目标实现安全接近控制,证明了两种控制算法的有效性。本文围绕复杂外形非合作空间目标的安全接近控制方法问题,从理论分析设计、数值仿真验证以及实验模拟验证三个方面展开研究,具备完整的分析设计与验证过程,研究成果将对空间在轨服务任务提供技术支持。