太阳帆航天器作为一种依靠光压推进的新型航天器，在未来的深空探测任务中具有广阔的应用前景。日心悬浮轨道是一类重要的非开普勒轨道，可以为太阳物理研究、地球极区连续观测、极端灾害提前预警等提供理想条件。为了使太阳帆航天器能够在期望的悬浮轨道保持运行，需要对帆面姿态进行调整，以改变太阳光压的大小和方向。因此，本文进行了太阳帆航天器悬浮轨道保持与柔性姿态控制研究。
　　首先，针对基于光压推进的太阳帆航天器在日心悬浮轨道运行的动力学方程，为了解决系统中的非仿射问题，提出了一种二阶滑模控制策略。其中，先将所有关于控制变量的非线性项转换成关于其导数的线性项，接着针对新的控制输入采用基于PD滑模面的非奇异终端滑模面，设计了二阶滑模控制器。然后，分三个步骤对整个系统的稳定性作出分析，证明了轨道半径误差和悬浮高度误差能够渐近收敛。仿真结果验证了上述控制策略可以实现太阳帆航天器在期望日心悬浮轨道的保持运行。
　　其次，针对基于混合推进的太阳帆航天器在地球同步日心悬浮轨道运行的动力学方程，综合考虑内部未建模动态和外部未知扰动，提出了一种高性能滑模控制策略。其中，先采用自适应径向基神经网络对模型不确定部分进行估计和补偿，再基于改进型条件积分滑模面和双幂次趋近律设计了滑模控制器。接着，基于Lyapunov理论分析系统稳定性，证明了轨道半径误差、悬浮高度误差以及运行角速度误差均能渐近收敛。然后，将求取的虚拟控制量在推进剂最优的原则下分配给实际控制量，即太阳帆姿态角和太阳电推进力。数值仿真结果验证了这一控制策略有效增强了系统鲁棒性，显著减小了轨道位置超调，并且混合推进方式相比于单一光压推进具有更高的控制效率。
　　最后，针对柔性太阳帆航天器的姿态-振动耦合动力学方程，同时考虑执行器限制和角速度限制，提出了一种不依赖于柔性模态相关参数、基于扩张状态观测器(ESO)和指令滤波器的自适应反演控制策略。其中，先采用ESO估计总的不确定项，再结合指令滤波器对角速度幅值作出限制，并设计滤波误差的补偿信号。接着，鉴于系统具有严格反馈的形式，设计了反演控制器，结合自适应方法对处理执行器限制时引入的未知参数进行估计。然后，基于Lyapunov理论分析系统稳定性，证明了姿态误差四元数和角速度误差均能实现有界稳定。仿真结果验证了上述控制策略可以在未显著激发柔性振动模态的情况下完成姿态机动，而且所设计的控制器中只需要可测得的姿态角和角速度信息，具有实际应用价值。