太阳帆是一种可仅靠反射太阳光而无需消耗工质的航天器,其在轨寿命不受限于推进燃料,具有许多传统航天器无法比拟的优势,越发受到相关学者和航天机构的重视。太阳帆应用于小行星探测任务中的可行性,已得到相关学者论证。目前使用太阳帆进行小行星探测的研究基本局限于轨道动力学与控制等方面,鲜见涉及近小行星太阳帆姿态动力学与控制等研究。本文首先对小行星绕飞轨道之上的太阳帆进行姿态控制研究;其次,针对小行星附近绳系系统摆动动力学进行分析,同时假定子星为光压可调控的太阳帆航天器,开展了小行星不规则引力场条件下绳系系统摆动姿态运动的混沌分析及其控制研究。论文主要内容如下:（1）研究了规则或近似规则的小行星附近轨道上的太阳帆俯仰轴控制问题。在给定控制叶片随俯仰角运动策略前提下,通过分析俯仰轴上的控制叶片产生控制力矩的特点,求出了叶片所能提供的最大力矩（外包络线）,以及叶片力矩、叶片摆角的作动时间历程。最后,给出了有无时间约束条件下的渐近稳定姿态控制器设计方法,并仿真验证了控制器的性能。（2）开展了不规则小行星复杂引力场作用下绳系系统混沌姿态运动分析。利用第二类拉格朗日方程建立了小行星C₂₀和C₂₂引力场下的绳系系统摆动运动姿态动力学方程,通过Melnikov方法解析预测混沌发生条件。重点研究了偏心率、轨道半径和系绳长度对系统摆动姿态混沌运动的影响,给出了不同条件下摆角随时间历程的变化情况,以及系统的相轨迹、庞加莱截面和功率谱密度的变化情况,从而验证Melnikov方法解析预测的有效性。（3）研究了非线性绳系系统摆动姿态运动的混沌控制问题。本文给出了两种混沌控制方法:其一为基于RBF神经网络的自适应滑模饱和混沌控制法;其二为基于惯容器-阻尼器的混沌抑制方法。前者是在考虑了系统的外界干扰、执行机构输入饱和等实际工程约束下,通过对传统混沌控制方法的改进、交叉融合与完善的基础上提出。后者是从能量耗散的角度提出将惯容器原理应用于混沌控制中,是一种新颖的应用于航天系统混沌运动控制的方法。最后,通过数值仿真验证了设计的控制器对不规则小行星复杂引力场下绳系系统摆动姿态运动的混沌控制能力。