控制力矩陀螺具有输出力矩大、响应速度快、功耗较低等显著特点,因此在航天器姿态控制系统中有着越来越广泛的应用。目前,对一类多变量、非线性、强耦合的控制力矩陀螺框架系统的控制依然是一个难题。本文结合ECP Model750控制力矩陀螺实验系统,对一类具有多自由度、非线性、强耦合的控制力矩陀螺,在多种控制模式下的控制方法及物理系统实验进行研究。对于在控制实际系统时遇到的不确定因素、耦合、摩擦等问题,进行了分析并给出相应的解决办法。主要内容有：1根据运动和动力学原理,对ECP Model750控制力矩陀螺实验系统建立了全阶非线性模型。在此基础上,在工作点处对模型近似线性化,得到了系统分别在反作用力矩、陀螺力矩以及这两者共同作用3种不同配置和控制方式下的线性化模型。2基于工作点近似线性化系统模型,针对反作用力矩控制方式,设计了PD控制器；针对陀螺力矩控制方式,分别设计了极点配置控制器和具有极点约束的鲁棒H∞状态反馈控制器,仿真和实验结果验证了鲁棒H。状态反馈控制器具有更好的外界扰动抑制能力和系统不确定参数摄动下的鲁棒性能；针对反作用力矩和陀螺力矩共同作用的双轴控制方式,发现按照两个单变量系统同时控制的方法存在耦合问题,设计了基于MIMO全状态反馈最优控制器,仿真和实验结果表明,该控制器降低了系统的耦合特性,并具有更好的动态性能和跟踪能力,验证了所设计控制方法的有效性。3基于非线性模型,首先设计了基于输入输出解耦的模糊自适应PID控制器,针对实际系统框架轴间的摩擦问题,基于遗传算法建立了LuGre摩擦模型并进行摩擦补偿,仿真和实验验证了设计方法的有效性；为了进一步提高跟踪性能,设计了基于backstepping非完整系统的多轴跟踪控制方法,基于非完整系统幂式模型,递推演算出输入力矩的控制律,设计了跟踪轨迹,最后通过物理系统实验,验证了所设计的跟踪控制方法具有良好的稳定和跟踪性能。