磁悬浮飞轮作为新型航天器姿态控制执行机构,具有无摩擦、高精度、长寿命等优势,是空间技术发展重要方向。然而磁悬浮飞轮振动将影响航天器工作,降低航天器指向精度。论文以解决磁悬浮飞轮振动问题为目的,系统地研究了磁悬浮飞轮动力学模型、非线性振动响应、与安装平台耦合振动、振动抑制控制方法等。提出了采用三维有限元电磁场计算研究磁悬浮飞轮非线性电磁力的方法,建立了磁悬浮飞轮非线性动力学模型。基于多尺度法推导了磁悬浮飞轮有阻尼平移运动和倾斜运动非线性振动响应,建立了磁悬浮飞轮轴向运动非线性振动响应模型,分析了非线性振动响应与磁悬浮飞轮结构和控制参数关系,给出了以抑制非线性振动为目的的磁悬浮飞轮及其控制器设计依据。提出了采用Lagrange方程推导耦合振动模型的方法。针对磁悬浮飞轮地面调试和空间应用,建立了磁悬浮飞轮与地面安装平台、磁悬浮飞轮与航天器平台耦合动力学模型,分析了耦合振动响应与耦合结构和控制参数关系,分析了磁悬浮飞轮与航天器相互扰动。提出了超前-滞后校正陷波器,实现了转子不平衡振动响应抑制。基于自适应线性神经网络和BP神经网络设计了磁悬浮飞轮控制器,提出了自适应线性神经网络权重更新稳定性监测方法,提出了基于磁轴承-转子模型的BP神经网络权重更新方法,实现了在线训练和振动抑制控制。建立了考虑安装平台弹性支承的简化磁悬浮飞轮模型,基于混合灵敏度函数和线性矩阵不等式LMI,提出了磁悬浮飞轮H∞控制器综合方法,实现了振动抑制控制和平台适应性。建立了基于DSP和dSPACE两种数字控制平台实验系统。给出了转子升速和降速过程中振动响应,验证了磁悬浮飞轮非线性振动研究结果。基于dSPACE平台进行了磁悬浮飞轮在线动平衡实验与动不平衡振动抑制控制实验,验证了超前-滞后校正陷波器性能。论文研究了磁悬浮飞轮振动机理,提出了振动抑制控制方法,并通过实验进行验证,研究成果具有一定的理论价值,在工程中具有较高的实用价值。