高超声速飞行器具有重大的战术战略价值，成为多年来世界各国的研究热点。掌握了高超声速飞行技术，就占领了未来高科技竞争的战略制高点，同时也为国家安全提供了重要保障。高超声速飞行器的飞行环境复杂多变，机动飞行范围广，导致模型呈现出强非线性和强耦合特性，并且存在大量的参数不确定性。因此设计先进有效的控制系统，来保证高超声速飞行器的稳定飞行，是一项极具挑战和意义的课题。本文考虑了高超声速飞行器再入飞行中的气动舵低效问题，提出了质量矩/气动舵复合控制方式，并着重研究该复合控制方式下的高超声速飞行器动力学建模与复合姿态控制系统设计问题。首先，给出了质量矩配置原则，在此基础上建立了质量矩/气动舵高超声速飞行器再入段完整的六自由度数学模型，并进行了开环特性分析，接着对复杂的姿态运动方程进行了简化，进而得到了适于控制器设计的仿射非线性形式的控制模型。然后，研究了质量矩/气动舵复合控制的优化分配策略，以分配误差最小和控制能量最小为混合优化指标，将控制分配问题转化为一个标准形式的二次规划问题，并应用定点二乘数值算法给予了求解。再次，针对高超声速飞行器复杂的非线性动力学方程，利用时标分离原则，将其分为慢回路运动和快回路运动，基于非线性动态逆方法分别对慢回路和快回路运动方程进行了精确线性化解耦和控制器设计，并对设计的姿态控制系统的控制性能进行了仿真验证。最后，在非线性动态逆控制的基础上，针对模型不确定性带来的控制性能变差问题，引入了权值可在线更新的自适应神经网络，以逼近系统中存在的不确定性，实时补偿系统动态逆误差。并在气动参数存在较大摄动的假设下，对设计的基于神经网络的自适应动态逆姿态控制系统进行了仿真验证。