高超声速飞行器非线性气动弹性问题是当前与未来空天飞行器气动弹性力学领域的研究热点与难点之一。为了确保未来高超声速飞行器能够在复杂飞行条件下安全、稳定的飞行,避免颤振等灾难性事故出现,需要对高超声速非线性气动弹性问题进行深入研究,尤其考虑实际结构中存在的结构非线性,以及持续、严重的气动热环境和高超声速非线性气动力的作用下,飞行器气动弹性系统往往会表现出极限环、分岔和混沌等非线性动力学特性,具有重要的学术意义和工程实用价值,有助于对高超声速飞行器非线性气动弹性问题的理解与认识,为飞行器结构的气动弹性设计以及预防发生不利的非线性气动弹性行为提供理论依据。本文提出了一种高效可靠的数值积分算法用于求解非线性气动弹性系统的复杂动力学响应。针对高超声速飞行器全动舵以及小展弦比机翼这两种动力学模型,首先探索了系统参数及非线性因素对非线性振动特性的影响规律,为机翼结构动力学设计和地面振动试验的相关内容提供更好的理解。同时,考虑了气动力非线性和气动热效应的影响,对机翼气动弹性系统的颤振稳定性以及非线性气动弹性响应随系统参数的演变规律进行了探讨。主要工作及创新成果如下:(1)提出了一种基于Padé级数逼近的精细积分方法(PadéPIM)用于分析非线性气动弹性系统的动力学特性。以带有间隙非线性的二元机翼模型为研究对象,采用预估校正算法精确寻找间隙切换点,避免了由于跨越间隙非线性切换点所带来的数值误差。研究表明,PadéPIM法是一种无条件稳定的数值方法。通过将PadéPIM法与其他传统数值积分方法计算得到的响应结果进行比较,证实了PadéPIM法具有更高精度和计算效率,为研究非线性气动弹性系统复杂动力学响应提供更为可靠的数值计算手段。(2)研究了带有间隙非线性的三维全动舵面模型的主共振特性和非线性动力学响应特性。首次采用平均法推导了三维舵面非线性系统的主共振平均方程及求解周期运动的近似解析解。分析结果表明:全动舵面系统俯仰间隙非线性刚度表现为硬弹簧特性,在主共振区存在多值和幅值跳跃现象;外激励频率在主共振频率的1/3与1/2之间时,系统存在多周期LCO和混沌等复杂动力学现象;而增加预载,可以推迟混沌运动出现,在不同激励幅值下预载型间隙非线性舵面系统会表现为软弹簧或硬弹簧非线性特性。(3)建立一种考虑翼型厚度比、来流攻角以及后掠角的三维舵面高超声速非定常气动力模型并用于非线性气动弹性特性分析。同时,建立了一种等效温度模型用于考察高马赫数飞行带来的气动热的影响,探索了线性/非线性活塞理论气动力、单个/多个间隙非线性环节及气动热效应对系统分岔特性和混沌响应的影响。研究发现,适当增加厚度比以及来流攻角,可以提高系统颤振边界,而改变前缘后掠角会导致发生颤振的两支耦合模态发生改变;采用三阶非线性活塞理论气动力得到的LCO幅值低于用线性气动力计算的结果;当结构存在多个间隙非线性环节时,系统存在混沌等复杂动力学响应;而气动热效应会增大响应幅值,混沌运动区域也会增大。此外,厚度比、来流攻角及后掠角对舵面非线性动力学特性也有较大影响。(4)基于von Karman大变形板理论,考虑结构几何非线性,结合仿射变换的思想,提出了一种基于Rayleigh-Ritz方法的改进全域形函数方法,利用传统的梁模态建立三维梯形翼板关于模态坐标的非线性动力学方程。利用多尺度方法获得了系统的幅频响应函数用于了三维梯形翼板的主共振和1:3内共振特性分析。探究了各参数变化对系统非线性振动特性的影响规律,尤其在1:3内共振条件下,系统在不同激励幅值作用下会存在周期LCO、准周期及混沌等运动状态。(5)采用改进全域形函数方法,基于三阶活塞理论气动力,研究了高超声速流下三维梯形翼板的非线性气动弹性特性。对于某一给定构型的梯形翼板模型,对Rayleigh-Ritz模态截断数目进行收敛性分析,获得了合适的模态数目以满足计算精度和效率两方面要求。考虑了几何参数的影响,首次研究了三种典型几何外形翼板在高超声速流下的分岔特性和复杂非线性动力学响应,研究表明,三种不同构型机翼通往混沌的途径存在显著的差异。