复合材料层合板具有轻质，高的比强度以及良好的可设计性等优点，越来越广泛地应用于航空航天等工程领域中。就纤维增强复合材料层合板而言，横向剪切模量与面内弹性模量之比比较小，但计及横向剪切效应的影响对复合材料层合板的非线性动力学分析具有重要的意义。由于材料的各项异性及剪切变形等因素的影响，使得在大变形条件下复合材料层合板的非线性动力学分析变得较为复杂，只有少量文献讨论了计及横向剪切效应的复合材料层合板的几何非线性问题。考虑高阶横向剪切效应后，对大变形复合材料层合板非线性动力学行为的研究不仅具有重要的理论意义，而且能够对实际工程问题中复合材料层合板的结构设计与振动控制提供重要的理论指导。 本课题主要研究了纤维增强复合材料层合板的非线性动力学问题。本文以飞机机翼的颤振为实际工程背景，考虑高阶横向剪切效应和几何大变形，建立了四边简支复合材料层合板在受到面内激励和横向外激励联合作用下的动力学方程，利用多尺度方法和数值方法分析了纤维增强复合材料层合薄板的非线性动力学特性。论文的研究内容和创新点有以下几个方面。 第一部分，首次建立了复合材料层合板结构在面内载荷和横向外载荷联合作用下的非线性动力学控制方程。基于Reddy的高阶剪切变形理论和von Karman的大变形理论，考虑了运动中线性阻尼的影响，利用Hamilton原理建立了复合材料层合板的非线性动力学方程。 第二部分，研究了二自由度复合材料层合板的非线性动力学特性。首先利用Galerkin方法对复合材料层合板运动方程进行二阶模态截断，得到二自由度非线性动力学方程。考虑基本参数共振和1:1内共振情况，利用多尺度方法对复合材料层合板的非线性动力学方程进行摄动分析，得到4维直角坐标形式的平均方程。在平均方程的基础上，利用数值方法分析了外激励对复合材料层合板振动形式的影响。数值结果发现，在复合材料层合板的平均方程中存在着1倍周期运动、多倍周期运动、概周期解运动及混沌运动。 第三部分，研究了三自由度复合材料层合板的非线性动力学特性。考虑复合材料层合板的1:3:3内共振，第一阶模态是1/3亚谐共振，第二、三阶模态为基本参数共振情况，利用三阶Galerkin截断和多尺度方法得到了复合材料层合板6维直角坐标形式的平均方程。利用数值方法研究了参数激励对复合材料层合板振动形式的影响，发现在复合材料层合板中存在1倍、多倍周期解及多种复杂的混沌运动，并且在三维相图中发现有多脉冲跳跃。