小型无人直升机具有低成本、小尺寸、高机动等优点,在世界范围内受到了普遍的重视,在军事和民用领域均获得了广泛的研究与应用。一架小型无人直升机要在无人为干预的条件下完成各项任务,首先需要一个性能优良的自动飞行控制系统。姿态控制系统是小型无人直升机自动飞行控制系统的基础与关键部分,本文将在建立小型无人直升机非线性动力学模型的基础上,采用滑模控制与自适应滑模控制方法对其展开姿态控制系统的设计与研究,目的在于设计一个具有良好鲁棒性的姿态控制器,论文主要研究内容如下:1)首先,以Raptor 90 3D直升机为基础实验平台,介绍了整个无人直升机系统的硬件结构。然后基于滚转俯仰姿态控制研究的目的,建立了简化的小型无人直升机非线性动力学模型,主要包括机身刚体动力学与运动学模型、主旋翼动力学模型,为姿态控制系统的设计奠定了基础。2)在充分分析小型无人直升机非线性动力学模型的基础上,基于姿态角速率的动态响应比姿态角响应快的假设,采用滑模控制为Raptor 90 3D直升机系统设计了双环积分滑模姿态控制器,并设计了一个扩张状态观测器估计系统不确定性与外部干扰。双环滑模控制器结构简单,易于在实际工程中实现,但是当小型无人直升机作大机动飞行时控制性能可能会有所下降。因此,进一步设计了单环积分滑模姿态控制器,提高了控制精度。为了验证所设计控制器的有效性,进行了仿真实验,并在实验保护支架上进行了实物实验,仿真和实物实验均说明了两种滑模姿态控制器的有效性。3)由于滑模反演控制器需要已知不确定性的上界,因此提出了一种基于扩张状态观测器的自适应滑模控制。该方法结合基于真实滑模面的自适应控制律与本文设计的扩张状态观测器,对滑模增益进行在线估计,克服了传统滑模控制需要已知不确定性上界的缺陷。分别设计了双环与单环结构的自适应滑模姿态控制器,进行了仿真实验与实物实验,实验结果均表明了所设计控制器的有效性与鲁棒性。