小型无人直升机可以垂直起降、悬停、巡航、超低空以及大机动飞行等,具有其它飞行器所没有的飞行特性,而且它还具备体积小、重量轻、成本低、隐蔽性强等优点,所以它在军事和民用领域都具有广泛的应用前景。然而小型无人直升机本身是一个典型的欠驱动、强耦合、不稳定、时变的非线性系统,因此研究开发小型无人直升机自主飞行控制系统具有重要的理论意义和实际应用价值。本文主要采用理论分析和数值仿真相结合的方法,对小型无人直升机的建模和控制器设计问题进行了研究。首先,结合第一性原理和系统辨识方法,建立了小型无人直升机全状态非线性数学模型。利用已建立的小型无人直升机数学模型,针对线性控制方法的不足,提出一种基于观测器的小型无人直升机增益调度控制方法。增益调度控制方法设计过程非常耗时,而且缺乏灵活性。考虑到无人直升机的结构特点,结合模型预测和自适应反步法的优点,设计了一种新型的基于内外环结构的飞行控制器,并进行了仿真分析。前文构造的内外环结构飞行控制器只有仿真验证结果,而难以从理论上证明其闭环系统的稳定性,于是基于李亚普诺夫稳定性理论,提出了一种不同的非线性串联控制策略,并分析证明了整个串联控制系统的稳定性。从实际应用的角度,考虑到无人直升机飞行状态受限的问题,提出了一种基于滤波器反步法的飞行控制新方法,解决了常规反步法面临的对中间虚拟控制信号繁琐求导过程的缺陷,并可满足特殊情况下系统对状态进行限幅的要求。本文主要研究工作的内容和创新点包括以下几个方面:1、介绍了国内外小型无人直升机的研究概况,并重点对小型无人直升机建模与控制器设计的研究现状进行了阐述与分析。2、分析了小型无人直升机的动力学特性,基于第一性原理和系统辨识技术,对其旋翼挥舞运动、空气动力进行了数学建模,获得了小型无人直升机全状态非线性模型,并对所建模型进行了验证分析。3、利用第二章建立的小型无人直升机数学模型,首先在选定的几个平衡点将模型线性化,然后分别设计了基于观测器的LQI反馈控制律。针对线性控制方法以及常规增益调度控制存在的不足,利用Youla参数化理论,为小型无人直升机设计了一个新型的基于观测器的增益调度控制器。4、考虑到小型无人直升机的结构特点,结合模型预测控制和自适应反步法的优点,设计了基于内外环结构的轨迹跟踪控制器,外环使用模型预测算法跟踪参考轨迹,内环采用自适应反步法稳定姿态角。仿真结果表明了该控制策略的有效性。5、针对第五章中设计的轨迹跟踪控制器只有数值仿真结果而没有稳定性分析的不足,提出了一种不同的基于内外环结构的非线性串联控制算法。在内环姿态角镇定控制器设计过程中,将直接利用转换矩阵的结构特点,避免了姿态环模型简化过程中引入的额外模型误差。然后基于李亚普诺夫稳定性理论,证明了整个串联闭环控制系统的稳定性。最后以“8”字形轨迹跟踪为例进行了仿真验证。6、针对小型无人直升机模型阶数比较高,设计常规反步控制器面临繁琐的对中间虚拟控制输入信号求导过程的缺点,设计了一种基于滤波器的反步控制方法,该方法显著简化了反步控制律的计算过程。在滤波器设计过程中,通过限制中间虚拟控制信号的幅值,变化速率以及带宽,满足系统在某些情况下对状态变量及控制输入信号约束的要求。然后利用李雅普诺夫稳定性理论证明了直升机补偿跟踪误差全局指数稳定。本文最后,在总结全文的基础上,提出了有待进一步研究和探索的一些问题。