特殊构型的无人直升机研制一直是直升机研制工作者们孜孜不倦努力的方向。对称布局的旋翼/涵道风扇式无人直升机由于外置的主旋翼和内置的风扇这样新颖的结构和气动布局,使得其整机具有结构紧凑、气动效率高、安全性和可靠性好等优点。然而,由于新型无人直升机的特殊结构、操纵方式和飞行特性都与常规单旋翼带尾桨的无人直升机有着显著的差别,并且具有强耦合、快时变和非线性等特点,该类飞行器的飞行控制系统设计需要面临诸多挑战。本文围绕旋翼/涵道风扇式无人直升机飞行控制系统设计这一课题,提出了辅助面正不变集滑模控制策略,并利用该策略在新型无人直升机鲁棒控制方面进行了工程应用上的探索以及理论上的升华。本文首先分析了旋翼/涵道风扇式无人直升机的结构特点和控制上的难点,依据现有单旋翼尾桨式直升机以及前期模型样机的气动、飞行、动力等资料与信息,建立了当前较为完整的旋翼/涵道风扇式无人直升机非线性数学模型,并对其稳定性及耦合性进行了分析。其次,在充分借鉴国内外成熟的传感器技术和飞行控制与导航技术的基础上,根据无人直升机研制要求、飞控系统的功能要求和性能指标要求,制定一套既能保证设计方案的先进性,又同时兼顾方案的可实现性与经济性的飞行控制系统总体设计方案。在总体方案确定以后,搭建出一套包含内外环控制的详细设计平台,为后续无人直升机的控制律设计中使用先进控制算法提供理论依据和实际指导。再次,为了解决无人直升机在纵横向的侧滑运动而提出了一种高度控制策略,并为了无人直升机的快速配平提出了辅助面的终端滑模控制策略。辅助面终端滑模控制策略不但具有普通滑模的鲁棒性,而且能够加快系统状态的收敛速度。通过全数字仿真和半实物仿真试验,验证了飞行控制器具有良好的表现性能和解耦效果。最后,在普通滑模控制方法的基础上对辅助面正不变集滑模控制理论实现了突破。扩展正不变集的辅助面滑模控制方法把状态限制条件引入到辅助面的设计过程中,能够保证状态在收敛的过程中始终满足约束条件。针对无人直升机在某些极端初始条件时的状态受限控制问题,本文将扩展正不变集的辅助面滑模控制策略首次用在旋翼/涵道风扇式无人直升机的飞行控制系统中,使得无人直升机的姿态始终保持在受限状态之中,确保了无人直升机的飞行安全。