近年来,小型无人机以其良好的机动性受到了欢迎,个人持有率极大的提高。广阔的商业前景使得飞行器的控制受到了更广泛的关注。合适的控制算法能结合硬件特点,发挥出系统最好的表现。而智能控制算法以其自适应性部分弥补了人工设计存在的不可建模误差,使获得适合系统的控制算法变得可能。本文选取的三自由度直升机系统具有典型的飞行器系统特点,同时易于采集数据,是验证智能控制算法应用于飞行器系统的理想平台。在此平台上,课题主要研究了基于神经网络的两种智能控制方法,反步自适应控制方法和强化学习控制方法,完成了如下工作:(1)在反步自适应方法中,使用神经网络逼近非线性部分,结合反步设计方法进行了控制器设计并对于设计后的系统给出了稳定性证明。在三自由度直升机的仿真及实物平台上进行了实验。达到了较好的控制效果。(2)在强化学习方法中,使用了执行器-评价器算法。引入动态指标对传统二值奖励进行了改进,避免了选择阈值的过程中出现的大初始误差和小运行误差难以同时兼顾的问题。改进的方法在仿真平台上进行了训练和验证,可以基本完成对时变信号的跟踪任务。课题成功将基于神经网络的两种智能控制方法应用于三自由度直升机上,并结合平台应用特点进行了改进,获得了较好的控制效果。说明了将此类控制器应用于小型无人飞行器的可行性。