本文主要提出了一种基于观测器的非线性系统设计。为了应对实际系统中参数的不可知变化,本文分别在观测器与控制器部分设计了两个神经网络。在观测器部分,本文采用多层感知器（MLP）神经网络,反向传播误差（BP）算法用于更新该网络的权值参数。在控制器部分,本文将径向基函数（RBF）神经网络与基于非传统滑模面的终端滑动模式控制器（TSMC）相结合。控制器部分的更新算法基于本文提出的新滑动平面。本文采用李雅普诺夫稳定原理分析闭环系统的稳定性。为了检验该基于观测器的控制器的表现,本文将其与另外两种方法做了比较。其一使用了滑动模式控制器,其二使用了带有卷积滑模面的终端滑动模式控制器。在混沌系统上的仿真结果表明了本文提出方法的优越性能,其主要优势在于误差和滑模面可以快速收敛至零,增强鲁棒性以及提高扰动抑制能力。此外,本文在控制器部分提出了一种基于径向基函数（RBF）的分数阶快速终端滑动模型网络的新设计。为了取得较高的精度和较快的响应速度,本文提出了一种新的滑动平面,来设计分数阶快速终端滑动模型控制器。该控制器可以同步未知且不确定的主从动态变化。径向基函数神经网络被用于区分主从系统间未知的非线性特征差异。快速终端滑动模型（FTSM）可以在一个较小的领域时间内同步主从系统。在混沌系统上的仿真结果表明了该方法的有效性。