处理参数不确定性的自适应系统一般是非线性系统。当参数不确定性不满足匹配条件时,控制器设计变得较为复杂。对于时变参数而言,一般适用于定常参数情形的自适应律往往不能直接应用;处理满足匹配条件的时变参数学习律也不能直接用于处理不满足匹配条件的时变参数情形。本文采用Lyapunov-like方法,对于含时变参数的连续非线性系统给出了其学习算法,并基于学习算法解决了相应的跟踪控制问题。当时变参数不满足匹配条件时,采用反推(Backstepping)设计方法来构造学习控制器,并分析被控系统的跟踪性能。本文主要工作包括以下几个方面:第一,给出了反推设计和自适应反推设计的基本思想及其整个控制器设计过程。在此基础上,针对一类带有常参数不确定性的严格反馈非线性系统,提出了一种自适应反推迭代学习控制方案。第二,提出了当系统中存在内动态,且内动态状态变量不可量测时,采用状态观测器来估计内动态状态变量;并提出了基于反推设计的自适应迭代学习输出反馈控制方案。第三,针对一类含周期参数不确定性的严格反馈非线性系统,提出了一种基于反推设计的重复学习控制方案,从而把常参数情形推广到任意周期己知的周期参数情形。第四,针对含时变参数的多输入多输出非线性系统,提出了一种自适应迭代学习控制方案用于跟踪非一致轨迹。当系统中状态不可量测时,提出了一种基于观测器的输出反馈自适应迭代学习控制方案和自适应重复学习控制方案,同样用于非一致轨迹跟踪。在文中所有学习控制方案中证明了闭环系统所有信号有界,跟踪误差渐近收敛,并且针对每一种学习算法都给出仿真算例,通过数值仿真进一步验证了学习控制算法的有效性。