近二十多年来,非线性系统控制理论是自动化控制领域研究的热点问题之一。基于Backstepping技术的自适应控制作为非线性控制理论的一种研究方法,可以使不满足匹配条件的时不变参数不确定性非线性系统,实现跟踪误差渐近收敛于零,但无法处理含有时变参数不确定性的情形。当系统中控制方向未知和含有混合参数(时变参数和时不变参数)不确定性以及目标轨线发生变化时,单一的自适应控制算法远不能解决这些问题。而Nussbaum增益技术是处理控制方向未知问题的一种有效方法;传统迭代学习控制是处理重复性跟踪问题的一种有效控制方法,经过若干次迭代能以较高的精度在给定有限时间区间内实现给定目标轨迹的完全跟踪,但现有的这种方法还存在很大的缺陷,如要满足全局Lipchitz连续,跟踪目标轨迹一致(与迭代次数无关)等。因此,如何将基于Backstepping技术的自适应控制、Nussbaum增益技术、迭代学习控制相结合,来解决控制方向未知问题和非一致目标轨迹跟踪问题是值得研究的课题。由以上研究思想,本文工作主要包括以下几个方面:第一,针对一类具有参数不确定性和多个控制方向未知的非线性时滞系统,提出了一种基于观测器的输出反馈稳定化设计方案。利用Nussbaum增益技术处理未知控制系数,利用Backstepping技术设计自适应控制器。通过构造一个Lyapunov-Krasovskii泛函,证明了闭环系统的稳定性,实现了系统状态渐近收敛于零,且保证了所有信号有界;第二,针对一类控制方向未知的一阶混合参数化非线性时滞系统,提出一种自适应迭代学习控制方案。利用Nussbaum增益技术处理未知控制系数;设计微分-差分型参数自适应律以及迭代学习控制律,解决非一致目标跟踪问题。通过构造一个Lyapunov-Krasovskii泛函,证明了跟踪误差的平方在一个有限时间区间上的积分收敛于零,同时保证所有信号均在有限时间区间内有界;第三,针对一类控制增益未知的在有限时间区间上可重复运行的高阶混合参数化非线性系统,利用改进Backstepping技术,将参数重组技巧和分段积分机制相结合,提出一种由参数微分-差分型自适应律和学习控制律组成的混合自适应迭代学习控制算法,处理非一致目标轨迹跟踪问题。通过构造一个Lyapunov-like泛函使得跟踪误差的平方在一个有限时间区间上的积分收敛于零,同时保证所有信号均在有限时间区间内有界;第四,对文中所提的算法都做了计算机仿真研究,进一步验证了算法的可行性和有效性。