本文以非线性动力学理论中分支，混沌，单调动力系统，单调控制系统理论为基础，研究了混沌控制以及非线性动力学在系统生物学中的应用。本文分为三大部分，共七章。除去引言部分，每两章为一部分。　　 第一部分为混沌控制，共两章，即第二，第三章。第二章主要研究了具有两个外力的Duffing系统的混沌控制。其中第一个外力的主要作用为产生混沌，而第二个外力的主要作为抑制混沌。该章主要通过计算Melnikov函数以及Lyapunov指数等方法，给出了混沌控制的理论与数值模拟的结果。第三章主要研究如何利用Lyapunov函数方法控制混沌单摆系统到理想的周期振动，例如周期-1，周期-2，周期-4等振动。基于该方法的混沌控制的主要优点是所需要的时间比传统的OGY与SOGY等方法大为缩短。　　 第二部分为系统生物学中周期韵律的研究，共两章，即第四，第五章。其中第四章研究如何利用互锁的正负反馈来设计周期振动网络。设计的方法主要基于单调控制系统理论。我们不仅给出了设计理论，并通过如何逐步构建基因振子repressilator来说明我们的设计方法，尽管我们的设计方法及理论具有一般性。第五章研究了如何监测生物韵律及其全局稳定性。方法同样为单调控制系统理论，并重点研究了Goldbeter的双环模型。在没有时间延迟的情况下，该模型的动力学行为比较复杂，例如会出现两个稳定的周期振动共存的现象，混沌现象等。利用单调控制理论，我们在负反馈中引入时间延迟并研究了其对动力学的影响。其中主要是时间延迟不仅可以诱导产生周期振动，增加周期振动的鲁棒性，而且可以抑制混沌等。　　 第三部分为多细胞网络的同步现象研究，共两章，即第六，第七章。其中第六章主要利用Lyapunov函数方法给出了确保耦合多细胞网络的同步条件，并以耦合的repressilator为例来验证我们的理论结果。第七章研究了如何利用周期脉冲控制来诱导同步现象以及脉冲对动力学现象的影响。周期脉冲不仅可以诱导具有不同参数的耦合repressilator的同步现象，同时脉冲量和脉冲周期对动力学现象也有比较大的影响，例如较大的脉冲量可以减小振幅。脉冲也可以诱导混沌同步。