复杂网络可以被定义为由众多边连接的数量众多的节点组成的集合,在复杂网络中每一个节点都可以代表一个子系统。在过去的十几年时间里,复杂网络系统因为其在互联网,电力分布网络以及生物网络等等方面的巨大的应用潜力而得到了越来越多的关注。同时由于在实际环境中,很多系统都可以用复杂网络模型来进行描述,因此,对于复杂网络的研究不仅具有理论意义,还具有实际应用价值。广义系统是比正常系统更具广泛形式的一类系统。许多实际系统都可以用广义系统模型去描述。近年来,广义系统的理论分析与实际应用问题已经引起了国内外众多学者的关注,许多正常系统中相关的结论和研究方法被相继推广到广义系统中。正是由于广义系统丰富的结构特征和特有性质,使得对广义系统的研究不但具有深刻的理论意义,更具有广泛的应用背景。本论文分别考虑了正常非线性复杂网络系统以及广义非线性复杂网络系统的滑模变结构控制问题。并且针对广义非线性复杂网络系统设计了一种新型非线性指数滑模面,基于线性矩阵不等式得到了能够保证系统渐近稳定的条件。本文的主要工作包括以下几个方面:首先,针对正常的非线性复杂网络系统,考虑到系统内部具有的非线性项,我们首先用基于微分中值定理的方法来将原非线性系统转化为线性变参数系统,其次,考虑到滑模变结构控制本身具有的对于不确定项的鲁棒性,我们对系统设计了代数型的滑模面,并且设计了能够满足系统到达条件的滑模变结构控制输入。得到了等效系统渐近稳定时所需要满足的线性矩阵不等式条件。最后通过仿真例子验证了我们所使用的方法的有效性。其次,我们考虑了更加广泛的一类系统即非线性广义复杂网络系统在滑模变结构控制下的同步问题。针对非线性广义复杂网络系统,我们同样利用基于微分中值定理的方法来将非线性广义复杂网络系统转换为广义线性变参数系统,之后,针对处理所得的系统我们设计了一种新型的滑模面,相比较其他文献中研究广义系统时用到的代数型滑模面和积分型滑模面,本文中提出了一种指数型的非线性滑模面。该滑模面中引入了可调参数矩阵与可调向量,同时在保证等效系统稳定性的线性矩阵不等式条件中引入了这两个可调变量,从而能够通过变量的调节降低线性矩阵不等式的保守性。除此之外我们还在推论中说明了这样的新型非线性滑模面不仅仅可以使用在广义系统中,还可以使用于正常系统中。最后我们通过几个仿真例子来验证了我们所提出的方法的有效性。而且通过对比可以发现本文中提出的新型滑模面具有响应速度快,抖震小等优点。最后,总结本文所做的主要工作,并提出有待于进一步研究的问题,对未来的工作进行了展望。