本文主要研究网络上的微分方程耦合系统的稳定性问题。现实世界的许多现象,如生物和人工神经网络,格子上的非线性振子耦系统,复杂生态系统,以及传染病在异质人群中的传播,都可以用网络上的非线性微分方程耦合系统模拟。由于自然界中很多现象具有记忆效应,即未来不仅与现在有关,而且还依赖于过去,分数阶微分方程理论是刻画和模拟这类现象的重要工具。对于网络上整数阶微分方程耦合系统的稳定性问题已经取得了好多重要成果,但是对于网络上分数阶微分方程耦合系统的稳定性问题的研究却较少。本文主要工作之一是研究网络上的分数阶微分方程耦合系统的稳定性问题。在这一部分,本文借助图论的相关理论结合现有的分数阶微分方程稳定性的相关定理,对一类网络上分数阶微分方程耦合系统提出了构造Lyapunov函数的一般方法,并将其应用在几类分数阶种群模型及分数阶传染病模型的研究中,很好的体现了该方法的有效性。传染病模型一直是研究的热点,特别是由于复杂网络理论的发展,近来基于复杂网络的传染病模型受到了人们的关注。本文第二部分研究了一类异质复杂网络上带人口效应的SIRS传染病模型的疾病传播。我们发现对于该模型,其动力学行为决定于阈值0R。如果0R(27)1则无病平衡点0E是全局渐进稳定的,即疾病最终会消失。如果0R(29)1则无病平衡点是不稳定的,此时模型存在唯一地方病平衡点,且该平衡点是全局渐进稳定的,即疾病会爆发流行。最后我们用数值仿真验证了理论分析的主要结论。我们的研究揭示了阈值0R与疾病的传染性以及网络的拓扑结构之间的关系,对疾病的预防与控制具有重要的参考价值和意义。