浮游生物是水生生物的重要组成部分，是水域食物链的基础，并且是水域生态系统物质循环和能量流动的重要环节。近年来，由于人为因素和自然因素的影响，由浮游生物爆发性增殖而引起的“赤潮”现象危害严重，因而更好的理解浮游生物种群之间以及浮游生物与周围环境之间的相互关系，是理解浮游生态系统的基础。从理论上探究浮游生态系统的动力学机制，以及更深入地解释实验观察到的浮游生态系统呈现的复杂的动力学现象，是研究浮游生态系统的关键所在。　　本文主要利用一般特征值方法、特征方程存在纯虚根的几何判别准则、全局分支定理、中心流形定理以及规范型方法研究了几类浮游生态系统的稳定性、单零奇异性、局部和全局Hopf分支、Hopf-transcritical分支等问题。本文的具体内容分为以下几个部分：　　首先，为了考虑时滞对浮游生态系统的影响，研究了一类系数依赖时滞的浮游生态系统的动力学行为。利用系数依赖时滞的特征方程存在纯虚根的几何判别准则，得到了平衡点的稳定性区域，以及Hopf分支周期解的存在区域，并给出了分支周期解的方向和稳定性。由于在分支临界点处的横截数不唯一，利用泛函微分方程的全局分支理论，无法判断在一个孤立中心处连通分支的有界性。为了解决这个问题，限制时滞在某些区间上变动，并证明了连通分支在这些区间上是无界的。进而得出了当时滞在某些区间上变动时，分支周期解是全局存在的结论。　　其次，为了从理论上解释浮游生态系统实验观察到的复杂的动力学现象，如周期、拟周期现象，研究了具有毒素释放时滞的一类浮游生态系统的Hopf分支、transcritical分支、以及Hopf-transcritical分支。讨论了Hopf分支周期解的稳定性和方向，给出了transcritical分支临界点处约划到中心流形上的向量场，分析了Hopf-transcritical分支临界点处的三次约化规范型，并给出了局部拓扑结构的完全分类。通过理论结果和数值验证，得出浮游生态系统模型会出现稳定的周期轨、吸引的拟周期轨、异宿轨等复杂的动力学行为。　　最后，为了考虑营养对浮游生态系统的影响，研究了一类具有时滞的营养-浮游生态系统的动力学行为。给出了正平衡点的稳定性和Hopf分支的存在条件，并研究了Hopf分支周期解的方向与稳定性。证明了时滞能诱导稳定的平衡点与稳定的周期解之间的切换，即：平衡点由稳定的平衡点变为稳定的周期解，再变为稳定的平衡点，发生有限次这样的切换。然后讨论了营养对于整个系统的影响，并结合江河河口生态系统给出了所得结果的生物学解释。进一步从数值上展示了稳定的周期解在平衡点不稳定的区间上全局存在，并从理论上证明了当时滞在平衡点不稳定区间上变动时，至少存在一个正周期轨。解决了系统出现稳定性切换时，Hopf分支周期解的全局存在性问题。