本文用微分方程定性理论、分岔理论等非线性动力学的理论和方法对忆阻器系统和种群生态系统两个方面的应用进行了研究.主要包括以下三个方面的内容:一是研究了带有分段函数的忆阻器系统的动力学行为;二是研究了带有蔡少棠的二极管的忆阻器模型的动力学行为;三是研究了带有常数项产出收获和群防御的一类捕食者-食饵模型的动力学行为.具体内容如下:第一章主要介绍了本文的研究背景及意义、国内外研究现状和动力系统的发展.第二章主要介绍了忆阻器和种群生态学的背景知识以及本文所用到的一些非线性动力系统的相关概念、定理和结论等知识.第三章用线性变换的方法将带有分段函数的忆阻器系统进行简化,用动力系统定性分析的方法,对不同的参数区域内系统的平衡点的个数、类型和稳定性进行了分析,证明了系统存在三种类型的奇点统(singular continuum),这是忆阻器有记忆功能的一个重要特征.推导出了系统存在Hopf分岔.利用Poincare-Bendixson环域定理证明了系统存在一个唯一的不稳定的周期轨.通过数值模拟对理论分析进行了验证.第四章用动力系统定性分析和分岔理论的方法研究了带有蔡少棠的二极管的忆阻器模型的动态行为.给出了在不同的参数区域内系统平衡点的数量和局部稳定性.用Sotomayor定理证明了系统存在叉式分岔.用广义Lienard系统的结论和分岔理论证明了系统存在Hopf分岔.通过数值模拟对理论分析进行了验证.第五章研究了一类带有常数项产出收获和群防御的捕食者-食饵模型的动力学行为.主要考虑了在不同的参数区域上系统的平衡点及稳定性等问题.证明了系统存在鞍结点分岔,Hopf分岔和Bogdanov-Takens分岔.从生态意义上来看这些分岔是很重要的,尤其是鞍结点分岔,可能导致系统动态发生剧烈性变化.在系统中的常数项产出收获的取值对捕食者种群和食饵种群的存亡起了很重要的作用.通过数值模拟对理论分析进行了验证.这些研究结果可以看作是对现有工作的补充和完善,对于理解具有这种特征的生态系统的复杂动态行为提供了理论基础和数学支撑.第六章对研究的工作做了总结,并对未来要做的工作进行了展望.