本文以既有理论研究意义又有广泛实用价值的三类非线性动力系统:Belousov-Zhabotinsky(简称BZ)振荡反应、三机四母线电力系统和cancergrowth模型为研究对象，应用动力系统稳定性和定性理论、分支理论及混沌理论研究了这几类模型中的非线性动态，主要包括:1）理论上应用微分方程稳定性和定性理论讨论了平衡点的存在性、稳定性和类型;应用中心流形定理和时域上的分支理论分析了静态分支的存在性;应用频域上的分支理论分析了Hopf动态分支的存在性;利用四阶、六阶调和平衡方法给出了由Hopf分支生成的周期轨的高精度的近似解析表达式，以及周期轨的频率和振幅;此外，借助调和平衡方法判别出了由Hopf分支生成的周期轨的稳定性和位置;2）数值上应用matlab、Aut02007等软件给出了系统的平衡点和周期轨的局部分支图、相图、时间序列图等;通过计算平衡点的特征值、周期轨的Floquet乘子以及Lyapunov指数等进一步验证了理论研究的准确性，同时还发现了其它复杂的动态。　　全文共分五章:　　第一章简要阐述了三类非线性动力系统的研究背景和研究这些系统时需使用的基本理论和数值方法。　　第二章研究了一类BZ反应的分支情况。应用频域Hopf分支理论严格证明了两个supercritical Hopf分支的存在性，给出了由这两个Hopf分支生成的周期轨的四阶调和平衡近似解析表达式以及频率和振幅，同时也给出了这些周期轨的位置和稳定性的判别。数值模拟的实施证明了理论研究的准确性，同时也显示了一些复杂的振荡现象，如:拟周期振荡、倍周期级联和由该级联导致的混沌等。　　第三章以一个三机四母线电力系统作为研究对象。在时域和频域上分别分析了saddle-node分支和Hopf分支的存在性，给出了由Hopf分支生成的周期解的四阶调和平衡近似，并且用数值解和Aut02007软件验证了周期解的表达式和频率的近似值。进一步的数值分析显示出周期轨发生了多种多样的分支，包括倍周期分支现象、cyclic fold分支、环面分支，以及系统会呈现出一些复杂的动态，比如有混沌现象、拟周期振荡等。　　第四章考虑了一个三维cancer growth模型中的分支现象，特别地，第一次发现了此模型的平衡点会发生saddle-node分支。在时域上严格证明了平衡点的transcritical分支和saddle-node分支的存在性，在频域上验证了Hopf分支的存在性。提供了比前两个模型更精确的由Hopf分支生成的周期解的频率、振幅和解析表达式的六阶调和平衡近似，并判别了周期解的稳定性和位置。此外，数值模拟也显示了平衡点和周期轨的多种类型的局部分支，比如cyclic fold分支、倍周期分支、倍周期级联和混沌等。　　第五章细致地总结了整篇文章的工作，也指出了以后需要研究的重点内容。