在自然界中,恐惧效应随处可见,恐惧不仅可以帮助生物提高警觉性,还可以帮助生物躲避危险,恐惧也是生物与生俱来的心理反应.同时恐惧也会对生物的繁殖能力、觅食行为、生理状态等造成一定的影响.这对于大型食肉动物消失带来的生态失衡问题提供了很好的解决思路.近年来,由于人类的过度控制,导致一些大型食肉动物面临灭绝的问题,食物链顶端的缺失会使生态系统的平衡遭到破坏,应该如何在短时间内调节生态平衡是人类面临的重大问题.利用理论知识建立相应的种群动力学模型,可以让这种现象得到一个很好的解释.关于恐惧效应影响生物的增长速率的种群模型,目前已经相对比较完善了,因此本文从恐惧效应对生物的觅食行为的影响来建立种群模型进行研究.本文在传统的捕食者-食饵模型的基础上,基于恐惧效应对捕食者捕食率的影响,将恐惧效应作为连续变化的变量.研究了一类具有恐惧效应的Holling II型Lotka-Volterra模型的动力学性态.对于局部模型,首先研究了非负平衡点的存在性和稳定性,给出了正平衡点存在的条件,分析了在正平衡点的稳定性.其次通过分析发现该系统存在一系列复杂的动力学性态,比如存在Hopf分支和鞍-结分支,并详细研究了它们的性态.结果表明:通过调节恐惧因子的大小,当恐惧因子通过一个阈值时,该模型会出现一个超临界且轨道渐近稳定的极限环.对中型捕食者施加恐惧可以防止低营养级物种的灭绝,从而维持生态系统的稳定性.另外,随着恐惧程度的加大,系统的周期震荡会变小,系统的稳定性得到了加强,但是这是存在最佳区域的,如果恐惧的程度过大,则会导致低营养级过度增加,甚至威胁到中层营养级的生存.对于反应-扩散模型,研究了正平衡点和分支周期解的由扩散导致的Turing不稳定性,Hopf分支的存在性和方向以及分支周期解的稳定性.结果表明:恐惧效应在确定的模型的稳定性和分支性态方面有着重要的作用,可以诱导Turing失稳现象的产生,这与没有恐惧效应的情形有着本质的不同.恐惧效应会减小在正平衡点处的捕食者的密度,但不会引起捕食者的灭绝,恐惧效应还可以通过排除周期解的存在性来增加系统的稳定性.上述研究结果表明了该模型复杂的动力学性态.