本文从演化博弈的思想入手，在两个种群的生态系统中引入了种群通过学习、模仿等动态过程而对策略进行调整。由传统的Lotka-Volterra模型出发，对种群之间的线性、单调的相互作用关系进行了演化博弈思想下的改进，提出了一类种群间具有非线性、非单调的相互作用关系的合作竞争模型。通过微分方程的稳定性理论和定性理论，证明了这类模型不存在周期解，给出了其在对称情形下的局部稳定性结果以及全局定性结构图，并对一般情形下模型的局部稳定性和全局定性结构作了初步的讨论。 全文包括三个部分： 第一部分即第一章，给出了这类模型的思想基础和生态意义。 第二部分即第二章，是模型的引入部分。 第三部分包括第三章到第五章，从微分方程的稳定性理论和定性理论出发，分别对模型极限环的不存在性，平衡点的局部稳定性，以及对称情形下的全局定性结构进行了研究，并在此基础上展开了对模型结果的应用分析。最后提出了有待改进之处。