癌症严重地威胁着人类的健康与生命。据世界卫生组织2012年的报告,全球1410万新增癌症病例,820万癌症病人的死亡。统计数据及相关研究已经表明,随着年龄的增长患癌的风险将显著地增加。因此,关于癌症治疗方案的探索已成为当今免疫学和药理学等相关生命学科研究的热点问题之一。本文分为六章,主要探讨了免疫系统和肿瘤细胞相互作用的动力学行为、肿瘤的脉冲混合免疫治疗和放射治疗、肿瘤的脉冲混合免疫治疗和化疗及其肿瘤的混合免疫治疗和化疗的最优治疗方案的设计。在第一章,我们简要地介绍了目前癌症疫情、癌症治疗的基本方法、癌症免疫反应和癌症治疗效果的研究现状、常微分方程、脉冲微分方程和最优控制的基本概念和理论。在第二章,我们把免疫细胞种群分成两个子群：未成熟的免疫细胞和成熟免疫细胞种群,建立了两阶段的常微分方程模型研究了免疫系统与肿瘤细胞相互作用的动力学特征。我们分别讨论了模型的无肿瘤平衡点和肿瘤存在平衡点的稳定性,并给出了相应的条件。再则,我们运用三维系统的Hopf分支理论探讨了系统Hopf分支的存在性,并利用中心流形定理和规范型方法导出了分支稳定性系数的具体表达式。最后,数值模拟验证了我们所获得的理论结果。在第三章,为了探讨不同治疗方案的治疗效果,我们提出了一个具有周期脉冲放射治疗和免疫治疗的抗肿瘤模型。首先,我们讨论了系统在无治疗情况下的动力学性质,并证明了无肿瘤平衡点和肿瘤存在平衡点的全局稳定性。其次,利用脉冲微分方程的Floquent理论和小振幅扰动方法,我们证明了系统的无肿瘤周期解的全局稳定性,并给出了相应的条件。进一步,我们利用不动点理论探讨了系统非平凡周期解的存在和稳定性。再则,通过不同治疗方案的比较,我们得到了哪一种治疗方案在减小基本再生数上更有效的条件。最后,通过数值模拟验证了我们的理论结果,并给出了一个混合免疫和放射治疗的治疗方案。在第四章,我们首先讨论了单独的免疫治疗、单独的放射治疗、混合免疫和化疗的治疗效果,进而得到了能够使得肿瘤最终消除的一些条件。接着,我们分析了药物的最低浓度和半衰期对治疗效果的影响,并且发现提高药物的最低浓度和延长药物的半衰期能够获得更好的治疗效果。进一步,我们发现采用低剂量和短周期的治疗方式能够改善化疗的治疗效果。再则,由于大多数的肿瘤在化疗的过程中容易产生耐药性,因此我们考虑耐药性对化疗结果的影响,并建立了新的数学模型去解释了采用单一的化疗药物往往使得化疗失败的原因。基于此,我们考虑了联合两种化疗药物的化疗效果,并给出相应的治疗方案。最后我们在考虑耐药性的情况下,设计了混合免疫和联合化疗的治疗方案。数值模拟结果表明多药物联合化疗在治疗具有耐药性的肿瘤方面是有效的,混合免疫和联合化疗能够使得肿瘤细胞总是处于一个较低水平,因此能够获得更好的治疗效果。在第五章,我们建立了在连续免疫治疗和化疗情况下的癌症治疗模型。首先,对于单独的免疫治疗和单独的化疗,我们获得了最终能够使得肿瘤细胞消亡的条件。接下来,我们考虑了混合免疫治疗和化疗,并运用最优控制理论来寻求最优的治疗方案。我们讨论了最优控制问题的最优解的存在性,并利用pontryagin的最大值原理刻画了两个控制变量的最优水平。数值模拟显示最优的混合治疗方案依赖于目标泛函中控制变量前面的系数。并且通过单独的免疫治疗、单独的化疗和最优混合治疗方案之间的比较可知,单独的免疫和单独的化疗都不足以治愈一个肿瘤,但是采用最优混合治疗策略能较快的消除一个肿瘤。在第六章,我们简要的总结了我们所做的一些工作,并对今后进一步要做的工作做出了展望。