随着量子力学和量子信息学的诞生和发展,量子理论在推动现代社会进步中起到了重要的作用。量子力学和经典力学的对应关系以及量子一经典混合理论得到了深入的发展,揭示了量子力学和经典力学的区别和联系；腔QED、几何相位以及量子纠缠等概念得到了广泛的研究,并成功应用到实验中。本文在理论上研究了量子及量子一经典混合系统中的几何相,这有助于我们对量子和经典力学在结构和几何性质上的理解,同时运用非线性理论中的平均场方法研究了非线性腔QED系统的性质及应用。本论文共分六章,其中第三到六章为我们的主要工作。第一章和第二章简要介绍了本文研究课题的背景及意义,回顾了量子力学、量子信息学、几何相、腔QED的研究历史。详细介绍了量子几何相、经典几何角、量子经典对应以及纠缠度等概念和原理。第三章首先研究了量子一经典混合系统中的Berry相和Hannay角。在引入一个广义一形式后,可以由此同时得到混合系统的Berry相和Hannay角。结果表明经典和量子子系统之间的耦合改变了Berry相,但对Hannay角也有一个小的影响。计算了两个量子耦合谐振子系统的Berry相,并与量子一经典混合系统的结果进行了比较。这提供了一个处理量子一经典混合问题新的有效手段。第四章研究了散射过程中的几何相,定义并计算了这一过程中的几何相,给出了几何相对自旋一自旋耦合以及势垒强度的依赖关系,提出并讨论了一种可能的几何相观察方案。这一研究提供了一种计算非保迹情况下几何相的方法。第五章在理论上研究了非线性Kerr效应及其对两个耦合腔中的两个原子问纠缠的影响。通过数值模拟,我们研究了在高场强情况下两个腔场的动力学演化,讨论了非线性引起的自捕获(self trapping)效应以及原子一腔场纠缠对这一现象的影响。在真空和高强度场的情况下,我们在理想和现实两种模型中计算了两个原子间的并发度,并讨论了非线性效应对原子纠缠的影响。结果表明非线性相互作用对原子间纠缠起到了明显的控制作用。这为量子信息处理提供了一个新的思路。第六章在理论上研究了非线性效应存在下光子在一维耦合腔列中的传输特性,其中腔列正中间的腔与一个二能级系统耦合在一起。利用传统散射理论和平均场近似,计算了光子在各个腔之间的传输率,并讨论了非线性以及原子一腔场耦合对光子输运的影响。结果表明原子一腔场耦合会影响到光子的相干输运。同时通过数值模拟系统的动力学特性,讨论了原子一腔场失谐以及非线性对系统动力学的影响。最后,我们给出了本文的总结和展望。