近年来,与腔光机械系统相关的量子力学行为得到广泛研究,其中量子非线性行为已成为重要研究内容。相变演化方程是表征伴随新相生长中各相含量随时间的演化。目前,相变演化方程是通过相变驱动力、温度和相变弛豫时间来表征新相质量分数,该方式是基于唯象理论得到的,缺点是忽视了相变发生中的物理机制。另外,以量子不确定关系为基础的模压缩也发展为腔光机械系统中的热点问题。本文分别探究了单模腔光机械系统和双模腔光机械系统中的动力学相变和选择性能量交换。我们发现:无论单模腔光机械系统还是双模腔光机械系统,系统都会经历类似于Dicke-Hepp-Lieb超辐射类型的动力学相变,且在双模腔光机械系统中通过调控腔模与机械模之间的耦合强度或两腔耦合强度都会出现新的动力学临界点;双模腔光机械系统的两腔耦合强度等价于两腔间无耦合时系统的外场驱动;通过腔模与机械模之间的耦合强度和两腔耦合强度的调节,任意两模间的选择性能量交换被实现,同时临界耦合点与选择性能量交换对应;模压缩是能量转换的标志,且任何两模之间的模压缩是由特定模之间的能量交换所决定。主要研究内容如下:（1）介绍了腔光机械系统的研究背景,主要从机械振子、腔光机械系统、相变和模压缩等方面进行了系统的阐述。（2）分析了单模腔光机械系统的动力学相变和选择性能量交换。我们首先将单模腔光机械系统的哈密顿量进行了旋转变换,然后得到了系统的有效哈密顿量;然后基于海森堡-朗之万方程,推导出系统相关算符的运动方程;最终给出了正常相下光模和机械模的激发能。通过激发能随耦合参数的变化,我们发现:该系统在临界点处发生的动力学相变与Dicke模型的正常相到超辐射的量子相变对应,动力学相变的稳定相对应于正常相,而动力学相变的不稳定相对应于超辐射相。由于该系统只有两模,所以并不是严格意义上的量子相变。基于量子不确定关系和波戈留波夫变换,我们给出坐标和动量的方差表达式。动力学临界点处坐标方差的不被压缩和动量方差的最大压缩表明模压缩是能量转换的标志。（3）探讨了双模腔光机械系统的动力学相变和选择性能量交换,分两光腔间无耦合和有耦合两种情况进行讨论。研究方法与第二章相同,但光腔模的增加导致一些新的动力学相变特性和新的动力学临界相变点出现。动力学临界点处显示出最大压缩,可见模压缩是能量转换的标志。基于傅立叶变换给出的模分裂,我们再次验证了:在双模腔光机械系统中不同耦合参数的调控可以实现不同模式的自主选择性能量交换。