近年来,随着半导体材料学与实验工艺的快速发展,人们已经将光力学系统做到微纳尺度,这使得纳米力学振子的量子效应越来越明显。光力学作为量子光学的重要研究领域激发了越来越多研究人员的浓厚兴趣。光力学具有重要的理论价值,它对于人们研究经典物理系统与量子物理系统之间的界限具有重要意义。过去人们已经在很多相关方面取得了可喜的进展,未来光力学更有着广阔的发展前景。量子纠缠作为量子力学中的主要角色,伴随着量子力学发展至今,已经在理论和实验两方面都取得了丰硕成果。随着量子信息和量子计算等领域的不断进步,人们对量子纠缠的研究越来越重视。近年来,随着光学腔的微小化,微观光场和宏观机械振子间的光力纠缠被大家所青睐。光力学腔使得微观或纳米机械振子已经实现了量子基态附近的冷却。同时,近年来的一些研究也发现了多种量子行为,如机械纠缠和压缩等。这些宏观量子态对于超高精度测量以及量子信息处理都有着重要意义。基于当前理论与实验的研究现状,本文主要讨论了光力学系统中的稳定性和纠缠。首先分析了法布里-珀罗腔中单稳和双稳机制下的光力纠缠,系统的考虑和判断了模型的稳定性,进一步利用刻画连续变量纠缠的手段评估了单稳以及双稳机制下的光力纠缠特征,分别讨论了单稳和双稳机制下纠缠峰值的分布情况,还分析了腔内光子数与纠缠强度的关系。其次研究了在包含超冷原子系综的混合光力系统中稳态光力学性质和原子激发行为。特别的是,在处理原子系综时的传统方法是考虑弱场近似,即在大原子数目以及弱激发近似下,将原子算符波色化处理,而我们是在超越弱场近似下处理原子系综,即通过考虑原子内态的实际激发概率来处理原子算符。研究发现,在实际的实验参数下,系统的稳态光力学谱线表现出多稳性质,而原子激发并不是严格的一一对应,并且会出现一对不同的多稳谱线对应于同一激发概率的情况。