目前,超冷原子物理是物理学备受关注的一个热门研究领域,尤其利用激光与中性原子的相互作用产生了人工规范场,实现了玻色-爱因斯坦凝聚体中的人工自旋轨道耦合,发现了许多有趣的基态相和动力学现象:如平面波相、条纹相、原子的自旋霍尔效应和自旋动量锁定等。而将自旋轨道耦合玻色-爱因斯坦凝聚体加载到光晶格中又出现了新的基态相,即边缘相。光晶格中自旋轨道耦合玻色-爱因斯坦凝聚体为利用中性原子模拟强关联系统的研究提供了一个优越的平台。但是,目前对光晶格自旋轨道耦合玻色-爱因斯坦凝聚体的研究还很初步,特别对系统基态相和发生相变时光晶格和自旋轨道耦合之间的竞争机理、以及在考虑原子间相互作用后系统的非线性能谱结构变化特性仍然不清楚。本文基于平均场理论和变分法,深入讨论了光晶格自旋轨道耦合玻色-爱因斯坦凝聚体中的基态相变和能谱结构特性。具体研究内容和文章结构安排如下。第1章介绍了本论文的相关研究背景。首先综述了自旋轨道耦合玻色-爱因斯坦凝聚的实验实现以及系统中基态特性和能谱结构,进一步介绍了光晶格中凝聚体的能谱结构和动力学的特性,接着重点概述了光晶格中自旋轨道耦合玻色-爱因斯坦凝聚的实验原理和基态相变,最后提出了目前该系统中仍存在的问题、以及本文的主要内容和结构安排。第2章研究了囚禁在一维光晶格中由Rashba和Dresselhaus型自旋轨道耦合等权叠加形成的玻色-爱因斯坦凝聚体的基态相变。基于两模近似和变分法,解析地得到了极化Bloch波相和非极化Bloch波相相变的临界条件,该条件揭示了自旋轨道耦合、光晶格和原子间相互作用在决定系统相变过程中的丰富竞争关系。结果表明,相变临界值随光晶格强度的变化规律取决于种内、种间原子间相互作用的大小。有趣的是,通过调节自旋轨道耦合、光晶格和原子间相互作用,基态的能量最小值的位置（即凝聚体动量）可以位于布里渊区内的任意位置。这个研究结果为深入理解该系统中的基态相以及在基态相变过程中光晶格与自旋轨道耦合之间的竞争机理提供了理论依据。在上一工作的基础上,第3章进一步研究了光晶格中自旋轨道耦合玻色-爱因斯坦凝聚体的非线性能谱结构和流密度。通过调节系统参数,详细地呈现了系统能带结构和流密度的变化规律。研究发现,当系统参数满足一定条件时,能谱结构在布里渊区的边界处会出现有趣的环状结构（loop结构）,拉曼耦合和光晶格会抑制loop结构的出现,而自旋轨道耦合和原子间相互作用促进loop结构产生,同时使loop的宽度变大以及能带结构变得更加复杂。凝聚体能带结构的变化与流密度密切相关,其中自旋轨道耦合使布里渊区边界附近凝聚体流密度呈现出强烈的不对称性,使不同自旋态流密度在动量空间中的分布分离。而光晶格强度和拉曼耦合强度则会减弱这种不对称性,使不同自旋态流密度重合。Loop结构的出现破坏了系统的Bloch振荡,使系统发生Landau-Zener隧穿,而不同自旋态流密度在动量空间分布的分离意味着自旋交换动力学的出现。最后第4章对本论文进行了总结,并展望了该领域的相关研究前景。