光晶格中BEC的隧穿动力学性质已发展成为当前冷原子研究领域的一个热点课题。大量相关研究表明,原子间相互作用对光晶格中BEC的隧穿动力学性质,如BEC的能带特征、稳定性、局域化和自囚禁现象有着显著的影响。超冷原子在光晶格中的局域化和自囚禁现象是一类重要的非线性量子现象,与冷原子系统的稳定性以及量子相变密切相关。然而,目前已有的相关研究大部分仅局限于考虑原子两体相互作用下低维光晶格中BEC的动力学特性。众所周知,要研究真实的隧穿动力学过程,原子间三体相互作用和光晶格维数是不容忽视的。因此,为了更接近实际,本文一方面侧重研究当同时考虑原子间两体相互作用和三体相互作用时,三体相互作用对光晶格中BEC的能带特征、能量和动力学不稳定性、局域化和自囚禁现象的影响;另一方面,着重研究光晶格的维数对BEC发生局域化和自囚禁现象的影响;进一步研究了光晶格中超流费米气体的动力学性质,从理论上证明了超流费米气体在光晶格中也会出现自囚禁现象,且发现超流费米气体和玻色凝聚体在光晶格中有完全不同的动力学性质。论文包括六章:第一章简单介绍了BEC的概念和实现、光晶格的产生和光晶格中BEC的研究进展。第二章分别利用两模近似和紧束缚近似的方法,结合变分原理,研究了两体和三体相互作用下一维光晶格中BEC的动力学特性,系统地分析了三体相互作用对BEC的能带结构、能量和动力学不稳定性、以及局域化和自囚禁现象的影响。结果表明,三体相互作用对BEC能带结构和粒子流密度有很大影响,即粒子数存在一临界值,且此临界值与三体相互作用强度密切相关。只有当粒子数大于这一临界值时,在基态能带的第一布里渊区边界处能级才会出现loop结构。同时,粒子流密度不仅与粒子数、两体相互作用强度和光晶格的特性有关,还与原子之间三体相互作用强度有关;经过理论和数值分析比较发现,原子数和光晶格深度,特别是原子间三体相互作用对Bose系统发生能量和动力学不稳定性的边界条件有着显著的影响;由于原子间三体相互作用的出现,BEC发生扩散、自囚禁态、运动孤子态和呼吸子态的临界条件以及它们在相图中所对应的区域都发生了很大的变化。此外,在自囚禁现象发生以后,波包的最大宽度和最小宽度也与原子间三体相互作用密切相关。第三章通过构造一个简单的五阱模型,解析和数值地分析了二维光晶格中BEC发生自囚禁现象的临界行为。结果表明,自囚禁现象在五阱模型中也可以发生。但是与两阱和三阱的情况相比,出现自囚禁态的临界参数值发生了改变;阱与阱之间的相位差对BEC的隧穿动力学性质有着显著的影响,尤其对三阱和五阱模型的影响更大。第四章将一维深光晶格中BEC隧穿动力学性质的研究推广到三维情况,着重分析了光晶格的维数对BEC发生自囚禁和局域化现象的影响。通过求解控制三维深光晶格中BEC隧穿动力学性质的离散G-P方程,解析地得到了体系出现自囚禁态、稳定运动的孤子态和呼吸子态的临界条件,并给出了相应的数值验证。研究结果表明,自囚禁态在二维和三维光晶格中也存在,但是与一维情况相比,控制其发生的临界参数值发生了很人改变;并且发现稳定运动的孤子和呼吸子态只在一维光晶格中存在,在二维和三维光晶格中不存在;当自囚禁态出现以后,光晶格的维数对BEC原子云的最终波包宽度有着显著的影响。第五章系统分析了超流费米气体在一维、二维和三维深光晶格中发生自囚禁和局域化现象的临界行为,系统讨论了超流费米气体在光晶格中的隧穿动力学性质。结果表明,费米波包的自囚禁态可存在于一维、二维和三维光晶格中,并且存在于BEC—BCS整个渡越区。其次,稳定运动的孤子态和呼吸子态在一维、二维和三维光晶格中都存在。但是,在一维和二维体系中,稳定运动的孤子态和呼吸子态可存在于BEC—BCS整个渡越区;而在三维体系中,稳定运动的孤子态和呼吸子态仅存在于BCS超流体中。进一步研究表明,当体系从分子BEC超流体向BCS超流体过渡时,发生自囚禁态、稳定运动的孤子态和呼吸子态的临界条件发生了很大的变化。相比而言,自囚禁态、孤子态和呼吸子态在BCS超流体中比在分子BEC超流体中更容易发生。此外,无论是在分子BEC超流体中还是在BCS超流体中,光晶格维数越高,发生自囚禁态、稳定运动的孤子态和呼吸子态所需要的临界参数值越大。第六章给出总结和展望。