自1995年美国三个实验小组实现玻色-爱因斯坦凝聚(BEC)以来，超冷原子及其应用一直是物理学中研究的热点。光晶格中超冷原子系统由于有许多优良的特性和丰富的物理现象而受到了物理学家特别地关注。1998年Jaksch等人从理论上预言了超冷原子的超流到Mott-绝缘相变，到2002年Greiner等人在实验上证实光晶格中的超冷玻色原子的超流到Mott-绝缘相变。　　 此后，有关超冷原子研究迅速发展，观察到了一系列新的现象，如在纯玻色系统，无序玻色系统，或玻色费米混合中也观察到了Mott态与超流态的相变，光晶格中超冷费米原子的研究也得到了巨大的进步。同样，在光晶格中磁性量子相变，偶极玻色-爱因斯坦凝聚的非线性动力学，两原子簇的玻色.爱因斯坦凝聚和磁性孤立子相图等也都得到了研究。　　 本文的主要研究了三角型和六角型光晶格中的量子相变，具体章节安排如下：　　 第一章介绍了玻色爱因斯坦凝聚基本概念、平均场理论和Gross-Pitaevskii方程，以及实验实现的方法和现象，简要概述了玻色爱因斯坦凝聚的相干性和超流特性等一些性质。　　 第二章介绍光晶格的产生及应用，并对光品格中的超冷原子的量子相变的进展及原理做了简要的说明。　　 第三章研究了三角光晶格中超冷玻色原子的量子相变，首先导出三角光晶格中超冷玻色原子系统的哈密顿量，然后采用平均场近似，并且进一步用数值对角化方法求解哈密顿量。最后得到系统基态的相图，发现有Mott-绝缘相和超流相出现。此外我们通过序参量和平均粒子数来分析相图。　　 第四章研究了六角光晶格中超冷玻色原子的量子相变，方法同研究三角光晶格模型一样，利用平均场近似的方法，得到该系统基态的相变图。在改变相互作用参数UA和UB的相对大小时，发现相图会有定性的变化。