原子在光晶格中的运动完全可类比于电子在固体晶格中的运动，因此光晶格提供了独特的机遇探索一些只有凝聚态物理才能理解的物理现象。本文从光晶格的基本概念、特性出发讨论了超冷原子在光晶格存在的情况下的量子相变。首先综述了光晶格中超冷原子的量子相变的研究现状。在第二章里我们研究了光晶格中两分量玻色爱因斯坦凝聚原子的能谱，其能带结构可以用来决定超流—莫特绝缘体转变的临界条件；并且讨论了玻色—玻色近邻相互作用对能带结构和相变的影响；我们还讨论了通过调节实验参数在实验上观察这些新相以及它们的转变的可能性。第三章研究了超冷玻色—费米混合物在光晶格中的能谱和量子相变，玻色原子有两个能带，费米原子只有一个能带。由路径积分方法我们得到了玻色—费米混合物的相图，相图依赖于实验参数。我们着重讨论了费米子的存在是怎样影响玻色子的超流到Mott—绝缘相变的。在特定的超低温的条件下，玻色子能够表现为费米子的行为。这种费米化的气体建立了一种全新的量子态物质叫做TG气体。这是美国物理学家Girardeau在1960年预言的，已经由德国和美国物理学家于2004年在实验上证实。第四章我们用微扰展开和格林函数方法研究了光晶格中费米化的玻色子的能谱。费米化的玻色子非常象没有相互作用的无自旋的费米子。能谱分裂成两个能带。我们用玻格留波夫方法也得到的相应的基态能量和准粒子激发谱。我们发现准粒子激发谱相应于能隙。两种方法得到的结果能很好地相符。第五章给出了结论和今后工作的展望。