本论文的内容共分为两章，第一章为综述部分，主要介绍了玻色-爱因斯坦凝聚现象(Bose-EinsteinCondensation，缩写为BEC)，实现BEC的实验技术、以及与BEC相关Gross-Pitaevskii方程(简称G-P方程)和一些重要的物理现象。第二章是对光晶格中偶极BEC系统不稳性问题的研究。调制不稳定性是非线性系统里的一个特别现象，在普通的光晶格BEC系统里，调制不稳定性对光晶格中BEC的超流-Mott绝缘体转变，明暗孤子的激发以及不同组分BEC空间分布的形成有着重要的影响。在已有研究的基础上，我们进一步对光晶格中偶极BEC原子系统的调制不稳性进行了研究。在前面人们研究的普通的光晶格BEC原子系统中，调制不稳性主要来源于同一格点上BEC原子之间的在位相互作用。但在偶极BEC系统中，由于偶极-偶极相互作用还会导致不同格点上BEC之间的耦合，因而其调制不稳定性具有不同的特点。利用线性稳定性分析方法，我们研究了光晶格偶极BEC原子系统的调制不稳定性与偶极-偶极相互作用之间的关系。由于偶极-偶极相互作用可以通过外场很方便地进行调节，因而通过对光晶格中偶极BEC的调制不稳定性的分析，除了可进一步加深对非线性现象和BEC动力学行为的理解，还可为如何操控光晶格中偶极BEC，以及其在量子计算等实际中的应用提供帮助和信息。