玻色-爱因斯坦凝聚是玻色子原子冷却到绝对零度附近时所呈现出的一种气态的和超流性的物态。1938年Landau提出了液氦(He4)超流本质上是量子统计现象，并被作为玻色-爱因斯坦凝聚的一种反映。此后，玻色-爱因斯坦凝聚开始受到重视。但由于实验技术的限制，弱相互作用的玻色-爱因斯坦凝聚直到1995年才在实验中实现。基于它的奇特性质，玻色-爱因斯坦凝聚的实现为原子物理、量子论和多体系统的研究开辟了新的途径，并在原子激光、量子信息等领域有着广阔的应用前景。现在的多数研究，已经把目标锁定在开发、操控和揭示宏观量子现象上。　　玻色-爱因斯坦凝聚在一维外势中的动力学特性及操控的研究已经较为广泛，但由于玻色-爱因斯坦凝聚的易坍塌性，不容易在高维状态下实现。而在本文中我们重点描述的是三维复合外势下玻色-爱因斯坦凝聚涡旋孤子的动力学及在时变增益和外势下的三维玻色-爱因斯坦的高阶调制不稳定性。主要围绕以下两个方面来讨论:　　1.由一维光晶格势和二维抛物势组成的复合外势下的玻色-爱因斯坦凝聚涡旋孤子的创建及动力学研究。运用高斯形式的基本涡旋，在三维复合势下创建了层状结构的涡旋孤子。根据能量泛函理论，得到玻色-爱因斯坦凝聚涡旋孤子静态初解满足能量最小原理。因此，首先运用粒子群优化算法得到玻色-爱因斯坦凝聚涡旋孤子的稳定初解，而后运用直接数值模拟方法对玻色-爱因斯坦凝聚涡旋孤子的稳定性进行检验。在玻色-爱因斯坦凝聚涡旋孤子随时间演化过程中，得到三维玻色-爱因斯坦凝聚涡旋孤子的动力学特性。最后，在光晶格方向，通过缓慢地拖动光晶格实现了对玻色-爱因斯坦凝聚涡旋孤子从某一固定的晶格势槽处到任一指定位置的操控。此外，我们还得到了操控的稳定性区域，并对影响操控的因素做了一定的分析。这种联合能量泛函理论和直接数值模拟的方法很好的为高维玻色-爱因斯坦凝聚的实现与操控提供了理论上和实验上的一条有效途径。　　2.时变外势和时变增益共同作用下的三维玻色-爱因斯坦凝聚高阶调制不稳定性的动力学及操控研究。我们分别讨论了三维抛物势及由抛物势和双曲面势组成的复合外势下的高阶调制不稳定性的动力学特性。首先，利用相似变换将三维非线性薛定谔方程降维成一维标准非线性薛定谔方程，并得出一维标准非线性薛定谔方程的呼吸解。然后，将呼吸解作为玻色-爱因斯坦凝聚高阶调制不稳定性的一阶解，运用Darboux变换得到玻色-爱因斯坦凝聚高阶调制不稳定性解的解析式。最后，运用直接数值模拟方法得到玻色-爱因斯坦凝聚高阶调制不稳定性解并分析其动力学特性。发现运用联合相似变换和Darboux变换方法得到的高阶调制不稳定性解的解析结果与数值模拟结果吻合的很好。通过同时调节时变外势和时变增益，实现了对玻色-爱因斯坦凝聚高阶调制不稳定性的操控。其中外势及增益的改变均可在实验上得以实现。