自1995年实现以来,超冷原子的玻色-爱因斯坦凝聚体(BEC)已被越来越多的实验证明是研究相互作用量子多体系统的理想平台。利用外部激光和磁场可以方便地对超冷凝聚体进行时空调制。从理论上讲,该低温系统的基态和动力学性质可以被平均场理论很好的描述。近年来,由于可能存在各种类型的新型拓扑缺陷,包括矢量孤子、涡旋晶格、狄拉克单极子以及斯格明子等,具有自旋自由度的超冷多组分旋量BEC成为了该领域研究的热点课题。精确的外场可控性,特别是自旋-轨道耦合效应和奇异囚禁势的实验实现,极大促进了人们对这些新奇拓扑态的研究。探索其基本性质并找到控制它们运动的有效方法,成为了该领域当前最重要的理论课题之一。本论文立足于当前该领域对旋量BEC和自旋-轨道耦合效应研究所取得的最新成果,通过对平均场Gross-Pitaeviskii方程进行理论分析和数值模拟相结合的方法,研究了具有自旋-轨道耦合作用下自旋F=1旋量BEC的新奇量子态及其性质。主要探讨了具有自旋-轨道耦合和塞曼耦合的自旋F=1旋量BEC中的磁化矢量孤子、环形阱中旋量BEC的基态性质以及共心耦合双环势阱中反铁磁旋量BEC的奇异量子态,揭示了外场参数对系统态结构及性质的影响,从密度分布、相位分布、磁化率、拓扑荷密度及自旋纹理等方面呈现了系统新奇量子态及态间转换,得到了一些有一定创新意义的研究结果。具体内容如下:1、自旋-轨道耦合旋量BEC的磁化矢量孤子利用多重尺度微扰法研究了具有自旋-轨道耦合和塞曼耦合的自旋F=1旋量BEC中磁化矢量孤子的性质。我们解析推导了系统的基态能量本征值和对应的本征矢,它们可以被外场参数进行有效调控,构成研究非线性激发的基础。通过把耦合的GrossPitaeviskii方程约化成一维标准的非线性薛定谔方程,得到了系统的解析矢量亮孤子解和暗孤子解。这些解代表正质量或负质量孤子主要取决于标准薛定谔方程的有效色散和非线性系数的乘积。对于在能量极小值附近给定的动量,展示了移动亮孤子和暗孤子的结构。最后,利用系统的自旋极化讨论了矢量孤子的磁化特征以及自旋-轨道耦合和拉曼耦合所起的作用。2、环形势中自旋-轨道耦合旋量BEC的基态量子相通过数值模拟研究了环形阱中具有自旋-轨道耦合作用的自旋F=1旋量BEC的基态性质。通过调控外场参数可在系统三个组分中诱导出一些新奇的量子态,例如项链态,持续流以及涡旋态等。研究发现,项链态的数目会随着自旋-轨道耦合作用强度的增加而增加,自旋-轨道耦合作用的各向异性能够被用来控制系统的基态结构。由外部场诱导的凝聚体的旋转会使得三组分密度分布出现非对称性,并且倾向于把项链态转变成持续流。环形势阱的半径也是一个可以用来控制项链态的新自由度。另外,项链态和涡旋态之间的转变(中间经历持续流态)可以通过控制原子之间的密度-密度相互作用和自旋交换相互作用的比值来实现。3、共心耦合双环势阱中自旋-轨道耦合旋量BEC的新奇量子态研究了共心耦合双环势阱中具有自旋-轨道耦合作用的自旋F=1反铁磁BEC的新奇量子态。由于自旋-轨道耦合作用的出现,一类新颖的具有双环结构的项链型新奇态在该系统中被揭示出来。项链态的花瓣数目随着自旋-轨道耦合作用强度的增大而增加。当考虑凝聚体的旋转时,随着旋转频率的增加,凝聚体可被拖拽到双环阱的外侧凹槽中,使得实现内环出现项链态而外环出现持续流的奇异态成为可能。在特定的原子间有效相互作用下,一旦环形势阱中两个凹槽被持续流布居,隐涡旋可能出现在阱的中间区域和两个凹槽之间的势垒中。另外,我们揭示随着增加原子之间相互作用,具有层状结构的可视化涡旋也可以在该系统中被激发出来。通过这些研究,我们进一步认识了旋量BEC的超流性质,研究了该耦合复杂非线性系统中的拓扑激发结构,探讨了自旋-轨道耦合、拉曼耦合、塞曼耦合以及原子之间的相互作用对系统超流性及系统量子态结构的影响。研究结果进一步丰富了环形外势中旋量BEC的新奇量子态结构,展示了该系统的奇异超流性质。同时,对该系统非线性拓扑激发的探索和研究,为构建诸如超流约瑟夫森结和原子干涉仪等基于冷原子系统的量子精密测量器件奠定理论基础。