原子核是一个量子多体系统,实验发现原子核的低激发态能谱存在着一定的规律,表明原子核存在集体运动.相互作用玻色子模型是研究原子核结构和性质的一种代数模型,可以用来描述原子核的集体运动,从而揭示原子核中可能存在的新的动力学对称性.在相互作用玻色子模型框架下,首先研究了转动核的结构与性质.传统的转动核研究方案是利用SU(3)四极-四极相互作用形式.本文利用了一种新的研究方案即用O(6)高阶项取代SU(3)四极-四极相互作用来重新研究转动核的结构与性质.我们分别研究了玻色子数为13和16的两个转动核182W与168Er的结构和性质,计算了能级、四极跃迁值和对应的比值,并与实验结果进行了比较.研究结果表明,新的方案即O(6)高阶项方案,也可以和传统方案一样,用来描述转动核的结构和性质.从研究结果还可以看出,传统方案下带间跃迁是禁戒的,而新的方案下带间跃迁不是禁戒的,因而更接近实验.进而研究了更多的转动核性质,也得到了一致的结论.在相互作用玻色子模型框架下,利用O(6)高阶项的想法,对整个Casten三角形过渡区的量子相变问题也进行了初步的尝试研究.研究了不同玻色子数下,基态和激发态能量随着控制参数的变化.研究结果表明,随玻色子数的增加,系统的量子相变明显,并且β带和γ带的量子相变比基带明显.