分子振动的高激发态，由于非线性导致其成为不可积乃至混沌体系。而有关不可积体系的半经典量子化是至今尚未解决的物理前沿课题。本论文运用李代数(群)陪集方法来研究不可积体系的量子化问题。主要内容如下：1．本论文运用非绝热相关方法得到分子高激发振动体系的形式量子数。研究表明，形式量子数体现了高激发振动态的重要特征，是体系的近似运动守恒量。我们不仅可以运用形式量子数对分子高激发振动态的能谱进行归属和分类。而且它们的存在对于运用周期轨迹来研究体系的量子化问题具有重要参考作用。2．运用李雅普诺夫指数对H2O振动体系及多个格点中单电子体系的量子化问题进行研究。研究表明，量子化能级对应于平均李雅普诺夫指数局域的极小值。这一观点强调了体系的量子能级具有整体的最小混沌程度，是从混沌的角度来研究量子化问题的。这是一个新颖的视角，就我们所知，还未见诸文献报导。3．我们对氰化氘（DCN）振动体系的非线性效应引致周期轨迹的过程进行详细的研究。研究表明，由体系的共振作用引起的非线性效应在分子高激发振动态的动力学中起关键作用。并阐明了非线性效应引致的周期性与线性效应下的周期性的本质不同，有其自身的特性。由非线性引致的周期轨迹的运动特性是由共振的形式所决定的。4．运用周期轨迹的作用量积分对DCN体系及Henon-Heiles体系的量子化问题进行研究。研究表明：当体系所受的扰动增加时，体系的混沌程度就会不断增加，周期轨迹的数目也越来越少。但这些存活下来的周期轨迹是体系相空间的运动骨架。当体系处于较低的激发态时，由于周期轨迹并没有完全被破坏掉，仍可以运用其作用量积分对体系进行量子化。即周期轨迹中短周期轨迹的作用量的整数值正好可与量子态有对应关系。这一结论强调了周期轨迹的重要性，并表明了不可积体系的周期轨迹与混沌轨迹从不同的方面与体系的量子态有着内禀的关联。