许多光化学和光物理过程,如光致电荷转移、光致发光以及光致异构等,同物质中化学键的振动紧密相关。因此,对物质中的振动动力学研究有助于人们了解这些过程产生的机制并对这些现象在光电器件中的应用具有指导意义。随着激光技术的发展和非线性光学理论的完善,三阶非线性光谱技术成为研究分子振动动力学的有效手段。然而,现有的有关利用三阶非线性光谱探测分子振动动力学的研究仍然存在诸多问题,如多模式布朗振子(Multimode Brownian Oscillator, MBO)模型不能够用来描述同一电子态上振动态之间的粒子跃迁过程;光子回波光谱技术在多个振动态相干的观测中存在着探测带宽的局限性;飞秒受激拉曼(Femtosecond Stimulated Raman Scattering, FSRS)光谱技术在研究激发态分子中的电子-振动耦合方面存在着光谱成分复杂、信噪比低等问题。针对这些问题,我们对三阶非线性理论中物理模型以及光子回波光谱技术进行了改进,并提出了一个新的光谱技术用来研究激发态分子中的电子-振动的耦合过程。　　首先,针对MBO模型的局限性,我们引入了一组速率方程来描述同一电子激发态上的振动态之间的弛豫过程。在MBO模型中,振动态的粒子数动力学过程被看作是分立的,因此不能通过这个模型直接得到两个振动态之间能量转移过程的信息。为了解决这个问题,我们在原有模型的基础上引入了速率方程组,利用速率方程组的数值解对信号中的粒子数动力学部分进行拟合,得到振动能量转移的路径和时间常数。我们利用瞬态光栅光谱实验验证了这一改进模型的合理性,实验结果表明在IR780高氯酸盐/PVA薄膜中激发态上的振动态之间存在着粒子数跃迁,即分子体系中存在振动能量转移过程。　　其次,针对光子回波光谱技术探测带宽的局限性,我们利用超连续白光代替普通的飞秒脉冲作为探测光,实现了宽谱带探测,并利用其观测到了有机分子体系中激发态上多个振动态的相干过程。此前,人们为了获得更宽的探测范围通常利用双色光子回波技术进行实验。在双色光子回波实验中,每改变一次探测脉冲的波长,就要对实验对象进行一次探测。但是,对于每一个单次探测来说,双色光子回波依然是窄带探测,不能探测某些能量间隔较大的振动态之间的相干。为了解决这个问题,我们利用超连续白光代替普通的飞秒脉冲作为探测脉冲,并将这种方法命名为超连续白光探测光子回波(Supercontinuum Probing Photon Echo, SCPPE)光谱技术。我们利用SCPPE光谱技术对MEH-PPV/PMMA薄膜进行了探测。实验结果表明,　　振动相干同脉冲时序具有关联性,即振动相干的振幅在脉冲时序处于回波过程时最大。此外,我们还利用这种技术对IR780高氯酸盐/PVA薄膜进行了探测,得到了来自于四个振动模式的振动态之间的振动相干信息,这个结果说明 SCPPE光谱技术实现了真正的宽带探测。　　最后,为了研究激发态分子中的电子-振动耦合过程和弥补FSRS光谱技术的不足,我们提出了一种新的光谱技术——相干激发泵浦-超连续白光探测(Coherent Excitated Pumping-Supercontinuum Probing, SCP-CEP)光谱技术。目前,FSRS光谱技术是研究激发态分子中的电子-振动耦合过程的主要方法,它具有很高的光谱分辨率和时间分辨率。但是,这种方法同时也存在光谱成分复杂、信噪比低等问题。为了解决这些问题,我们提出了 SCP-CEP光谱技术。这种新的光谱技术在具有高的时间分辨率和光谱分辨率的同时,还具有信号光谱成分单一、高的信噪比以及较广泛的应用范围等优点。我们利用这种技术对IR780高氯酸盐/PVA薄膜进行探测。实验结果表明,分子系统在受到光激发以后具有柔性结构的生色团结构容易发生改变,而具有刚性结构的生色团结构基本没有变化。这个结果和我们的预计情况一致,从而证明了这种方法的合理性和可行性。　　通过上述实验结果,我们给出了IR780高氯酸盐/PVA薄膜体系中有关振动态的物理图像。由于电子的质量远远小于原子核的质量,当激发光作用于分子系统时,电子会受到光子的作用产生重新分布。由于电子和原子核之间存在着库仑作用,原子核的运动会受到电子运动的影响,表现为化学键振动频率的改变以及原子核空间位置的变化。此外,原子核运动本身也存在着相互作用,表现为振动模式之间的能量转移以及振动态之间的相干。当这个受激分子系统不再受到激发光的作用时,环境-系统的相互作用占据了主导地位。这个作用主要体现在两个方面:第一,环境的随机作用会使得化学键的振动失去固有的相位;第二,系统的能量会向环境中转移。经过一段时间以后,整个分子系统又回到了初始状态。