非线性光学是激光问世之后发展起来的现代光学的重要分支学科,它在光电、医学、生物等领域表现出良好的应用前景。一方面随着设计和合成技术的发展,有机分子材料具有的良好非线性特征、柔韧性以及易于合成等优势迅速吸引了科学家们对其的广泛研究。有机分子材料的非线性光学性质受结构的影响较大,例如供体/受体的强度,共轭桥的性质和共轭长度等,然而有机分子的结构千变万化,如何高效设计和合成拥有优秀非线性特征的有机分子材料成为研究的重点之一。另一方面,二维半导体材料由于拥有较为独特的光电性能,在光电器件领域受到人们的广泛关注。分析半导体材料内部的电荷转移以及载流子动力学对于进一步提高超薄光电器件的性能意义重大。本论文的研究内容分为两部分:一是以芴类衍生物和二甲氨基苄丙酮衍生物两类有机分子材料作为研究对象,理论上研究了末端基团的不同以及取代基位置的不同对有机分子的电子结构、双光子吸收能力以及光限幅性能的影响。二是利用光致发光光谱和时间分辨荧光光谱技术对化学气相沉积法生长的超薄硫化镉薄膜、单层到多层二硫化钼以及硫化镉-二硫化钼范德华异质结的光致发光及荧光寿命特性等进行了测量与分析。本论文主要得到了以下几点结论:1.末端基团的不同导致有机分子电子结构以及跃迁偶极矩的改变,从而改变介质的双光子吸收能力以及光限幅性能。末端基团-NO₂比-N（CH₃）₂具有更大的跃迁偶极矩并且更容易得到电子发生跃迁,因此光限幅效应更为显著。2.改变分子的取代基位置同样能够使得分子电子结构发生改变,取代基位于间位时,有机分子材料的光限幅效应更为显著。3.二硫化钼的荧光强度随着层数的增加而减弱,且能隙由单层的直接带隙变为多层的间接带隙;其次双层二硫化钼的荧光寿命长于单层二硫化钼的寿命。超薄硫化镉薄膜的荧光强度随样品厚度的增加而增加,硫化镉表面态捕获激子的荧光寿命长于自由激子的荧光寿命。4.硫化镉-二硫化钼形成II型范德华异质结,光生电子（空穴）由硫化镉的导带（二硫化钼的价带）流向二硫化钼的导带（硫化镉价带）,诱导产生长寿命的载流子。其次,硫化镉的表面态在硫化镉-单层二硫化钼的异质结中阻碍层间激子的产生,反而在硫化镉-双层/三层二硫化钼异质结中促进层间激子的产生。