本文研究了基于三振子耦合模型的三角锥型手性分子介质的表面二次谐波圆二向色性效应和三阶非线性光学效应。概述了对手性材料中非线性光学特性的研究进展，阐明了手性介质非线性效应研究的意义。介绍了手性介质和手性分子的三阶非线性极化，给出了考虑非局域场效应和局域场效应时介质极化率和分子极化率之间的一般关系。研究了薄膜介质极化与分子极化之间的关系，根据统计平均理论推导出了薄膜介质宏观三阶极化率与分子第二超极化率之间的关系表达式。讨论了手性分子薄膜介质光学克尔效应的物理机制。分析了振子对光波电场的线性响应和三阶非线性响应，推算出了基于三振子耦合模型三角锥型手性分子的第二超极化率。数值模拟分析了三角锥型手性分子键角和分子手性关系对分子第二超极化率和三阶宏观极化率的影响。数值模拟了不同入射条件下的手性薄膜介质表面反射光中二次谐波强度谱随二次谐波波长变化的分布，研究表明二次谐波强度对入射条件的变化十分敏感。模拟了手性分子键角对手性介质表面SHG-CD响应(2)IωΔ谱及SHG-CD强度谱的影响。通过分析发现SHG-CD效应随着手性的存在而存在，随着手性的增加而增强，进一步说明了SHG-CD是探测手性的敏感方法。