本文主要分为两个部分，第一部分着重于对铁电晶体畴反转结构和畴壁的制备以及其非线性光学现象的研究，第二部分主要研究了类反常色散介质中的非线性频率转换过程。　　铁电晶体作为一种重要的功能材料，因其具有自发极化可以被电场反转的性质而在非线性光学中具有重要的应用。随着人们对于铁电晶体的研究，4T铁电体中自发极化的方向不相同的区域之间的界壁——畴壁区域所变现出的新特性逐渐引起人们的关注。我们首先在实验上制备了高准直，占空比好的高质量畴反转和畴壁，而后深入研究了基于畴壁上增强的非线性效应产生的新现象。由于畴壁对非线性切伦科夫辐射的增强效应，我们设计了多阶级联产生高阶切伦科夫谐波的实验方案，并实验验证了切伦科夫高次谐波的辐射角度与基频光波长以及样品周期之间的依赖关系。通过对谐波出射强度的横向扫描，我们发现高次谐波的强度峰值周期与畴壁的周期一致，这表明了畴壁是产生切伦科夫高次谐波的有效区域。　　铁电畴壁作为超薄的特殊光学界面，对于传播的基频光场具有定域性，即非线性响应被局域在畴壁区域，从而对于光的二阶非线性频率转换过程产生调制作用使得谐波以非线性切伦科夫辐射形式产生。在本文中，我们分析了畴壁对于非线性极化波的调制作用并得到调制加快的非线性极化波相速度公式，在一定条件下，使得在传统的反常色散区域非线性极化波的相速度可以打破速度阈值的限制从而产生切伦科夫辐射。　　4T在第二部分中我们基于晶体双折射效应提出了类反常色散介质的概念，即当入射光与谐波具有不同偏振时，可以在正常色散的介质中模拟类反常色散的环境。通过这种特定的相位匹配机制，我们研究了类反常色散中的非线性切伦科夫和频产生，分析了简并的非线性切伦科夫和频和传统的共线二次谐波产生的异同点，并实现在一块非线性晶体中连续实现正常色散，简并和反常色散的非线性切伦科夫辐射。　　对于一维光子晶体散射协助的圆锥形二次谐波产生的相位匹配条件分析我们得出利用类反常色散介质可以打破正常色散介质中对于光子晶体的最大周期限制，并在实验上实现了一维光子晶体以及体介质中的环状散射倍频以及和频的产生。该种散射机制的二次谐波对于晶体内部结构的探测具有重要的应用价值。4T同时，我们研究在一维类反常色散中增强的二次谐波产生过程，当满足横向和纵向相位匹配时即产生非线性布拉格衍射，测量其转换效率实现两个数量级的提升。