随着精密机械制造、高性能半导体器件加工等应用对于位移检测要求的不断提高,超精密加工与测量等领域对于高性能微位移传感器的需求日益迫切。针对精密机床、光刻平台、电子显微镜等精密加工/检测系统对集成化精密位移传感器的迫切需求,本文设计了一种双层光栅面内位移传感器,并对其关键技术开展了研究。该设计方案基于光栅自成像效应,结合精密四象限光电探测技术,实现了高性能（0.65nm分辨力）位移测量。因其具有分辨力高、光路简单、结构紧凑等特点,该类传感器在光刻机工件台精密定位、超精密加工机床轴承定位等方面展现出良好的应用价值。为实现该传感器的研制,本文开展的主要研究内容如下:在第一章中,通过分析现阶段几种主流位移传感器的测量方式,比较其分辨力、线性度、抗干扰能力等位移测量核心指标,总结了光栅式位移传感器的技术特点与应用优势。根据近年来国内外光栅式位移传感器的调研分析,对目前该类传感器技术瓶颈进行总结,提出将光栅自成像效应用于高分辨小型化位移传感器设计的新方法。在第二章中,基于傅里叶光学等理论探究了单层光栅衍射特性,重点研究了光栅自成像效应,分析了效应激发条件并表征了空间光场分布特性。基于光栅自成像效应,提出了双层光栅面内位移检测方案,建立了位移检测理论模型。在第三章中,基于光栅自成像位移检测原理,对双层光栅面内位移传感器整体结构进行设计,并对传感器关键指标进行了设计分析。开展了双层光栅结构位移检测仿真,得到光栅尺寸、装配参数等最优结构参数,完成双光栅位移检测模块设计。结合光栅参数和结构分布,对光栅工艺加工流程进行了设计,并按照工艺流程完成了光栅加工。在第四章中,对传感器整体进行设计并搭建实验系统。实验中,结合高精度光电探测技术实现了四路正交正余弦信号输出,并由电子细分技术提高了传感器位移检测分辨力。最终实验表明:面内位移传感器的分辨力可达0.65nm,量程可达500μm。随后,对误差来源进行了分析,并提出了改进方案。该方法相较于传统光栅式位移检测技术,具有光路简单、结构紧凑的优点,可以用于微型化、可集成位移检测器件与系统等应用中。在第五章中,对本文所述研究工作进行了总结和展望。通过对具体工作进行分析,最终总结了传感器的检测性能和对于目前位移检测现状的研究意义。同时,结合目前研究成果,对后续研究方向进行了展望,提出了优化方向。