本文通过对光镊技术发展的现状、光镊技术的新形势、与光镊技术相关的新技术以及面向应用中出现的新问题进行详细的调研和充分的论述,确定新型调制光阱的理论、实验与单分子应用研究这一主题。在光镊捕获理论方面,利用蒙特卡洛技术对时分复用光镊的有效刚度随光阱切换频率变化关系进行系统地研究；全息光镊理论和实验方面,采用傅里叶光学原理计算全息相位片,探索细胞层次的捕获和旋转,纳米碟的并行操控等；在单分子生物物理方面,搭建了带荧光探测的高精度激光双光镊,系统研究了抑制剂对DNA折叠动力学的影响。在全息光镊理论研究中,本文通过对全息光镊所涉及的理论进行一个详细的研究,运用适应算法计算实现全息阵列光镊所需的相位片,并在实验中得到很好的验证。全息光镊实验方面,我们成功实现全息阵列光镊捕获和排布多个粒子、全息涡旋光镊旋转单个或者多个细胞等。全息光镊应用方面,我们采用高性能计算机对全息阵列光镊进行并行标定,有效地提高光阱刚度的标定速度；采用全息涡旋光镊对酵母细胞的旋转动力学特性进行较详细的研究；设计、制备并表征纳米碟,采用全息光镊对纳米碟进行操控和排布实验；设计软物质综合测量系统。在时分复用光镊的理论研究方面,我们采用蒙特卡洛模拟技术对不同占空比的时分复用光阱中的粒子运动位置进行模拟,进而计算出光阱的刚度。数值模拟的结果表明,光阱有效刚度随光阱切换频率的变化关系呈指数增长关系,在高频段稳定到一个恒定的值。我们采用旋转玻片法和声光衍射器等形成时分复用光镊,分别在低频段和宽频段有效地验证了数值模拟的结果。在调制光镊应用方面,我们将时分复用光镊和单分子荧光探测技术相结合,实现lbp探测精度的基于时分复用光镊的高精度激光双光镊。该光镊可以工作在多种模式,如恒力模式、变力模式、单分子荧光探测、宽场荧光成像等。实验中,我们设计一系列不同长度、不同序列、不同位置的短单链DNA片段作为抑制剂,研究抑制剂对DNA发卡折叠动力学特性的影响。宽场荧光成像方面,我们实现对单个λDNA进行荧光成像。这一系列实验表明,高精度激光光镊在蛋白质折叠、蛋白与DNA相互作用、马达蛋白、染色质结构等方面具有广阔的应用前景。在全息光镊工作之前,我们尝试用激光直写技术制作掩模板,再用离子束刻蚀技术加工纯相位型衍射光学元件,成功实现将高斯光束整形成叠加的拉盖尔高斯光束,还对叠加光场的轨道角动量分布作了详细的研究。我们还通过对数字微镜器件特性的详细研究,设计一系列叉形光栅透射到数字微镜上,将高斯光束整形成拉盖尔高斯光束,并研究了整形前后光束的偏振特性。新型调制光镊技术本身也是一个比较宽泛的课题。即包括光镊技术本身的设计、搭建,也包括向应用方面深化。如胶体科学、软物质等领域,采用空间光调制器形成的全息光镊可以同时并行操控微纳米粒子的能力,在胶体的自组装,多个胶体粒子相互作用等方面具有广阔的应用前景。在微纳米尺度研究单个生物分子力和伸长的变化关系,有助于人们了解蛋白质/RNA/DNA或他们的复合物等生物大分子的动力学行为,得到与传统基于粗快实验的生物学手段互补的信息。结合单分子荧光的高精度光镊技术可以测量蛋白质和DNA复合物的构象变化并对某个特定的分子进行可视化等。本文的新型调制光镊主要涉及时间调制所形成的时分复用光镊和基于液晶空间光调制器的全息光镊。其中时间调制光镊主要在第四章和第五章介绍；空间调制光镊在第二章和第三章介绍；相关的应用主要在第三章和第五章介绍；在全息光镊的早期论证工作中,我们还采用二元相位片和数字微镜器件对光束进行整形,这两部分内容分别在第六章和第七章介绍；第八章对本文的工作进行一个最后的总结并对后续实验室的相关工作做一个展望。