随着空间遥感技术的快速发展,大孔径、长焦距、大视场、轻量化的高性能光学系统成为新一代空间光学相机的发展趋势,对其性能和成像质量的要求不断提升,传统的球面、非球面往往无法同时满足这类高性能光学系统的设计要求。自由曲面的出现改变了这一现状,具有非旋转对称结构的自由曲面光学元件能提供更多的设计自由度,使系统的结构布局更加灵活和紧凑,可提升轴外像差校正能力,使系统结构简化,应用于一些特定场合。此外,离轴反射式光学系统由于没有中心遮拦、能有效折叠光路使结构紧凑、无色差、工作波段范围宽等优点已成为空间光学系统研究的热点。但传统的采用球面或非球面的离轴反射式光学系统还存在有效视场较小、结构不够简化等问题。将自由曲面应用到离轴反射式光学系统中,利用自由曲面的优势,弥补传统离轴反射式光学系统的不足,可增大了系统的视场,能很好的校正系统高阶像差。本文针对大视场、长焦距空间光学系统,对自由曲面离轴三反系统开展了以下研究:(1)对国内外含有自由曲面的光学系统进行调研;掌握了矢量像差理论在非旋转对称光学系统中的三阶波像差表达式中不同像差与视场的关系;总结了自由曲面的不同描述形式并给出了各自的优缺点;调研了自由曲面在成像与非成像领域的应用。(2)分析计算了光学系统的相关结构参数,对比四种类型光学系统的优缺点,结合离轴三反光学系统的结构特点,完成光学系统的结构选型。(3)计算同轴光学系统的初始结构,通过对同轴光学系统进行离轴处理,并利用Zernike多项式自由曲面面形的优势改善系统性能,将弧矢方向的视场优化至20°,最后优化设计出视场为20°×20°、焦距为1500mm、入瞳为150mm的离轴三反光学系统,使系统整个视场的MTF值在@50lp/mm均大于0.5,并通过结构优化使得系统更加紧凑,并对系统进行了公差分析。(4)针对所处的空间环境,考虑杂散光对光学系统的影响,设计出一种基于牛角管效应的新型遮光罩,通过优化设计遮光罩内部抑制结构提高杂散光抑制水平,并结合所设计的光学系统,将此遮光罩与传统的遮光罩进行杂散光抑制效果对比,结果表明,在离轴角35°到60°下,牛角管式遮光罩比竖直挡光环式遮光罩的PST值降低了一个数量级,具有更好的杂散光抑制效果。