光学合成孔径(Optical Synthetic Aperture,OSA)是目前最有希望实现高分辨率天文观测及GEO高分辨率对地成像的技术手段之一,它以一定方式对多个子孔径进行优化排列,在相关子镜满足共相位的条件下,完成合成孔径干涉成像,从而达到等效单个大口径光学系统的成像质量。本文针对目前光学合成孔径系统应用中的关键技术问题,对系统中二维光瞳阵列结构优化、相位误差理论及评价函数、复杂光瞳及复色光的相位误差成像性能分析、图像式共相算法及相关的实验验证等方面开展了研究工作。首先,在二维光瞳阵列结构优化方面,提出了一类高截止频率的新型多圆周阵列(IMCA阵列)。在设定几何填充因子的前提下,采用遗传算法,以最大化MTF实际截止频率为适应度函数,对二维合成孔径多同心圆周阵列中,不同圆周上子镜尺寸及数目、各圆周之间的间隔及相对旋转角度等参数进行了优化计算。结果表明,与传统Golay阵列、多圆周阵列等二维OSA阵列相比,这种新型非均匀多圆周阵列的实际截止频率最高,且MTF覆盖区域比较均匀,具有良好的中高频特性,成像质量近似于单个环状光瞳结构,为新型合成孔径高分辨探测的二维光瞳优化排列提供了一种可行的技术路线。其次,在相位误差理论及评价函数方面,建立了适用于任意OSA光瞳结构型式的通用相位误差分析模型,基于傅里叶光学理论推导出了单色光OSA阵列中各子孔径的相位误差与系统MTF、PSF和SR之间的数学解析表达式,与相位误差阶数、子镜的形状、大小及排列方式无关,并进而讨论了相位误差幂级数和泽尼克多项式表达式之间的区别和联系,为后续相位误差敏感度分析做准备。然后,在不同的子镜中心遮拦比、不同形状的子镜次镜支撑柱等情况下,深入研究了piston误差、tilt误差等低阶相位误差及三阶相位像差对不同光瞳结构OSA系统的SR的影响,得到了相应的相位误差敏感度列表及变化情况。结果表明,piston误差是最敏感的误差,离焦误差在IMCA-6-Cd阵列中变得比tilt误差更敏感,而OSA系统存在遮拦时彗差敏感度变化量最大,这些结论为OSA系统共相指明方向;同时,将入射波长进行粗略离散化时,复色光双子镜SR随各阶相位误差变化的函数关系变得更为平滑;此外,在piston误差基本在相干长度范围内变化的情况下,还详细讨论了复色光双子镜阵列的MTF、PSF与单色光入射的不同之处。再次,在利用MTF次峰高度对piston误差进行探测的基础上,结合入射光宽带光谱分布改进了两者的数学关系式,提出了采用不同带宽及光谱分布的光源组合并结合MTF次峰高度进行探测的方法,能够实现OSA系统中piston误差的宽范围(数十倍甚至数百倍波长)及高精度探测。在理想情况下,在双子镜系统中,采用实测得到的不同带宽的LED光源光谱分布进行了半物理仿真计算。利用MATLAB软件对入射波长进行精细离散化(带宽内,波长采样个数均超过100个),揭示了光源带宽(相干长度)与图像式piston误差探测范围及精度的高度相关性。在复杂光瞳结构中,对上述基于MTF次峰高度进行piston误差探测的原理、方法和限制条件进行了研究。最后,开展了光学合成孔径系统新型多圆周阵列及共相算法的实验验证。采取共用次镜的实验方法,结合四种不同颜色和带宽的光源,获得了不同填充因子下,双子镜阵列和新型多圆周阵列对应的二维PSF图像,与MATLAB及ZEMAX仿真结果基本一致;采用双液晶延迟器在双子镜系统中产生固定的piston误差作为基准,开展了多倍波长范围内,piston误差与MTF次峰高度关系的原理验证实验。实验结果表明,多倍波长范围内,实际双子镜系统的piston误差与MTF次峰高度存在一一对应关系,可结合具体系统建立确定的数学关系。