三十米望远镜（Thirty Meter Telescope,TMT）三镜系统在观测过程中工况十分复杂,且反射镜的径厚比大,对支撑结构的要求很高。同时三镜系统对质量和体积也有着极为苛刻的限制,进一步增大了支撑结构设计难度。本文针对三镜支撑结构进行了支撑方案优化、结构优化设计及分析、误差分析和原理样机搭建等方面的研究。首先,基于参数化模型和模拟退火优化算法实现了对椭圆形反射镜底支撑支撑点布局的全局寻优,镜面变形Slope RMS相较最初手动优化设计结果提升了5.2%;并根据动力学和静力学原理,建立了侧支撑布局多目标优化的理论模型,并采用邻域培植遗传优化算法得到了侧支撑点布局的帕累托解集,使得侧支撑最大切向载荷相对初始设计降低了5.77%,一阶谐振频率提升了4.55%。其次,对三镜系统整体及支撑结构中关键区域进行了仿真分析,通过三镜系统整体有限元模型得出三镜系统重力工况下最大镜面变形Slope RMS为0.68μrad,最大Plate Scale为1.13mas,符合系统要求;三镜系统一阶谐振频率为12.82Hz,经系统评估满足望远镜需求。通过参数化建模分析了柔性铰链刚度、应力安全系数和失稳安全系数与柔性铰链参数间的变化关系,并根据要求确定柔性铰链参数。基于赫兹接触理论和Hale的接口重复性理论设计了三镜的重复定位接口,使其最大接触应力和重复性精度满足需求。此外对装配中的各项误差源在对光学性能的影响进行了分析与合成,装配误差引起的镜面变形Slope RMS为0.043μrad,Plate Scale为0.284mas,满足系统要求。三镜系统镜面变形所有误差源合成后Slope RMS为0.681μrad,Plate Scale为1.17mas,均优于系统要求。最终搭建了一套1/4比例原理样机系统,对三镜系统的设计、分析、装调检测方法进行验证。实测底支撑定位误差最大0.22mm,侧支撑垫的位置与方向误差均不超过0.07°,反射镜的定位误差为0.14mm。原理样机在光轴竖直条件下检测的镜面变形Slope RMS与有限元仿真结果一致。本文通过结合相关理论,在三镜系统的底支撑、侧支撑方案优化,系统的装调检测上提出了新的方法。已完成的研究内容为TMT三镜系统的最终设计阶段奠定基础,并对国内大口径望远镜的支撑设计提供参考。