航空航天器、IT装备、高速运载工具、船舶、高档数控机床等复杂机电产品高速、高效或高精化的发展趋势,使其核心部件的重量和动态特性等属性上升为制约产品性能提高的关键,对这些部件从结构拓扑、形状和尺寸等方面进行全方位精细化优化设计,已经成为高端复杂机电产品研发过程中不可逾越的环节。以飞行器为例,为了满足飞行器轻量化的目的,飞行器的设计已经突破单一尺度的宏观结构框架,正在向兼具超轻质及多功能一体化的非规则子结构构成的异形层级结构发展,相应地,其结构的优化设计也正向面向复杂异形层级结构的优化设计转变。针对现有层级结构优化设计技术的局限性,论文以复杂新型层级结构为研究对象,采用等几何分析（Isogeometric Analysis,IGA）技术,从高效的优化算法、异形层级结构优化设计等方面,开展基于密度的层级结构拓扑优化方法研究。具体内容如下:首先,以基于非均匀有理B样条（Non-Uniform Rational B-Splines,NURBS）基函数的等几何分析和基于密度的结构拓扑优化方法为基础,构建以控制点密度为设计变量的等几何分析拓扑优化模型,通过结构几何表达、性能分析和拓扑优化模型的统一表达,实现优化驱动下的结构设计、分析一体化。以经典算例的结构柔度和动力学特征值优化问题为例,验证所提出方法的有效性;讨论并改进针对此优化模型的优化算法,以期提高优化求解的效率;讨论分析所构造的优化模型的优势,以及对规则和异形结构有效性。接着,针对优化中计算效率和结构分辨率相互制约的问题,采用分析和优化网格解耦策略,基于所构建的等几何分析拓扑优化模型,提出一种多分辨率的等几何分析拓扑优化模型。通过引入高斯积分点密度,将粗糙网格的分析和细分网格的优化关联起来,实现粗糙分析单元内连续变密度场的准确分析和优化。多分辨率优化模型中少量的分析网格可以缩减等几何分析的计算成本,显著提高计算和优化效率;大量的优化网格保证结构的清晰度;高斯积分点密度确保优化结果具有丰富的结构细节。其次,针对均匀化无法设计由非规则子结构组成的异形层级结构的问题,基于所构建的密度法等几何分析优化模型,进一步提出均匀化的周期性层级结构优化方法。对于仅包含单一子结构的周期性规则层级结构,采用均匀化理论将多层级结构的宏微观层解耦,可以施加任意复杂子结构模型的周期性边界条件。对于由非规则子结构组成的异形层级结构的问题,采用等几何映射策略,将近似用于分析和优化的规则子结构映射到铺满异形宏观结构的非规则子结构上,实现均匀化的异形层级结构设计,扩展了基于均匀化法设计的应用对象。然后,针对均匀化法中宏微观解耦导致的子结构连接性及制造问题,提出了尺度关联的多类层级结构优化方法,采用等几何全尺度分析替代均匀化,探索尺度关联的周期性、功能梯度,以及考虑尺寸和拓扑约束的多类层级结构的优化。对于等几何分析导致的子结构耦合问题,基于相同构型的子结构的密度一致原则,分析了耦合点对独立设计变量个数的缩减,详细推导了独立设计变量敏度值计算。子结构耦合保证了多类层级结构均可以获得高阶连续性,提高了结构的可制造性;对功能梯度结构中的多种子结构进行同时优化,进一步提升了层级结构的刚度性能。最后,采用增材制造将同一工况下得到的周期性及功能梯度层级结构制备出来,搭建力学测试平台。通过对比仿真和实验结果,验证了所提出优化策略的的正确性和有效性,以及优化结果的可制造性。