纤维增强复合材料(FRP)是由高强度、低密度的纤维材料与基体组成，具有很多其它材料和结构不具有的优点或特点，如比强度和比模量很高，具有强烈的各向异性和可设计性等，广泛应用于航空、航天、造船和汽车等领域。纤维金属混杂层合板(FML)是最近几年出现的一种新型复合材料结构。FML由纤维增强树脂层与金属薄板层交替粘接而成。FML具有抗冲击性能好；防火、防腐蚀性能好；抗疲劳性能好等优点。因此FML是一种很有应用前景的航空航天材料。为了保证FRP层合板或FML混杂层合板结构在航空航天领域的安全应用，其强度特征和强度预测方法的研究显得尤为重要。复合材料层合板有多种不同的失效模式，分层失效是层合结构所独有的一种失效模式，对易于分层的铺层结构，忽略分层失效会使预测的失效强度远高于实际值。因此在对复合材料层合结构的极限强度进行预测时，必须考虑分层失效的影响，并且有必要采用优化技术最大程度的降低分层失效发生的可能性。针对以上问题，本文的主要研究内容和取得的成果如下：(1)提出了复合材料层合板强度预测的数值模型。采用有限元方法对复合材料层合板进行结构分析，根据Tsai-Wu准则来判断层合板的面内失效，利用APDL编制程序来模拟层合板在加载过程中的逐步失效过程，得到了层合板的极限强度。在此基础上，将实验和有限元分析法相结合来评价层合板的强度，系统研究了准各向同性层合板的极限强度与加载方向(层合结构)之间的关系，对损伤规律以及强度特征进行了预测和讨论。在一定范围内揭示了不同的准各向同性板的内部损伤扩展规律和强度特征，为层合板结构的强度预测，以及复合材料的优化设计提供依据和参考。(2)对上述仅考虑面内失效的逐步失效模型进行了改进，建立了同时考虑面内失效和源于自由边界处层间应力的分层失效的强度预测模型和方法。采用改进的数值模型计算得到了多组层合板的分层起始强度以及最终失效强度，计算结果和文献中的实验结果相当符合。相比仅考虑面内失效的逐步失效模型和方法可以更全面的预测层合板的逐步失效过程。这对复合材料失效机理认识的深化，和更加安全可靠地利用复合材料层合结构有着重要的意义。(3)针对分层失效由层间正应力主导的特点，构筑了自由边界处层间正应力的最小化问题，建立了相应的模型和数值求解方法。对于实际工程中的高度非线性、多局部极值、目标函数不可导等复杂问题，传统的梯度型优化算法常常存在函数求导困难或不能求导的问题，导致优化问题无法进行。为此，本文首先采用ANSYS自带的零阶优化方法进行求解。该方法只需用到目标函数或约束函数的值，而不需要用到它们的导数。优化结果显示出了一定的精度，然而优化结果具有初值敏感性。为此，本文提出了将智能进化算法PSO和FEM相结合的思想，开发了通用有限元软件和粒子群优化算法之间的接口程序。构造了三类基于层间正应力的目标函数，对层合板的铺层进行了优化。通过与零阶优化方法的比较，论证了提出的优化方法用于复杂工程优化设计问题的可行性和优越性。(4)针对新型纤维金属混杂层合板(FML)结构，将传统的经典层合板理论进行了修改和扩充使之适用于FML。分别采用修改的层合板理论和基于ANSYS的数值方法对FML进行了拉伸试验模拟，得到的应力应变曲线与已有文献试验结果相符。采用ANSYS计算层合板在不同荷载下的应力响应，并结合失效准则得到失效因子。以失效因子最大和最小为目标，分别对FML和FRP中的纤维铺层角度进行了优化。基于得到的优化结果对FRP和FML的强度性能进行了比较。结果表明：由于金属层的加入，使得FML相比FRP具备更好的抵抗双向拉伸载荷及面外集中载荷(低速冲击载荷)作用的能力。