薄膜失稳因其在工程实践和日常生活中普遍存在而受到广泛研究。利用薄膜失稳可以构造特定形貌的表面斑图，也可以通过压痕实验产生表面失稳从而得到材料的力学参数。然而，由于微纳米尺度下材料的力学性能表现出尺寸效应，因此，如何表征尺寸效应成为研究的重点；另一方面，研究如何通过实验测定材料的尺寸效应也十分重要。同时，目前大量的研究集中在液滴的毛细力作用下薄膜的屈曲失稳，对于压头作用下的薄膜失稳，现在还缺乏相关的理论研究。　　因此，针对上述现状，本文首先基于能量变分原理，利用线性扰动分析，在考虑界面滑移和表面能的情况下，研究了薄膜基底系统失稳的临界应变与材料参数之间的关系。发现基底的泊松比与界面的相对滑移对临界应变几乎没有影响，因此为了简化模型，本文可以假定薄膜与基底完好粘接且基底为不可压缩材料。然而，当薄膜厚度仅几个纳米时，表/界面效应会对薄膜失稳的临界波长产生显著影响；此外，本文还为利用薄膜在软基底上的屈曲失稳测量材料的表/界面参数提供了可靠的方法。　　之后，本文基于冯卡门板理论，在考虑压头与薄膜之间的粘着效应的情况下，分别利用摄动法、力矩不连续法得到了薄膜失稳前的应力和位移；在不考虑粘着效应的情况下，利用薄膜理论得到了薄膜失稳前的应力和位移。然后基于力矩不连续法，利用WKB法研究了薄膜失稳波数与压头压力之间的关系。本文发现，当压力较小时，WKB法与薄膜理论得到的结果相差较大。究其原因，本文认为一方面是薄膜理论忽略了薄膜的弯曲项；另一方面是薄膜理论没有考虑压头与薄膜之间的粘着效应。