尺寸效应和残余应力是影响材料压痕力学行为的两个关键因素,传统的弹塑性力学尚未考虑二者的影响。鉴于它们的重要性,近年来在传统力学的理论框架下对二者的研究成为固体力学的热点问题之一。因此,本文围绕这两个基本点对材料压痕力学行为展开了系列研究,主要工作如下:首先,开展纳米压痕实验的理论研究工作。从理论层面讲,对尺寸效应的研究,较为完善,而对残余应力的研究目前大多局限于实验方面和数值解方面。从理论和计算上,同时考虑两者的作用对纳米压痕行为的影响研究目前尚无。鉴于此,本文在基于物理机制的应变梯度理论基础上,用几何所必须位错密度来描述残余应力,将该理论进行扩展,使之可以同时考虑尺寸效应和残余应力对材料非线性变形行为的影响。并且,构造了与之相适应的应力更新算法,并通过用户子程序UMAT,将算法补充到商用有限元软件ABAQUS中,搭建了计算平台。其次,结合金属玻璃的压痕实验结果,数值分析了尺寸效应和初始残余应力对纳米压痕力学行为的影响。实验结果发现残余应力对材料硬度和载荷位移曲线有显著影响,而本文的理论预测结果完全再现了这一现象,并在结算的基础上给出了机理性的分析。残余压应力几乎不影响塑性影响区的大小,但由于压痕产生的压应力场和残余压应力场叠加,使得压痕后的应力值更大,而残余拉应力对塑性影响区有较大影响,它们均受几何所必须位错的影响。残余应力的存在会导致样品内位错快速增殖,位错密度几乎是无残余应力的10倍。此外,该模型成功地预测了MgO材料的压痕尺寸效应（ISE）,即随着压痕深度减小硬度增加。实验结果与理论预测的一致性进一步说明本文发展的模型的有效性。最后,研究了晶界对双晶材料纳米压痕力学行为的影响。数值研究了压痕位置和晶界距离的不同对纳米压痕力学响应的影响。研究结果发现当压头尖端与晶界的距离较小时,压头尖端与晶界之间塑性应变梯度较高,使得几何必需位错积累较多,导致晶界产生硬化效应。如果压头尖端离晶界太远,则硬化作用消失。在此基础上,采用Voronoi方法建立了多晶模型,研究了晶面织构系数和晶粒尺寸对多晶镍纳米压痕力学行为的影响。计算结果发现多晶镍材料（111）晶面择优取向的程度越高,抵抗塑性变形的能力就越大。