随着微/纳米技术的迅猛发展，过去的十年里，在微/纳观尺度下如何表征材料力学性能方面取得了令人瞩目的成就，使得纳米材料及其技术成为目前科学研究的热点之一。由于纳米材料在微观尺度下的表面/界面的影响，力学性能方面往往会表现出与微观尺度的小尺寸效应。这也是对当今纳米科技相关机械性能的研究带来的新问题之一。纳米压痕技术是一种用于研究材料小尺寸范围相关力学性能的技术之一，它可以用来观察纳米等级微变形行为和目前最为关注的压痕尺寸效应的研究。 本文首先针对薄膜材料在纳米压痕试验时出现压痕尺寸效应，运用准连续介质法模拟单晶铝膜纳米压痕试验初始塑性变形过程。分析了不同直径的刚性圆柱形压头分别压入同一深度时弹性和塑性变形特点，并获得了相应的载荷—压深曲线。基于Oliver-Pharr 法，预测了纳米硬度值和弹性模量；当压头直径达到或超过80 ? 时纳米硬度值趋于稳定值，即压头尺寸效应消失。同时表明弹性模量不存在尺寸效应。表明材料的弹性模量本质上仅依赖原子间的结合能，而和压头尺寸基本无关。研究表明计算结果试验结果非常吻合，表明使用该方法预测薄膜材料的纳米硬度和弹性模量是可行的。 其次为了检测测试材料表面对纳米压痕试验中相关力学参量测试结果的影响，运用准连续介质法模拟了具有一定表面形貌的单晶铜薄膜的初始变形过程。同样利用Oliver-Pharr 法预测了单晶铜的纳米硬度值和弹性模量。结果表明具有一定表面形貌的测试数据均低于完美单晶表面所计算获得的数值。基于研究发现在纳米压痕试验中应该考虑到如下因素可能会对试验造成影响：例如压头尺寸、压入深度和受测试样表面形貌情况。为了能准确测量和获得相关力学性能参数结果，试验时应该选用足够大的压头以避免压头尺寸效应和选择大于最大表面形貌深度的压深以减少表面相貌情况对试验造成的影响。