21世纪是纳米科技飞速发展的世纪，纳米科学与技术以人类改造原子、分子尺度的微观世界为标志，将导致材料、信息、生物、医疗、机械等众多领域实现质的飞跃。随着微机电系统、表面工程、纳米级加工等领域的不断发展，微小零件表层质量检测与评价技术已经成为目前研究的热点。其中，硬度作为评估微/纳米表层材料性能的一个关键指标，近年来越来越受到人们的重视，然而，这个领域的研究目前还面临着众多挑战，尚有许多问题亟待解决，例如，如何进一步完善纳米力学的相关理论问题、如何对实验中的一些现象进行合理解释的问题、如何进一步研究与开发新的测量方法和手段的问题等等。因此，对材料表层微/纳米级硬度测量技术进行研究，具有重要的理论价值和现实意义。 纳米级硬度的测量与计算是近年来人们关注的一个重要问题。本文总结了当前纳米硬度测量的主要方法，分析了它们各自的优势和存在的不足，并评述了未来发展方向。分子动力学仿真是进行纳米力学研究的重要方法，本文通过对势能函数和求解算法的分析比较，根据单晶铝材料以及纳米压痕仿真的实际特点建立了三维立体仿真模型，选择Morse势函数描述原子间相互作用，运用Verlet算法求解运动方程，对单晶铝纳米压痕过程中的变形规律及其内在机理进行了研究，从原子角度对纳米级尺度的压痕测试与宏观压痕测试方法进行了比较分析。 在深入分析仿真过程特点的基础上，提出了新的优化方法，结合并行计算技术成功实现了数十纳米深度压痕的分子动力学仿真。结果表明：分子动力学仿真是研究纳米尺度压痕的有效方法，并且随着仿真规模的扩大，仿真精度不断提高。研究了纳米硬度检测过程中的尺寸效应现象，分析了端部圆弧半径大小对三棱锥压头纳米压痕检测过程的影响，指出实际测量中压头并非完全理想形状是纳米硬度尺寸效应现象产生的重要原因。 对纳米硬度测试过程中检测参数对硬度结果的影响进行了研究，针对不同端部半径压头的纳米硬度检测仿真结果表明，压头的端部半径越大，硬度检测结果的误差也就越大，我们从微观角度对这一现象进行了解释。压头压入速度和纳米级硬度的不同计算方法也对硬度测量值产生重要影响，本文专门对这两个因素进行了研究，给出了影响规律并进行了相应的理论分析。 对几种常用材料的纳米硬度和弹性模量性质进行了测量，分析了不同材料产生尺寸效应现象的作用范围，对不同材料的尺寸效应现象与其本身性质之间的联系进行了研究，开发了用于纳米压痕测量过程仿真的专用软件NHMS。