本文首先采用非平衡反应磁控溅射法制备了纳米TiN薄膜，并使用AFM对纳米TiN薄膜的生长过程进行测量和标度分析，定量表征薄膜表面生长过程的粗糙度指数α和生长指数β通过高一高相关函数H(r)及功率谱P(f)计算而得到，为α=0.98，β=0.28，这个结果显示溅射沉积的氮化钛薄膜的表面生长行为可以由一个简单的线性生长模型来解释。模型中表面扩散起到平滑的效应，而散粒噪声却导致了表面的粗糙化。接下来我们使用XPS、AFM等分析手段研究了溅射条件中的偏压对薄膜性质的影响，结果显示不同沉积偏压得到的TiN薄膜，在薄膜厚度，表面形貌和粗糙度，化学成分和化学态，以及力学特性等方面均显示了相似的非线性趋势，说明与薄膜生长过程密切相关的衬底偏压在磁控溅射离子沉积系统中起到至关重要的作用。最优偏压被认为能够产生尽可能高的离子电流密度和较低能量的轰击粒子。高于或者低于这个偏压，薄膜沉积速率降低，表面形貌表现出粗糙化现象，同时化学状态的稳定性也发生了变化。在最优偏压下，纳米TiN薄膜加强的力学性质归功于改善表面的形貌，稳定表面的化学结构，抑制表面的杂质和缺陷的生长。　　 本文还在纳米TiN的研究基础上，采用反应非平衡闭合磁控溅射法制备纳米复合Ti-Si-N薄膜，并使用AES，XPS，AFM，SEM，TEM，XRD，纳米压痕技术和真空高温退火实验来研究薄膜的化学成分及结构，表面形貌及粗糙度，微观结构，力学性质以及热稳定性。研究和分析结果表明，Ti-Si-N薄膜在Si的成分≤14at.％时，为纳米晶TiN和非晶无定形的Si3N4的两相复合结构。当Si的含量≥18at.％时，会有未反应的单质Si出现。随着Si的含量的增加，Ti-Si-N薄膜中TiN晶粒生长受到限制，晶粒大小从50nm减小到10nm左右。同时，薄膜的表面rms粗糙度从42.3nm减小到0.6nm，平滑效应伴随着Si的加入，TiN和不同Si含量的Ti-Si-N薄膜的粗糙度指数α为0.88±0.04，这个值与动力学粗糙化的扩散支配模型相吻合。Si的含量为9at.％时薄膜达到接近超硬的最大硬度35GPa。纳米复合Ti-Si-N薄膜的优异的力学性质被认为与纳米晶TiN的晶粒尺寸减小，以及纳米晶TiN和无定形的Si3N4在纳米尺度两相共存的特殊结构有关。纳米复合Ti-Si-N薄膜保持热力学稳定性直至800℃，当温度上升到1000度以上时，薄膜发生重结晶，并导致表面强烈的粗糙化现象。　　 为了将来工业应用的需求，我们通过压痕实验，划痕实验以及球盘对磨实验等多种摩擦学测试手段对纳米复合Ti-Si-N薄膜与高速钢基底的结合力强度，摩擦行为和抗磨损能力。结合强度测试结果显示Ti-Si-N薄膜具有与TiN和Si3N4相比更优异的结合力强度等级，薄膜的临界负载与薄膜的硬度一样具有类似的非线性趋势，最好的结合强度在Si的含量为9at.％左右获得，此时薄膜的临界负载甚至超过80N。摩擦测试的结果表明纳米复合Ti-Si-N薄膜具有更稳定的摩擦行为和更高的抗摩损性能，Ti-Si-N薄膜的相对磨损率大约在10-16-10-15m3/Nm范围内，尤其是Si的含量为9at.％和14at.％的时候，薄膜的磨损率甚至比相同条件下制备的TiN的磨损率要低出5倍多。