材料光学常数是进行光与物质相互作用分析的基本物性参数，其准确测量对于微尺度辐射换热及辐射特性的准确分析和模拟至关重要。随着计算机的快速发展和加工仪器精度的提高，光谱椭偏测量技术由于高精度，无破坏性和测量速度快等优势已经被快速地发展并被广泛地应用到材料光学常数的测量中。光谱椭偏法获取材料的光学常数时需要借助光滑表面的Fresnel公式。由于光谱椭偏仪对材料表面的形貌十分敏感，故材料表面粗糙度的存在会对椭偏测量结果产生影响。针对以上问题，本文从两个角度对随机粗糙表面的椭偏响应进行了理论建模的研究，一种是等效模型替代法，另一种是基于穆勒矩阵的直接反演法。借助以上方法修正表面粗糙度对椭偏测量的影响，进而得到准确的光学常数。　　基于被测样品的体积分数在微粗糙表面空间高度上分布的不均匀性，本文提出了分层等效介质(LEMA)模型去拟合高斯随机微粗糙表面响应的椭偏参数。本文利用时域有限差分法(FDTD)求解高斯随机微粗糙表面响应的椭偏参数，利用严格耦合波分析(RCWA)求解LEMA模型响应的椭偏参数。研究发现LEMA模型的使用限制是其不能捕获自相关长度(ζ)改变对椭偏参数产生的影响，但通过改变LEMA模型的厚度可以克服这一限制。通过数值拟合，本文给出了膜厚的选取与粗糙表面特征参数之间的关系。本文利用LEMA模型计算得出的椭偏参数与实验结果吻合良好，为使用LEMA模型拟合实际微粗糙表面椭偏参数的可靠性提供了支持。然而，本文研究光学常数对LEMA模型的影响时发现LEMA模型的拟合精度随光学常数的变化存在不确定性。　　穆勒矩阵包含了比椭偏参数更多的测量信息，本文研究了高斯随机微粗糙表面镜反射方向穆勒矩阵随相对粗糙度，自相关长度，光学常数及入射角的变化规律。发现相对粗糙度与自相关长度的改变对穆勒矩阵元素m01值影响较小。m01值主要受材料光学常数的影响，且随着折射率和消光系数的增大而增大。当均方根粗糙度σ不变时，相对粗糙度及σ/ζ与穆勒矩阵元素m23值成正比；同时随着消光系数改变，比率系数不变，截距发生改变。粗糙表面对应的穆勒矩阵元素m22值与m23值均大于光滑表面所对应的值，且随着消光系数变化，两种表面的m22值与m23值变化趋势基本一致。该部分内容将能为使用穆勒矩阵直接反演粗糙表面形貌特征或材料光学常数奠定理论基础。