由相对论简并电子和非相对论离子所构成的等离子体称为相对论简并等离子体。相对论简并等离子体存在的真实物理环境之一就是以白矮星、中子星为代表的致密　　天体。由于对电子数密度的苛刻要求，在很长一段时间里关于相对论简并等离子体的研究都限于上述极端天体物理环境。基于“天体物理现象和过程的机制与等离子体中的波动和不稳定性有关”的出发点，本论文在相对论量子力学框架下建立描述致密天体等离子体的动理学和磁流体动力学模型，通过研究线性波在致密天体等离子体中的传播特性来考察相对论效应、简并压力、Bohm势对致密天体等离子体基本物理过程的影响，揭示致密天体等离子体的相对论量子物理本质，明确相对论量子等离子体存在的真实物理环境。　　本文主要工作如下：　　首先，利用非相对论量子磁流体模型研究磁化量子等离子体中线性波的传播特性，考察量子效应对等离子体基本物理过程的影响。结果发现，不论有无磁场，不论波矢量与磁场方向平行还是垂直，量子效应都会影响静电波在等离子体中的传播特性。对电磁波而言，量子效应只影响垂直于磁场传播的非寻常波的色散关系，不影响寻常波、左旋波、右旋波的传播特性。　　其次，利用基于协变Wigner函数方法的相对论量子磁流体动力学模型研究致密天体等离子体中线性波的传播特性。研究发现相对论效应和量子效应对线性波在致密天体等离子体中传播的色散关系有修正，当选取脉冲星磁层等离子体特征参数做数量级估算时，相对论量子修正项比较显著。　　本论文研究课题是等离子体物理领域一项前沿性的研究工作，是对现阶段量子等离子体研究的有效完善，对研究白矮星、脉冲星、磁星等致密天体有一定的理论指导意义。