量子色动力学(QCD)描述的强相互作用物质在有限温度、有限密度下具有丰富的相结构。研究QCD相变以及确定相应的临界点的位置，是粒子物理QCD理论研究的重要课题之一，对相对论性重离子对撞实验也有重要的指导作用。人们已知QCD物质有两种相变，其一是手征相变，另一是对于颜色的解禁闭相变。目前关于这两种相变的类型、二者是否重合等问题尚需要进一步研究。实验表明这两种相变发生的能标在非微扰区域，微扰方法不适用，需要发展有限温度和有限密度非微扰的研究方法。格点QCD是直接从第一性原理出发的计算方法，但是由于有限温度和有限密度下存在‘符号问题’，它只能处理化学势为零或者化学势比较小的情形，所以在研究有限温度、有限密度的QCD物质的热力学性质时往往还要借助于一些基于QCD精神的有效模型理论。所以本文主要是基于Nambu-Jona-Lasinio（NJL）模型和Polyakov-Nambu-Jona-Lasinio (PNJL)模型理论来研究上述感兴趣的QCD相变问题，特别是进一步通过低动量截断的简化处理方法来研究有限体积效应，并得到了一些有参考价值的结论。　　本文的前两章概述了课题背景以及相关的理论方法，这是从事本领域研究的必备基础。对QCD物质相结构的研究历史和现状做了回顾，并简要说明了当前以及未来的几个研究方向。在第二章，我们介绍了QCD相变的一些概念和研究方法，并给出了描述手征相变和颜色解禁闭相变的序参量以及文献中关于QCD相图已有的结果。　　本文的后半部分是一些具体的研究结果。在第三章中采用了两味NJL模型在平均场近似下研究了手征相变。相应的手征相图为:当取手征极限时，手征相变在低温下表现为一级相变，温度升到三临界点(TCP)处转变为二级相变;当夸克流质量不为零时，手征相变在低温下也表现为一级相变，但是温度升到临界点(CEP)处则转变为‘跨接’(crossover)。并通过对TCP和CEP附近的磁化率行为做双对数线性拟合，给出了平均场理论下的临界指数。由于QCD的手征反常，重离子对撞实验所产生的火球会存在非零的手征密度n5。与之对应，我们引入与n5共轭的手征化学势μ5来研究它对QCD相变的影响。结果表明，随着μ5的增大，有效质量M是增大的，这被称为“手征催化效应”;另一方面，临界化学势μc是随着μ5的增大而减小的，这被称为“逆手征催化效应”。当化学势μ较小时并不存在μ5-T平面的临界点CEP，而且临界温度Tc随着μ5的增大先增大后减小，转变点大致在μ5=400 MeV。这些结果提示我们，有效模型给出的相图可能依赖于所采用的正规化方案。　　为包含解禁闭相变，我们在第四章采用PNJL模型研究了禁闭效应的影响，因此可以同时研究上述两种QCD相变;我们同时引入了化学势μ和手征化学势μ5。在所研究的模型处理中，手征对称性恢复相变和解禁闭相变发生在同一点，都为一级相变并且终止于同一个CEP。进一步的计算表明，这种重合是由于我们选取了特定的参数。对临界指数的计算，与平均场理论的结果γ=2/3符合得很好，并且我们还验证了手征化学势的引入并不改变磁化率在CEP处的临界指数。我们还特别地研究了有限体积效应对QCD相图的影响。我们的做法是对积分动量引入了红外截断λ=π/R，其中R可以看作系统的尺寸。我们发现，随着R的减小，有限体积效应越来越显著，并且在μ5较小时更重要。当R减小到某一特定值Rmin=2.1 fm时，CEP将消失，此时整个μ-T平面的相图都变成了‘跨接’。此外，比值μc/μ5c和Tc/T5c也会随着R的改变而改变，而且得到Tc与μ5之间的关系为:当R较大时，Tc随着μ5的增大而缓慢增大;当R较小时，Tc随着μ5的增大先减小后增大。这一结果表明，Tc与μ5之间的依赖关系是受系统尺寸大小的影响，这意味着有限体积效应对于研究QCD有效模型中的相变十分重要。在有限体积系统中，由于手征不平衡性所带来的影响比所想象的得更复杂。这一有限体积效应对于重离子对撞产生的强相互作用物质显然依赖于三个因素:对撞的原子核的尺寸、对撞的质心能量√s以及对撞的中心性ε。在PNJL模型中，√s和ε是与温度T和手征化学势μ5相关的，可见我们的计算结果对实验上寻找CEP的位置有参考价值。