格点量子色动力学（QCD）计算表明极端相对论重离子对撞产生的高温环境会导致核物质中夸克和胶子的解禁闭,形成一种具有部分子自由度的新的物质形态——夸克胶子等离子体（Quark Gluon Plasma,QGP）。QGP是研究强相互作用的理想实验室。相对论重离子对撞实验的一个重要目标就是寻找QGP,并研究它的特性。重味夸克（粲夸克和底夸克）是研究QGP早期动力学性质的一个独特的探针。由于质量远大于QCD能标和QGP的典型温度,重味夸克在相对论重离子碰撞中主要产生于QGP形成之前的初始硬散射过程。该过程可以用微扰QCD计算。当QGP形成之后,重味夸克与QGP发生相互作用,并随着QGP的冷却而强子化。通过测量末态重味强子的产生,可以研究重味夸克与QGP的相互作用,并进而研究QGP的特性。由于其热化时间与QGP的寿命相当甚至更长,末态重味强子携带了重味夸克与QGP的作用历史信息。因此,重味夸克是研究QGP性质的一种“穿越探针”（Penetrating Probe）。本论文围绕RHIC能区相对论重离子碰撞中重味强子的产生开展了三部分工作:1)STAR实验54.4与27 GeV金核-金核对撞中重味衰变电子椭圆流的实验研究;2)STAR实验200 GeV金核-金核对撞中激发态粲介子D*+产生的实验研究;3)sPHENIX实验200GeV金核-金核对撞中Λc+产生的模拟研究。重味夸克与各向异性膨胀的QGP相互作用会导致末态重味强子的各向异性流。STAR利用重味径迹探测器（Heavy Flavor Tracker,HFT）在2014-2016年采集的200 GeV金核-金核对撞数据测量了D0介子的椭圆流,为重味夸克在QGP中的输运特性研究提供了重要的实验数据。将重味夸克椭圆流测量扩展到更低能的相对论重离子碰撞中可以研究输运特性对QGP温度的依赖关系。论文利用STAR实验在2017-2018年采集的54.4 GeV和27 GeV金核-金核对撞数据,测量了两种对撞能量下重味衰变电子的椭圆流,并与200 GeV对撞中的结果进行了比较。发现在质心系能量为54.4 GeV的金核-金核对撞中,重味夸克衰变电子也具有显著的椭圆流,其幅度与200 GeV金核-金核对撞中的重味衰变电子椭圆流相当,在pT>1 GeV/c区间里与轻强子椭圆流相近。该结果表明,粲夸克在质心系能量低至54.4 GeV的金核-金核对撞中依然同介质有很强的相互作用。而在27 GeV金核-金核对撞中,重味衰变电子的椭圆流在误差范围内与0符合,低于54.4 GeV对撞中的结果（显著度:1.6σ）,这表明在27 GeV对撞中粲夸克可能未完全热化。这些结果可以为温度依赖的重味夸克输运特性如空间扩散系数Ds的限制提供重要的实验数据。重味夸克与QGP的相互作用还会改变重味夸克的动量分布和强子化过程,导致重味强子的核修正因子RAA偏离1。STAR利用HFT对200GeV金核-金核对撞中D0的核修正因子进行了精确测量,发现在中心对撞中D0在所有横动量范围里都存在产额压低现象。由于粲夸克数在QGP演化过程中是守恒的,这表明在QGP强子化过程中,不同粲强子组分发生了改变。本论文对200GeV金核-金核对撞中D*+产生的实验研究是对D0测量的一个非常重要的补充。此外,有理论研究表明,由于QGP的作用,D*+的质量谱有可能会显著展宽,衰变时间可缩短到与QGP的热力学冻结时间相当。这可以通过测量D*+与D0的产额比来进行实验验证。本论文通过D*+→D0π+,D0→K-π+来重建D*+,测量了其产额及其与D0产额的比例。测量结果发现D*+/D0产额比值随pT的依赖关系同PYTHIA计算得到的质子-质子对撞中的理论预期符合得很好,说明D*+存在同D0相似的产额压低,D*+的强子化过程与D0类似。他们的整体产额压低意味着有其他粲强子具有产额增强现象。此外,研究发现D*+/D0没有明显的中心度依赖关系,与K*0/K-的中心度依赖关系有明显差别,这一结果并不支持D*+的衰变寿命与QGP热力学冻结时间相当的理论计算结果。STAR研究发现在200 GeV金核-金核碰撞中Λc+粒子具有产额增强现象,与夸克聚并的强子化机制理论预期相符。但由于统计误差较大,其物理根源还存在较大的争论。如能在预期于2023年开始运行的sPHENIX实验中安装新一代硅像素探测器,有望在未来提供高精度的重味夸克测量。本论文最后一部分对包含了新一代硅像素探测器的SPHENIX实验中重味强子的测量进行了细致的蒙特卡洛模拟研究,得到了粲重子信号显著度和Λc+/D0测量精度。这为这一探测器升级和未来的高精度重味夸克测量提供了重要的参考。