具有几何阻挫效应的自旋体系是凝聚态物理领域一个备受关注的研究方向之一,它因具有多种奇特的基态性质和量子相变行为而成为寻找新的量子态的理想载体。其中自旋液体尤其是量子自旋液体成为目前备受关注研究热点,它不仅有助于在理论上解释高温超导体的机理,而且它的拓扑性质将有可能实现在量子信息上的应用。关于该方向的理论研究已经持续了多年,但实际上直到最近才在实验中找到一些可能的量子自旋液体材料。我们细致地研究了烧绿石结构Tb2Ti207和稀土硅酸镓镧系的Nd3Ga5SiO14的极低温热输运性质。在这两类材料中,磁性离子间的相互作用导致的几何阻挫使得系统在低温下产生高度的简并态,有可能形成自旋液体态。低温强磁场下热输运性质的测量是研究量子基态性质和自旋-声子耦合的有效手段,可以为我们深入理解自旋液体的本质特征提供更多的实验依据。第一章综述了阻挫磁性材料及自旋液体态相关的研究进展。在本章中首先详细介绍了具有自旋液体态的阻挫磁性材料的研究进展；其次介绍了烧绿石结构Tb2Ti207的基态性质和研究进展；之后介绍了三方结构Nd3Ga5SiO14的基态性质及研究进展；最后简单介绍了热传导的基本知识。第二章主要介绍了使用光学浮区炉制备高品质的R2Ti207(R=Gd, Tb, Dy, Ho, Y, Er, Yb, Lu)和Y3+离子掺杂的Tb2-xYxTi207(x=0.2,1.0,1.6)单晶,并对单晶的生长条件进行了细致的研究。发现合适的生长速度以及氧气压力对获得高品质单晶至关重要,而且不同的R2Ti2O7单晶的生长条件随稀土离子的不同表现出一定的规律。利用X射线衍射及劳厄照相等手段验证获得的R2Ti207及Tb2-xYxTi2O7单晶的质量,通过磁化率及比热测量等实验手段研究了R2Ti2O7体系单晶的低温性质。此外,为探测非磁性Y3+离子掺杂对自旋液体基态性质的影响,对Tb2-xYxTi207单晶的磁化率,比热以及热导率等性质做了细致地研究。第三章主要介绍了Tb2Ti207单晶低温热输运性质的研究,发现该材料在零场低温下表现出类“声子玻璃”的热导率行为,声子的平均自由程甚至比非晶类材料的都要小,而且在0.3K时相比样品的平均尺寸小将近3-4个数量级。这种类“声子玻璃”的热导率行为主要是由自旋液态中强烈的自旋涨落对声子的散射造成的。另外,Tb2Ti207低温下热导率随外加磁场表现出复杂的依赖关系,其中最为显著的特征是相比零场数据极低温热导率增大了将近30-40倍,这主要是因为外加磁场有效地压制了Tb2Ti2O7体系中的磁涨落从而大大减弱了对声子的散射,而与TbYTi2O7单晶热导率的比较进一步证实了Tb2Ti2O7体系中自旋涨落对声子有着强烈的散射作用。第四章主要介绍了Nd3Ga5SiO14单晶低温热输运性质的研究结果。Nd3Ga5SiO14是可能具有自旋液体基态的阻挫材料之一,为探测它的基态性质以及磁场对其基态的影响,我们细致地研究了该体系在低温强磁场条件下的热输运性质。低温零场下热导率表现出典型的声子热输运行为。磁场沿c方向的低温热导率表现出低谷的行为,主要是由简单的顺磁离子对声子的散射造成的。而磁场在ab面内时,热导率在低场下表现出完全不同的台阶式减小的行为,这与磁场诱导的部分磁有序有很大关系,磁有序态中产生的低能磁激发强烈的散射声子从而使得热导率急剧减小。总之,从这些结果中并未观测到Nd3Ga5SiO14表现出自旋液体的基态性质,直到0.3K仍表现为一种顺磁态,但是ab面内的磁场可以诱导部分磁有序的产生,这与低温磁比热行为上观察到的现象是一致的。