量子材料物理性质的研究长期以来都是凝聚态物理的核心内容。这些材料所具有的拓扑相变和拓扑性质,在物理上大大拓展了人们对基本物态的认识。同时,由于这些材料的新奇物性,使得它们在实际应用中具有极大的潜力。本文通过多种实验方法研究了包括铁基超导体、拓扑半金属在内的几种量子材料的奇异性质,以及导致这些性质的微观机理。第一章,首先介绍常规超导体与非常规超导体,着重于非常规超导体的特征。紧接着介绍近几年发现的一大类非常规超导体—铁基超导体。最后,将对最近几年发现的拓扑半金属进行简要介绍,包含狄拉克(Dirac)、外尔(Weyl)以及节线(nodal line)半金属。第二章,将详细介绍本文所涉及的铁基超导体与拓扑半金属体系的晶体生长,并对本文所涉及的实验手段—输运性质测量和中子散射进行介绍。第三章,利用非弹性中子散射实验研究了过渡金属Cu掺杂的铁基超导体11体系—Fe0.98-zCuzTe0.5Se0.5中超导与磁性的相互作用。研究发现,随着Cu掺杂量的增多,样品逐渐表现出绝缘性;同时,低能(≤12 meV)磁激发被增强,表现为具有更强的散射强度和更长的自旋关联长度。该实验结果证明了刚带模型的局限性,对于铜而言,它的杂质势强,引入Cu的主要效果是使得系统变得局域化,因此对电导、超导电性的削弱和磁激发的增强效果比较明显。第四章,利用输运、弹性和非弹性中子散射实验研究了铁基超导体中铁硒基化合物KxFe2-ySe2中超导与反铁磁序之间的相互作用。利用弹性中子散射实验,发现磁布拉格峰的强度随着温度降低而逐渐升高。当温度降至高于Tc大约10 K时,即42 K,强度的增加出现转折,变得缓慢,并且在超导转变温度附近没有观测到显著的降低。通过非弹性中子散射实验同时观测到来源于反铁磁序的自旋波激发与超导的共振激发,表明了在这个体系中超导与反铁磁序共存。另外,在更低的能量Er2=8meV发现另一个自旋共振模。这个自旋共振模表现出与之前所公认的Er1=14.5meV自旋共振模相似的动量以及温度依赖关系,从而我们可以确定它们由同一个超导相导致。第五章,利用了布里奇曼方法生长了一种理论预言的拓扑nodal line半金属的材料—SrAs3,然后利用输运手段详细测量了其电学方面的性质并对其做了第一性原理的计算。发现该材料的输运性质由两种载流子起主导作用,在低温时,起主导作用的是p型(空穴)的拓扑带,以及高温时起主导作用的n型(电子)平庸带。施加磁场后,能带打开一个能隙并随着磁场增加而增加。通过分析纵向电导的量子振荡,可以得到材料具有非平庸的贝利(Berry)相位、较小的载流子有效质量以及费米面的截面面积,这些物理量与理论计算值符合得很好。另外,当电场和磁场方向平行时,我们在大范围的角度和温度区间都观测到了负磁阻现象,这些结果表明了该材料是一个Dirac nodalline半金属。第六章,我们总结该论文中的一些重要结论,并对这些材料研究进行一些研究方向上的总结和展望。