对于量子材料的研究,可以分为两大主线。其一,是对强关联电子学的研究。强关联电子体系材料中蕴藏着丰富的物理性质,包括局域磁矩、关联金属态、量子临界和非常规超导等;第二条主线是对弱关联体系的研究。在这个体系中,强的自旋-轨道耦合（SOC）作用将导致拓扑非平庸的物理现象,例如拓扑绝缘体、拓扑半金属以及拓扑Mott绝缘体等。本文中,我们使用扫描隧道显微镜/谱（STM/S）、分子束外延（MBE）和角分辨光电子能谱（ARPES）等实验手段对Kitaev模型候选材料Na2IrO3、二维超导α-Mo2C晶体以及拓扑nodal-line型半金属ZrSiSe/ZrSiTe/ZrGeSe等材料进行了系统的实验研究。这些材料有着不同的电子关联强度,并且表现出了许多奇特的物理性质。具体研究工作总结如下:1.强关联氧化物Na2IrO3表面晶体结构和Ir-O键特性的研究首先,我们在Na2IrO3晶体的反铁磁转变温度TN≈15 K之上（77 K）观察到了420 meV的绝缘能隙,这进一步证实其处于Jeff=1/2 Mott绝缘态,而不是Slater绝缘体。其次,我们发现退火热处理可以对Na2IrO3的表面形貌和电学特性进行调控。此外,我们利用氧原子功能化的针尖获得了超高空间分辨率,并在77 K温度下观察到了锯齿状（zigzag）的Ir-O键信息。由于强SOC作用的存在,这种各向异性的轨道特征可能跟低温下（＜TN）的zigzag状反铁磁序相关。2.二维α-Mo2C晶体表面结构及其超导电性研究我们发现,二维（2D）α-Mo2C晶体表面存在着应力和大量的缺陷。而且,由于原子层间的相对滑移,表面Mo原子层呈现出了不同的堆叠方式。通过对STS隧穿谱的分析,我们发现这些α-Mo2C薄片拥有均匀且强健的超导电性。尤为重要的是,从表面超导能隙随温度变化曲线中得出的Tc明显地高于宏观输运测量的结果。这种超导增强效应和表面结构的无序性以及样品中出现的晶格应力相关。3.拓扑nodal-line半金属ZrSiSe/ZrSiTe/ZrGeSe的能带结构研究首先,我们分别在ZrSiSe和ZrSiTe上发现了两个由SOC效应引起的能隙,其值分别为6 meV和19 meV。其次,通过准粒子相干散射和ARPES实验,我们得到了ZrSiSe/ZrSiTe/ZrGeSe材料的费米面和能带结构信息,并在布里渊区的X点附近发现了体态和表面态能带之间的纠缠现象。为了引起时间反演对称性的破缺,我们在ZrSiTe表面引入了磁性Fe原子,这使得处在X处的Dirac简并点劈裂成了Weyl点,而且我们在Dirac交叉点的能量下（+40 meV）观察到了费米弧存在的迹象。