马约拉纳费米子是一种奇异的粒子,它与它的反粒子完全相同。在凝聚态物理中,马约拉纳费米子会以准粒子的形式出现在拓扑超导体中,并且具有非阿贝尔统计性质,能够应用于可容错拓扑量子计算,使得量子计算机的应用前景大大提升。然而,自然界中尚未找到确定的拓扑超导体。因此,我们另辟蹊径,将拓扑绝缘体与超导体制备成异质结。在异质结中,表面的拓扑绝缘体具备拓扑表面态,而底层的超导体则将其超导电性通过近邻效应传递给拓扑表面态,从而形成拓扑超导体。在这个系统中外加磁场,在表面激发量子磁通涡旋,就能在涡旋中心探测到马约拉纳费米子。制备人造拓扑绝缘体并在其中研究马约拉纳费米子的两个主要技术难点:一,寻找合适的制备异质结的材料;二,探索马约拉纳费米子的性质。2012年,我们组的研究者成功在超导体NbSe₂上外延生长了高质量的拓扑绝缘体薄膜Bi₂Se₃,迈出了制备异质结的重要第一步。随后的几年中,该团队又在NbSe₂上外延生长了高质量的拓扑绝缘体薄膜Bi₂Te₃,并利用扫描隧道显微镜观测到了异质结表面涡旋中心马约拉纳费米子存在的一系列实验证据。凝聚态中的马约拉纳费米子是一种电子态,它的能量严格为零,因此也被称为马约拉纳零能模。然而,在涡旋中心存在着一些低能量的电子激发态。以现有的扫描隧道显微镜能量分辨率,无法直接从能量尺度上区分这些低能激发态与零能的马约拉纳费米子。这为直接探测马约拉纳费米子带来了很大困难。通过分析实验数据,研究发现马约拉纳费米子的空间分布与涡旋中其他电子态有很大不同,进一步探测这些空间分布,马约拉纳费米子在该体系中的存在被首次证实。本文中,我们在前人工作基础上,进一步寻找马约拉纳费米子存在的新证据,并且探索可能存在马约拉纳费米子的新平台。我们发现了涡旋中心处马约拉纳费米子存在自旋选择性安德烈夫反射这一过程,并利用自旋极化扫描隧道显微镜直接观测到了它的效应。这一工作是对马约拉纳费米子的自旋性质的首次实验研究。它不仅是马约拉纳费米子存在的又一有力证据,而且还提出了一种新的探测马约拉纳费米子的方法,甚至为如何调控马约拉纳费米子,使其服务于拓扑量子计算打下了一定基础。此外,我们探索了其它的人造拓扑超导体结构:在NbSe₂上外延生长超薄Bi薄膜。我们系统分析了Bi薄膜的生长过程,并且在Bi（111）双层膜上探测到了边缘态与超导共存。这个结果拓宽了人造拓扑绝缘体的种类,为研究二维拓扑绝缘体增添了新的平台。最后,我们尝试在石墨烯表面外延生长本征拓扑超导体Fe_1+yTe_0.5Se_0.5。对于这种三元化合物,我们研究了其不同组分的生长模式,并成功在石墨烯表面获得了FeTe_xSe_1-x。