高能量分辨的扫描隧道显微谱是目前凝聚态物理、纳米科学和表面物理等领域最重要的研究手段之一。在本博士论文中,利用能量分辨率达到0.1 meV、工作温度最低为400 mK并能施加11Te磁场的扫描隧道显微镜(STM),我们研究了低维超导、拓扑量子态和单自旋态的探测与操纵等几个当前凝聚态物理的前沿科学问题。论文内容主要包括以下三个部分:　　 (1)作为一种宏观量子现象,超导电性一般会随材料维度的降低而受到抑制。对某个超导材料而言,其极限厚度是多大是一个人们长期关注但悬而未决的问题。在本论文的第一部分,我们利用极低温STM,研究了三种生长在硅衬底上有序的单原子层铅膜和铟膜(其原子面密度分别为10.2/nm2(铅)、9.4/nm2(铅)和9.4/nm2(铟)),证明这些处于二维极限下的薄膜仍然是超导体。我们利用变温扫描隧道谱和理论拟合获得了三种单层薄膜的超导转变温度,分别为1.83 K、1.52 K和3.18 K,通过施加外磁场,我们观察到了薄膜中量子化的磁通,这进一步证实了超导电性的存在。我们还利用角分辨光电子能谱(ARPES)测量了薄膜的电子结构。结果表明,尽管形成库伯对的电子来源于薄膜中的金属原子,但金属原子和硅衬底之间的共价相互作用对超导转变也起到了决定性的作用。　　 (2)拓扑绝缘体是一类由自旋轨道耦合效应导致的新奇物质形态,它体内具有类似绝缘体的能隙而表面却具有无能隙的表面态。这种表面态由无质量的狄拉克方程来描述。2009年,三维拓扑绝缘体材料(Bi2Se3、Bi2Te3和Sb2Te3等)在实验上发现,并立即在国际上引起了研究热潮。在本论文的第二部分,我们利用低温扫描隧道显微镜观察到了Bi2Te3表面态散射形成的电子驻波,这给出了拓扑绝缘体表面态存在的直接实验证据。通过进一步分析散射过程,我们发现非磁性杂质引起的背散射是不存在的,这是由于表面态受时间反演对称性保护所导致的,也是拓扑绝缘体的独特性质。另外,我们还观察到了Bi2Se3的表面态在强磁场下的朗道量子化,发现朗道能级的能量与√nB成正比。这证明表面态的确是由二维无质量狄拉克费米子来描述。　　 (3)探测和操纵单个原子的自旋对实现原子尺度上的自旋电子学器件和高密度磁性存储等具有重要意义。在本论文的第三部分,我们利用STM的原子/分子操纵技术和非弹性隧道谱(IETS),在PbO表面实现了对Mn原子自旋的探测和操纵。我们观测到了单个Mn原子的Zeeman效应和Mn二聚体的自旋耦合,并成功地使Mn原子与一种含氰基的分子配体产生了单分子配位反应。我们发现在配位场的作用下,本来自由的Mn磁矩产生了零场分裂(磁各向异性),这是首次在单分子尺度上实现对磁晶各向异性的调控。