单个分子尺度上的物质的性质和相互作用是纳米科技中的重要研究对象。扫描隧道显微术因其很高的空间、能量分辨率，以及对分子的操纵能力在分子体系的研究中发挥了重要的作用。在本论文中，利用扫描隧道显微术研究了表面吸附分子、原子的磁性和电子态的调控，以及分子自组装中的量子隧穿现象。　　在第一章开始简单介绍了分子电子学和自旋电子学的一些发展以及扫描隧道显微镜的发明。随后介绍了扫描隧道显微镜的基本原理，以及所用到的扫描隧道显微镜系统。最后作为本章的重点，介绍了扫描隧道显微镜在分子体系研究中的广泛应用。　　在第二章中介绍的是基于单个分子的多自旋中心的复合分子的研究。具有多自旋中心且各自旋中心具有可控的关联性的分子体在量子信息和自旋电子学中有很大的应用。我们利用扫描隧道显微镜操纵吸附于Au(111)表面的单个钴酞菁(cobalt phthalocyanine，CoPc)分子，使单个的CoPc分子逐步和不同数目的Co原子构成复合分子CoPc-Co(n)（n为1、2、3或4）。在这种结构中我们发现，单个Co原子的磁矩依然存在，而且各个Co自旋中心之间通过CoPc分子相互关联，从而得到了具有多个自旋中心且自旋中心之间相互关联的复合分子。这种通过单分子的多个自旋中心的关联作用是以前所没有报道过的现象，在以后的自旋电子器件的设计中有潜在的应用。　　在第三章中我们讨论了Co原子对酞菁分子的分子轨道的调控作用。能够可控地调控分子的轨道在分子电子学中有潜在的应用，我们的实验结果显示了怎样用单个原子调控酞菁分子轨道。我们发现，对于CoPc来说，单个Co原子可以调控CoPc分子轨道的移动和分裂，而且Co原子跟CoPc分子间的不同成键方式可以改变这种影响;而对于CuPc、FePc和H2Pc分子，吸附了Co原子后它们的形状和电子态的性质都发生了很大的变化，他们的HOMO轨道和LUMO轨道态密度分布跟原先的有很大不同，其中LUMO轨道从+1.2V移动到了+2.1V，HOMO轨道从-0.7V移动到了低于-2.3V的能量区域。　　在第四章中通过实验和第一性原理的计算研究了金、银、铜三种表面对吸附的CoPc分子电子结构的影响。发现三种表面都会引起分子电子结构的变化。其中Au(111)和Ag(111)两种表面只是造成了分子本征能级的迁移，并没有破坏分子的本征轨道;而Cu(111)表面和分子杂化作用强烈，破坏了分子的本征轨道。这对目前金属表面上的分子体系的研究具有很好的参考价值。　　在第五章中，我们讨论了分子自组装中量子隧穿现象的影响。在PVBA分子在Ag(111)表面的自组装的实验中，我们发现，不同同位素取代的H-PVBA分子和D-PVBA分子在不同的退火温度下形成的自组装结构是很相似的;不过在180K、200K和220K时，我们在D-PVBA分子的自组装中发现了四链的结构，而在H-PVBA分子中却不存在四链的结构，这证明了量子隧穿现象在手性的PVBA分子的自组装中确实起到了作用，这是以前的自组装实验中所没有讨论过的现象。不过我们还没法从实验上判断量子隧穿效应在H原子和D原子的翻转中到底占了多大的比重。