扫描隧道显微镜(scanning tunneling microscope,STM)不仅能够对表面和表面纳米结构进行高分辨成像,还能进行原位扫描隧道谱(scanning tunneling spectroscopy,STS)测量,甚至对纳米结构进行操纵。自其诞生以来,STM作为一种非常重要的科学研究工具,已经在物理、化学、材料、生物等学科领域得到了广泛的应用。在本论文中,我们利用低温超高真空扫描隧道显微镜研究了有机小分子在Au(111)表面的相互作用力及组装。在第一章中,我们首先介绍了扫描隧道显微学的基本原理和本论文实验部分所使用的低温超高扫描隧道显微镜的结构及其工作原理,并结合前人工作介绍了STM在表面研究中的应用;其次概括介绍了本论文的研究背景、意义、现状和我们所解决的问题。在第二章中,我们利用STM研究了两种金属酞菁分子在Au(111)表面上的吸附行为,结合理论计算发现了在这个体系中起决定作用的两种相互作用为由分子-衬底电荷转移引起的库仑相互作用和分子-衬底相互作用,并讨论说明了库仑排斥作用和分子-衬底相互作用的竞争对与分子吸附行为的影响。并以此类推解释了几种结构相似的分子在Au(111)表面的吸附行为。在第三章中,我们使用STM观测到了8-乙基卟吩钴(CoOEP)分子在Au(111)表面上的手性自组装分子聚集体。并研究了这种具有手性的分子聚集体结构并不随参与分子数目增多而变化,以及当分子覆盖度非常高时这种手性结构的消失。通过dI/dV map技术证明了分子在组装过程中物理化学结构都没有变化,仅仅是排列组合造成的手性结构的出现。