在微纳米表面对分子纳米结构进行精确制备和调控是分子纳米技术的重点和难点。深入理解和总结分子在微纳米表面的自组装行为规律具有重要意义。扫描隧道显微镜(STM)在研究表界面现象时可以达到原子或分子级别的分辨率并且实现实空间、实时和原位观测，在研究和构筑固体表面分子纳米结构方面发挥着重要作用。　　利用扫描隧道显微镜对表界面分子自组装的研究过程中，会发现很多主客体体系的纳米结构。主客体体系是指通过非共价相互作用聚集在一起的分子所形成的结构。主客体体系的发展为分子自组装结构向复杂化和功能化发展提供了可行的途径，在分子识别、分子催化、分子开关和生物传感等领域具有广泛应用。　　表界面二维主客体体系通常会涉及主体分子模板和客体小分子间的相互作用。深入了解主体分子模板的自组装行为，客体分子的引入对主体分子模板的影响，以及主客体共组装结构和性质的机制具有十分重要的意义。本论文利用STM，结合以下体系对纳米尺度表界面分子自组装进行了研究。　　1)研究了一对中心刚性核为三角形空腔的盘状液晶分子在辛基苯/HOPG界面的自组装趋势。TMC1分子的自组装结构呈现出有规律的长程线性组装，TMC2分子呈现出松散和紧密的两种排布。二者共组装时出现了分畴的现象，TMC1仍旧保持了原有的线性组装，TMC2分子的排布比较随机。STM结果为TMC2分子在合成过程中痕量开环现象的存在提供了依据。浓度实验和温度退火实验表明:浓度越高，分子排布有逐渐紧密的趋势;温度越高，TMC1分子的自组装更加紧密，TMC2分子排布的有序度增加。TMC1和TMC2分子可作为潜在的刚性分子模板进行发展。　　2)研究了三个具有吡啶取代基团的四硫富瓦烯衍生物分子在液/固界面的自组装情况和客体分子引入对柔性主体分子模板的影响和相互作用机制。三个分子中，只有para-TTF分子可以在不引入TCDB主体分子模板的情况下，形成能够被STM观察到的自组装结构。引入TCDB模板后，EDTTF/TCDB/辛基苯三元结构可形成具有六边形空腔的纳米网络，且随着时间的变化纳米网络会向密排状结构转变;Meso-TTF/TCDB共组装的空腔尺寸较小，独立成环，且不需要溶剂分子的参与。TCDB模板未能调控para-TTF分子形成纳米网格结构。　　3)在单分子水平上对H-T-BO/C70主客体体系在辛基苯/HOPG界面的自组装结构和性质进行了STM/STS研究。H-T-BO分子可以在辛基苯/HOPG界面形成稳定的纳米网络结构，其中具有两种类型的纳米空腔和一个潜在结合位点。引入C70富勒烯后，在STM下可以观察到两种类型的纳米阵列。阵列A中，C70富勒烯分子嵌入到了h1空腔中;阵列B中，C70分子被h3结合位点固定，该过程体现了选择性吸附的特征。扫描隧道谱(STS)的结果表明，引入C70富勒烯分子后，相较于H-T-BO纳米网络，体系的带隙有所下降。