对表面纳米结构的构筑和调控是实现分子电子器件的重要前提条件。其中，自组装技术是制备纳米结构的重要途径。然而，要制备功能性器件和结构将不可避免地涉及到多组分复合体系的组装。复合体系具有更为复杂的分子间作用，因而其组装结构也具有更大的可变性，为人们提供了更大的选择余地。目前，针对表面、界面分子组装和超分子结构的精确控制，仍然有许多需要澄清和解决的基本的理论问题。因此，研究二维超分子复合纳米结构的自组装规律，不仅对物理化学现象本质的理解具有重要的意义，而且对构筑功能分子纳米结构有重要的科学意义，尤其是制备基于多组分复合体系的功能性分子器件。近年来，主客体复合物逐渐成为超分子化学中的研究热点，主客体体系为分子识别等基本问题的研究提供了一个独特的研究方法，为发展新材料提供了可能性，并在化学分离、催化、光电子学、磁学等方面有很好的应用前景。三联吡啶类分子是一类具有特殊光电性质的配体，这些配体及其配合物已广泛用于分子催化、太阳能转换、分子识别、自组装等领域，因其在金属有机化学和超分子化学领域的广泛应用前景而受到人们的重视。扫描隧道显微镜(STM)以其在原子水平上对分子进行观察和操纵的能力，在纳米结构的研究中具有得天独厚的优势。本论文工作以STM为主要研究手段，结合理论计算，重点围绕二维超分子复合纳米结构的可控组装进行了一些初步探索，并取得了一系列有较大新意的结果。主要开展了利用非共价键(主要包括氢键、范德华作用力)构筑以三联吡啶衍生物分子为主体的表面主客体复合组装结构的研究，探讨了其组装机理和规律，研究了组装的动态过程以及外场条件(如电场、温度)对微观界面组装结构的影响。本论文的主要工作包含以下五部分内容：　　 (1)对分子结构进行设计，可有效的实现分子组装结构的调控。实验中，两种取代烷氧链长度不同的三联吡啶衍生物分子BT-O-C12和BT-O-C16在石墨表面形成不同组装结构。研究结果表明，分子尺度的改变能调节分子间、分子-基底间作用力的平衡，从而达到构筑不同结构的分子有序薄膜的目的。体系的最终组装结构是分子间相互作用和二维密排原则共同决定的结果。同时，组装结构也与分子构型紧密相关。构型不同，分子间相互作用明显不同，从而影响吸附结构。这一结果有助于更好地理解自组装过程中各种作用的协同关系，对揭示二维组装规律有重要意义。　　 (2)以三联吡啶衍生物分子BT-O-C16的表面吸附结构为主体模板，线性分子对苯二甲酸、4，4’-偶氮二羧酸为客体，通过自组装方法，在表面构筑了有序的主客体复合纳米阵列。结果表明，主体BT-O-C16的组装结构是一种柔性的自适应网格结构，能对不同尺寸的客体分子有自发响应变化。同时，认识到客体分子尺寸与主体空腔的匹配和主客体间的氢键是稳定客体表面吸附的重要因素。　　 (3)进一步研究了具有高对称性的多环芳烃分子蔻(Cor)和三苯(TP)，分别与主体BT-O-C16在石墨表面的复合组装结构。研究结果表明，两个体系在表面形成新颖的有序图案化阵列，主体BT-O-C16的吸附结构发生明显改变。分子间相互作用往往与分子的外形有关，这里主体组装结构的显著变化与客体的几何对称性有不可避免的关系。另外，两个客体在主体空腔中的表面填充率有所不同。蔻是全填充，而三苯只是半填充。理论计算结果表明，客体电子性质的细微差异和分子间的氢键作用在组装过程中扮演着十分重要的角色。此外，客体蔻在表面存在两种图像反差，并表现出周期性调制，这与蔻和主体分子间的氢键作用强度不同，电子耦合程度不同密切相关。　　 (4)考察了温度对Cor/BT-O-C16复合体系的表面组装行为的影响。研究结果发现，体系的表面吸附结构具有明显的温度依赖性，在高温、低温制样条件下分别形成了对称性不同的四次、三次结构。自组装结构由分子间及分子与基底间的作用力共同决定，在不同温度下，两种作用力对组装的贡献有可能不同，同时，分子间相互作用往往与分子的外形有关，因此，体系在不同温度的组装结构不同很有可能与客体分子蔻的多重几何对称性有关。并且，实验中利用STM针尖脉冲偏压成功地诱导了两种组装结构的原位转变。此外，同样利用针尖脉冲的方法诱导了TP/BT-O-C16复合体系组装结构与主体组装结构的可逆转变，并原位观察了表面结构的自修复过程。对客体三苯的吸附生长过程的分析结果表明，分子在表面的吸附遵循“岛状”生长模式。这一研究结果为分子自组装动力学研究提供了有价值的实验数据，并展现了STM在纳米结构加工中的潜在应用。　　 (5)对表面配位组装开展了初步的探索性工作。利用STM研究了室温、大气环境下，镉(II)-四羧基卟啉配位复合物在石墨表面的组装行为。实验和理论计算分析结果表明，分子之间相互作用(配位键)和表面自由能最低原则在表面配位组装过程中都起了重要作用，而最终的组装结构是两种因素共同决定的结果。这一工作对揭示分子的二维配位组装规律提供了一定的实验依据，为以后的研究工作奠定了基础。