有机分子-金属复合体系在有机分子器件中具有重要的应用价值。在分子尺度研究固体表面的分子结构特性成为器件中界面结构研究的核心内容。与孤立的分子体系相比，分子-金属复合体系中存在的多种相互作用，使得这些体系表现出一些独特的物理现象，如基底调制的自组装、分子模板诱导的直线成核及电荷转移等。对这些现象的深入研究有助于我们对分子-金属复合体系微观尺度下物理本质的理解，并进一步探索制造出纳米尺度的实用分子器件的有效途径。　　 喹吖啶酮(Quinacridone；QA)分子及其衍生物(QAnC，n为侧向烷基链的碳原子数)因其显著的光伏、光电特性和优异的化学稳定性而成为各种有机分子器件众多材料中的关注焦点。本文主要利用超高真空变温扫描隧道显微镜技术(UHV-VT-STM)、第一性原理和分子力学计算系统研究了喹吖啶酮衍生物QAnC(n=16，4，1)分子在不同金属基底上的自组装生长行为。并将UHV-VT-STM技术、X射线光电子能谱技术(XPS)、紫外光电子能谱技术(UPS)和密度泛函理论(DFT)计算相结合，对具有强电子亲和力的四氟四氰基喹啉二甲烷(F4TCNQ)分子在六角氮化硼(h-BN)单层膜(nanomesh)表面的电荷转移和自组装吸附行为进行了研究。本论文具体包括以下几个方面：　　 (1)表面分子的手性识别在研究手性化合物的对映体分离、对映体传感器、异质催化和液晶显示等方面具有重要应用，然而对表面手性结构的形成过程及识别的微观机理仍然缺少很好的理解。我们用QA16C分子在Cu(110)表面作为模型体系研究了手性分子的识别过程。通过150 K～300 K的变温实验，我们直接观测到了分子的手性识别过程：分子从单分子到多聚体，再聚合形成分子线，进一步形成大面积同质手性畴的整个过程，并在室温下得到排列非常规则的平行线结构。类似地，在Cu(100)和Cu(111)，甚至在表面被曲化的Cur(111)的高指数面上，都得到了这种稳定的同质手性的平行线结构。进一步的实验表明，具有短烷基链的QA1C在Cu(110)表面存在与QA16C类似的手性识别过程。这表明烷基链的长短对这一手性识别过程几乎没有影响，分子与基底间的相互作用是主导整个过程的决定因素。　　 (2)有机薄膜作为缓冲层以减弱基底对分子电子结构的影响对分子电子器件的发展至关重要。我们利用QA16C/Cu(110)形成的平行线结构作为纳米模板，重点研究了QAnC分子在该模板上形成的‘工字型’结构，并探讨了其成核机理及生长模式。单个工字型结构单元包含六个QA分子和两个铜原子，其成核及生长过程具有选择性、直线性和分散性等特点。由于受模板的调制，第二层的工字型结构与模板具有相同的手性。通过退火处理，得到了分子的第三、四层等多层结构，这主要是受QA16C分子间的相互作用力驱动而形成的。　　 (3)未来的分子电子学应用(如柔性电子产品)的一个关键需求是分子薄膜的物理性质受到膜形变影响的定量描述。到目前为止，关于分子薄膜结构与力学性能的关系鲜有报道。我们以具有长烷基链的QA16C分子在Ag(110)表面为模型体系，深入研究了其表面独特的二维分子晶体结构和力学性能。通过调整分子覆盖度，得到了八种不同的分子吸附构型。柔性烷基链在低覆盖度下具有调节分子结构间距的功能；在高覆盖度下，烷基链部分上翘并加强了分子间的耦合强度从而形成多种吸附构型。理论计算定量给出了不同构型的分子与分子间相互作用和分子与基底间相互作用的大小，并预测了热力学最稳定的构型，得到了实验的验证。进一步地，我们通过计算得到了适用于所有分子吸附构型的单一杨氏模量，其幅值由烷基链长度决定。　　 (4)在Rh(111)上形成的周期为3.2nm的六角氮化硼(h-BN)单层膜(nanomesh)是诱导分子自组装生长和调控分子结构的优良模板。我们研究了电子受体分子F4TCNQ在该模板上的吸附特征。实验表明，功函数随着分子覆盖度的增加而增大；而对于同一覆盖度的样品，功函数随温度的降低而增大。低覆盖度下，体系(分子和nanomesh)能诱导产生约+7.9 D(德拜单位)的偶极矩，这有力地证明从基底到分子发生了显著的电荷转移。在室温低覆盖度下，F4TCNQ分子由于具有很大的迁移率而在表面旋转，并吸附在孔洞(pores)里和边线(wires)上。降低样品温度到150 K，分子从wires上扩散进入pores内，有助于于对带负电的分子被俘获在nanomesh表面的理解。