以硅基半导体为核心的信息技术革命,在短短半个多世纪里就彻底改变了人类的生活方式。随着现代化集成电路规模的日益增大,常规半导体材料的性能已经越来越接近其工艺极限。为了延续摩尔定律的有效性,使电子器件的集成度和性能继续保持指数型增长,势必要发展全新的功能材料。具有范德华层状结构的二维材料的出现,为当代的信息产业带来了曙光。二维材料的低维度特性,允许从电路上对其进行高密度集成。在传统的三维材料中,铁电序和铁磁序由于可以被外加电场和磁场所调控,往往被用于制作各类非易失性存储器件及功能型电子器件。然而,当材料维度降低至二维时,铁电序和磁有序分别会被电子屏蔽效应和热涨落效应所压制,这使得利用二维材料制备功能型器件一度陷入困境。随着二维材料制备工艺以及表征手段的进步,人们发现越来越多的二维材料表现出铁电序和长程磁有序结构,这些新奇的二维材料打破常规理论预期,使人们重新燃起了对二维材料研究的热情,二维材料中的铁电序和磁有序也因此成为研究者所关注的焦点。作为一种表面成像技术,扫描隧道显微镜/谱（Scanning tunneling microscopy/spectroscopy,STM/S）可以直接表征材料表面的晶格结构及电子结构,非常适用于研究二维材料中的新奇量子行为。本论文中,我们结合STM/S表面分析技术和分子束外延（Molecular beam epitaxy,MBE）的样品生长方法,系统研究了几类硫族二维材料中新奇的铁电序和磁有序。本论文取得的研究成果包括:（1）In2Se3是一种受到广泛研究的二维铁电材料,目前以对α-In2Se3的研究占据主导。在具有fcc晶体结构的β-In2Se3薄膜样品中,我们发现了铁电相和反铁电相的共存,并实现了两相之间的电场调控。其中,反铁电相具有条纹状反铁电畴结构,相邻畴之间的电极化方向相反。由于电偶极矩的存在,在畴界附近会周期性地引入净的正（负）电荷积累,从而对费米能级的空间分布产生调制,并使能带周期性向下（上）弯曲,我们利用STS观测到了这种能带弯曲效应。另一方面,样品中的铁电相会在表面形成无规则的铁电畴结构,根据电偶极矩对齐方式的不同,畴界之间也会产生净的正（负）电荷积累,从而使得畴界在实空间上表现出两种不同的亮度,结合STS观测到,能带弯曲效应在两种铁电畴界上表现出不同行为。通过STM针尖产生的局域电场,样品中的两种铁电序能够相互转换。这一结果证明In2Se3材料在制备外场可调的功能器件方面具有优秀的潜力。（2）In Se是一种被广泛应用于光电子器件制造的二维材料。我们在In Se薄膜材料中观测到缺陷或晶界引起的局域应力效应,这种应力效应导致了In Se的半导体能隙增大了～20%。结合第一性原理计算,我们推算出缺陷附近的应力畸变大小为～2%。由于能隙大小不一,正常的In Se和受到缺陷扰动的In Se会形成横向异质结,并在STS上表现出第一类能带对齐方式。此外,利用准粒子干涉技术（Quasi particle interference,QPI）,我们还在单层的In Se样品上观测到自由电子气行为,测得载流子带边有效质量为0.27 m0,表明In Se材料在单层极限下仍然具有很高的载流子迁移率,这一结果为实现单层In Se在功能器件中的应用提供了实验支撑。（3）具有Fe空位有序结构的Fe4Se5可由超导的Fe Se转变而来,对该体系的研究有助于理解Fe Se中超导电性的起源。长期以来,关于Fe4Se5的磁有序状态一直没有明确的实验证明。本实验利用自旋极化STM手段,首次在Fe4Se5薄膜样品中观测到zigzag型条纹反铁磁基态,并发现条纹磁信号表现出对外加垂直磁场的响应,这表明Fe4Se5薄膜具有面内的磁化取向。对比理论计算的结果,我们提出了一种能和实验自洽的条纹磁结构模型。我们的实验结果证明了Fe4Se5是反铁磁绝缘体,该工作为理解铁基高温超导体中的磁有序和超导之间的关系提供了参考。（4）通过调控衬底温度的方式,我们利用MBE方法成功制备出具有不同化学计量比的Fe-Te化合物的薄膜材料,并利用STM/S系统的研究了它们的电子结构特征。实验结果表明,Fe-Te化合物的电子结构强烈依赖于具体的化学计量比,同时会受到晶格结构畸变效应的调制。我们的研究结果将各类Fe-Te化合物在样品生长层面上联系到一起,同时揭示了该体系中晶体结构和电子结构之间存在的紧密关系,并有望推广到其它二元硫族化合物的研究之中。