自上世纪五十年代以来，自旋失措系统一直是科学研究领域的一个热点问题。自旋失措在凝聚态物理中是普遍存在的一种现象。它起源于自旋相互作用之间的竞争，是系统出现简并和无序的元凶。失措在离子无序的磁性系统中表现为与玻璃的空间无序和神经网络模型的空间关联相类似的自旋玻璃态行为。在结构有序的磁性材料中，自旋的几何失措更是在过去二十年受到研究者的广泛关注。这其中包括极低温下依然有很大涨落的自旋液体和零温下系统仍然保留大量剩余熵的自旋冰。　　自旋失措体系包罗万象，但作为理论研究工作，我们追求的是:从简单的模型出发，用现有的理论方法一步步解开其中的物理扭结;从简单模型的结果总结出一般的物理规律，以期让人们理解更复杂的物理系统。几何失措系统就是属于自旋失措系统中结构简单、自旋交换作用简单的系统，虽然简单，但是其中蕴含的物理内容却丰富多彩同时也具有一般性。因此本文主要从几何失措体系出发，运用数值模拟方法探索和研究其中人们比较关心特殊的磁序和磁相变行为，并以此为基础，讨论失措系统的磁台阶，准粒子激发，动力学演化过程等等一系列问题。在众多几何失措系统中，我们以三角晶格、人工自旋冰模型和自旋冰模型为框架仔细研究了三角晶格J1-J2XY模型、三角晶格Ising反铁磁模型、kagome自旋冰模型、四方格点自旋冰模型、烧绿石结构自旋冰模型等。整篇论文的结构如下:　　在第一章中，首先简要介绍自旋失措系统的历史、基本概念和一些物理性质。鉴于本文主要是围绕三角自旋模型和自旋冰模型进行展开，本章后面部分主要介绍这两类几何失措系统。特别是对于自旋冰模型，我们以实验和理论结果为基础，深入浅出的介绍了自旋冰的几何结构、磁基态与磁荷序、系统动力学过程和一些潜在的研究方向。　　第二章中给出了我们在研究中使用的几种数值模拟方法。本章的第二部分介绍了一种针对连续模型改进的Wang-Landau取样算法，即对数窗口化Wang-Landau取样取样算法。对于连续模型，这种改进Wang-Landau取样算法是必须的，同时得到的结果也是可靠的，为此我们用几个常见的连续模型来说明这一点，包括二维四方格点的XY自旋模型、三角格点的J1-J2自旋模型和Lennard-Jones团簇模型。改进的Wang-Landau取样算法能够给出更准确的边界处的态密度，因而也能得到的连续模型的低温热力学性质也更可靠。除此之外，这种方法的计算效率也更高。　　第三章讨论了长程磁偶极作用对于Ca3Co2O6自旋模型和kagome自旋冰模型磁台阶的影响。这一章分为两部分，第一部分给出的Ca3Co2O6自旋模型的模拟结果。在Ca3Co2O6铁磁链自旋模型，长程磁偶极作用可以等效成一个短程的次近邻交换作用项。在考虑这个次近邻等效作用之后，Ca3Co2O6模型的磁化平台多出了两个台阶，条带状磁化平台和1/2磁化平台。第二部分是kagome自旋冰模型的模拟结果。在长程偶极作用影响下，原本没有磁台阶的kagome自旋冰模型，在[10]和[01]两个方向磁场下都出现了三台阶磁化平台现象。　　在第四章中，我们研究了四方人工自旋冰模型的磁荷序和磁相变问题。为了突出磁单极子之间的关联作用，模拟中采用了磁荷守恒算法。模拟结果表明，在磁荷密度较低时，系统出现了磁荷二聚化现象，对此我们做了许多细致的研究。在磁荷密度比较大时，系统有一个两级相变过程，在降温过程中，系统从顺磁相经过一个磁荷有序相最终形成一个长程磁有序相。　　第五章研究了单轴压力作用对烧绿石结构自旋冰性质的影响。对于自旋冰材料，压力使得最近邻自旋之间交换作用发生比较明显的改变。由于晶格常数的不同，压力可以增强（δ＞0）也可以减弱（δ＜0）近邻作用。对于正的δ,单轴压力让系统驰豫到自旋呈铁磁链状排列的基态。对于负的δ,系统由短程序的自旋冰态经过一个一级相变驰豫到长程有序的铁磁态。我们的模拟结果显示这种长程铁磁态更有利于磁单极子的激发。　　第六章是总结和展望。