研究和开发具有各种功能的新型材料是解决能源危机、环境问题和信息需求的关键所在。晶体结构作为凝聚态物理学中最基本的一个概念,是对晶体材料的数学描述,它决定了晶体材料几乎所有的物理化学性质,是理论上对材料物性进行预测和性能调控方案探测的基础。随着计算机软硬件能力的提升和凝聚态物理理论的发展,特别是大型高性能计算集群和基于密度泛函理论的第一性原理计算方法的出现,人们已经开始有能力根据实验结果解析出材料的晶体结构,也可以通过计算机模拟来搜索或预测可能存在的新型晶体结构,以加速实验和理论对新型功能材料的研发,从而降低研发成本和缩短研发周期。经过数十年的发展,目前已经出现不少晶体结构预测理论、方法和软件,它们在帮助理论工作者解析旧物相晶体结构和指导实验工作者进行新物相的研发方面都发挥了重要作用。由于能量计算的耗时性,随着原子数的增多,结构状态空间变得十分巨大,对应的高维能量曲面非常复杂,这导致现有的无论是基于随机采样策略还是基于演化策略的结构预测方法都面临很大困难,大尺寸体系的结构预测仍然充满挑战性。因此,我们仍然有从理论上探索新的晶体结构预测方法的需要。本论文中我们将传统的随机采样策略和商图穷举策略结合在一起,提出了基于群论和图论的晶体结构随机预测新方法,并开发了相应的晶体结构预测代码RG2;RG2程序根据对称性产生随机初始结构,依据距离矩阵按“就近原则”建立结构的商图,并保持“商图守恒”对结构进行快速整理和优化,可快速高效提供较合理的具有可描述结构特征的晶体结构。在新方法中,我们将坐标实空间中的结构预测问题转换成逻辑空间中的商图预测问题,并提出以商图为判据来剔除采样过程中遇到的不合理初始结构,以“商图守恒”要求作为“几何势”来将初始结构快速优化到近邻局域态势阱中去,实现了能穿越真实势垒的结构演化功能。目前RG2中支持完全随机、框架随机和素材结构扰动等三种模式帮助用户对新型晶体结构、边缘或表面重构、界面重构或超晶格、缺陷结构或掺杂、结构相变及路径等进行预测,可用于凝聚态物理和计算材料科学中所感兴趣晶体结构求解,晶体结构预测和功能材料设计等课题的研究。利用自主研发的晶体结构搜索代码RG2,我们对基于群论和图论的晶体结构随机预测方法进行可能性和性能测试,取得了丰富的研究成果:1、三维全sp~3碳晶体:我们用RG2对75至230号空间群的结构进行随机搜索,得到281个全新的类金刚石结构,其中单胞原子数大于40的结构有129个,大于100的有35个,大于200的超大结构有5个;搜索结果充分展示了RG2算法的搜索能力和效率。此外,RG2还进一步搜索到3个全新的三维4配位周期拓扑构型,作为第四主族晶体结构是它们都具有良好的稳定性,其中的I-43d作为碳晶体是性质超硬透明材料,拥有目前已知碳结构中的最大禁带宽度。2、二维平面3配位sp~2碳晶体:借助层群对称性和二维平面限制,我们将RG2搜索功能推广到二维对石墨烯异构体进行系统搜索,得到了多种全新的低能量石墨烯异构体,其中包括具有奇特幻数稳定性的狄拉克锥型半金属SW-graphene和具有本征Type-III型的狄拉克锥型半金属SW40;在拟合得到具有良好可移植性的紧束缚模型（TB）参数后,我们结合RG2产生结构的高效性对二维类石墨烯结构进行高通量搜索,共计发现1116种新型二维石墨烯异构体;对这1116个新结构和120种已知结构进行TB计算的结果表明,其中包含206个（16个为旧结构）狄拉克半金属,269个（28个为旧结构）半导体和761个（76个为旧结构）金属,其中两个新结构是具有狄拉克节点环的半金属,为首次报导具有此性质的二维sp~2碳。3、二维sp-sp~2型石墨炔异构体:通过同时考虑sp和sp~2两种不同类型的成键,我们利用RG2软件搜索到48个全新的二维石墨炔异构体,并利用第一性原理方法对它们的稳定性和基本物理性质进行了计算;研究结果表明,其中有4个新型石墨炔结构在平均能量上优于实验上已成功制备的3种石墨炔,表明它们拥有良好能量稳定性和实验合成的可能性。这些搜索结果进一步验证了RG2在混合配位晶体结构搜索中的适用性。