过去,利用非平衡手段制备的亚稳合金相显示出优良的电学、磁学、光学和力学性能等,因而具有广泛的应用前景。对于生成热为负的二元金属系统,报道的亚稳合金的理论及实验研究已较为全面,而对于互不固溶系统,无论是理论研究,还是实验研究都还很有限。本论文旨在从理论和实验两个角度主要探讨互不固溶二元金属系统亚稳合金相的形成规律。基于Miedema热力学理论,我们首先提出了一个计算二元过渡族金属合金标准生成焓改进模型,一种计算二元过渡族金属合金结构生成焓的计算方法和一个揭示Laves相形成规律的热力学判据。其次,我们开发了一个计算二元金属系统自由能和金属多层膜界面能的热力学软件。在原子尺度模型理论研究方面,本论文借助于第一性原理计算和分子动力学模拟来研究亚稳合金相形成规律。为此,本论文选择了五个生成热为正的W基二元fcc-bcc和hcp-bcc金属系统,即:Cu-W、Ag-W、Au-W、Sc-W和Y-W系统,和一个生成热为负的Co-Nb系统来研究其亚稳相选择和非晶形成能力。首先利用第一性原理计算的数据来构建六个系统的嵌入原子多体势。特别是,我们提出了一套构建二元hcp-bcc金属系统的多体势函数和一种有效的拟合方法。然后借助分子动力学模拟来研究Cu-W、Ag-W、Au-W系统的亚稳相选择规律,和Co-Nb、Sc-W和Y-W系统的非晶形成能力。在多层膜离子束混合实验研究方面,本论文选择了二元Cu-W、Ag-W、Au-W、Sc-W和Y-W系统。在这五个系统中不仅形成了亚稳fcc和bcc过饱和固溶体,而且在Ag-W、Au-W、Sc-W和Y-W系统中得到了非晶合金,从而证实了理论计算和模拟的结果。另外,在Y-W系统中首次发现双相非晶及相应的二维分形形貌,并通过原子尺度模拟研究了其形成机理。