基因组选择（Genomic selection,GS）是一种新兴育种技术,主要通过利用全基因组标记来预测未知表型。目前GS领域主要的方法是混合线性模型和先验假设的贝叶斯模型,可通过这些模型选择具有高表型值的个体作为候选育种群体。但由于受训练群体规模大小限制、高通量测序数据集的高维性、基因型与环境的互作性质以及分子标记间复杂的互作模式的影响,GS在动植物高效率育种过程中仍具有挑战性。本研究旨在优化基因组预测模型,利用机器学习的特性结合基因组数据和表型数据构建具备适应性强、计算成本低、预测准确效率高的全新基因组预测模型。研究的主要内容有:（1）使用Boosting集成学习框架构建梯度提升决策树（Gradient boosted decision tree,GBDT）模型,实现从基因型标记中预测表型值。使用小麦GS数据集对GBDT进行验证,并与其他七个广泛使用的GS模型进行预测性能比较。（2）利用机器学的特性结合基因组数据和表型数据构建了GBDT、XGBoost、KRR、KNN、RF、SVR、Nu SVR和linear SVR八个基于机器学习算法的基因组预测模型,并对机器学习进一步探索,开发了一个全新的基因组预测模型ELGP（Ensemble learning-based genomic prediction）,并使用一组动物基因组数据对其进行验证。（3）在（1）和（2）的基础上进一步探索机器学习的不同计算范式,开发了基于堆叠集成学习的泛化模型（Stacking ensemble learning generalization model,SELGM）,同时利用小麦数据集和荷斯坦奶牛数据据对其进行验证。研究的主要结果如下:（1）GBDT与BL、BRR、Bayes A、Bayes B和Bayes C模型在Hold-out交叉验证方法下的整体预测性能相似,但低于RRBLUP模型。尽管RRBLUP模型预测的相关性比GBDT模型高,但对于部分性状,GBDT模型选择高表型值个体的能力仍然高于RRBLUP,同时标记子集的大小会影响GBDT的预测准确。当使用10折交叉验证方法时,GBDT在八个性状中的预测性能整体优于贝叶斯模型。Bayesian模型的准确性取决于MCMC的迭代次数,并且计算效率远远低于GBDT模型。（2）ELGP方法的表现优于其他八种基础学习者。对于产奶量（Milk yield,MY）性状、乳脂率（Milk fat percentage,MFP）性状和体细胞得分（Somatic cell score,SCS）性状,ELGP的皮尔逊相关系数比八个基础学习器的平均值分别提高了12.14%、14.99%和15.56%,ELGP的半径指数比八个基础学习器的平均值分别降低了15.11%、13.72%和18.29%。除SCS性状外,ELGP对其余性状的预测性能比BRR的高。此外,我们通过对不同的基础模型进行组合,结果发现ELGP1（由GBDT,KRR,SVR,XGBoost,Nu SVR and linear SVR）的结果是所有模型中最好的。同时,交叉验证方法的选择会提高模型的预测性能。（3）SELGM在小麦数据集和荷斯坦奶牛数据就中的预测性能整体优于其他的预测模型,并且拥有最小的预测误差值。SELGM在小麦数据集中相对于基础模型和贝叶斯模型,预测准确性的提升效果要高于荷斯坦奶牛数据集的提升效果。SELGM相对于ELGP更好的规避了预测容易过拟合的现象,并进一步提高了预测准确性。本研究从机器学习的角度出发,构建多个基于机器学习基因组预测模型,进一步拓展和丰富基因组预测方法体系,为机器学习在基因组学领域的应用提供了线索;同时对机器学习在基因组预测领域中进行探索,基于不同的集成策略构建ELGP和SELGM两种全新的基因组预测方法,相对于被广泛使用的Bayesian模型,具有更高的预测性能与计算效率,更符合实际育种的需要。