在量子实验中,磁场的不均匀性是导致原子系统的量子态退相干的主要因素之一。而量子态的退相干会很大程度上影响到实验的结果。因此,在量子实验中我们需要一种能产生均匀磁场的线圈系统来抑制退相干效应。然而目前基于分析方法的线圈配置都无法考虑到实际应用中会面对的各种限制条件,如在磁屏蔽中心的通光需求使得柔性电路板中心也需要开孔,从而导致线圈无法放置在电路板的中心区域。这使得在很多量子实验中,这些基于分析方法得到的线圈方案都无法直接应用。本文以原子磁力计为具体实验平台,提出了利用一种混合式机器学习算法设计线圈的方法。该混合式算法是由基于人工神经网络（ANN）的机器学习算法和差分进化算法（DE）组合而成。在DE算法的辅助下,机器学习算法通过数值模拟,成功地设计出了符合实验要求的同轴线圈方案。理论上其产生的磁场在25mm长的中心区域相对不均匀度可以达到10-6。在实验中,我们根据设计方案加工了一套线圈系统,将其应用在原子磁力计中。尽管受限于加工精度,实验上测得其磁场不均匀性为0.069%。但显著优于我们之前应用在实验系统中的商用线圈。相应的原子磁力计线宽约为几赫兹的量级,能够符合我们的测量需求。两个学习算法的合作表现出了比单一的差分进化算法更高的优化效率,同时在线圈优化问题上相比较于其他基于分析求导的方法有着更好的鲁棒性,设计出的方案更能符合实验的需求。得益于机器学习算法的高维参数优化能力,本文提出的线圈设计方法方便易用,可以根据各种实验限制条件设计出符合要求的线圈系统,能在各种不同的量子实验平台中发挥作用。