随着油气勘探开发的不断深入,勘探目标从构造油气藏向岩性油气藏转变,薄层及复杂储层表征也逐渐成为储层预测难点。传统的基于线性假设的储层参数预测方法,如稀疏脉冲反演,已经不能很好满足储层特征精细描述的需要。因此需要建立非线性的储层预测方法来解决复杂储层表征问题。机器学习作为人工智能领域发展最快的一个分支,可以通过自主学习,挖掘隐藏在大数据集中的特征和关系。将机器学习用于储层预测,可以充分挖掘地震数据中包含的地层岩性及物性信息,从而实现高精度的储层参数预测。目前基于机器学习的储层预测方法中,往往忽略地震相对储层性质的影响,这样无疑会降低预测结果的精度。本文提出地震相控下的储层参数预测方法,首先利用谱聚类的方法进行地震相的划分,然后将地震相信息作为约束条件加入到储层参数预测过程。在谱聚类输入特征参数选择中,利用地震数据倒谱特征参数代替地震属性,有效解决了地震属性与地质特征之间对应关系不明确,以及信息冗余的问题。实验证明地震数据倒谱特征参数,能够充分挖掘地震数据中隐藏的地质特征,提高地震相划分准确性。在地震相划分的基础上,在相内分别建立卷积+全连接神经网络模型进行储层参数预测。传统的神经网络其不同节点之间的连接方式均为点积运算,这种连接不利于充分挖掘数据内部的隐藏信息和压制噪音。本文在其基础之上,将卷积运算引入到神经网络结构中,采用卷积运算和内积运算相结合的连接方式。基于卷积+全连接神经网络结构,给出了网络参数算子的优化算法,并将其应用到储层参数预测过程中。该方法由于是完全的地震数据驱动,不受褶积模型的限制,可以得到高精度的储层预测结果。机器学习需要海量数据进行训练,但实际地震勘探中由于经济成本、勘探开发程度和技术条件等原因,可以用于机器学习的样本数量往往有限。因此本文将虚拟样本生成理论引入到储层预测中,综合利用极限学习机、数据趋势估计和超球特征方程等方法解决储层预测中的小样本问题。实际数据应用表明,利用虚拟样本和小样本集共同建模,能有效减少小样本建模的随机性,最大限度的接近充足样本建模结果。