岩土工程振动台试验中模型箱的边界效应直接影响试验数据的可靠性,在刚性模型箱侧壁内衬柔性材料已经成为减弱边界效应的一种重要方法。基于振型叠加法原理,建立土–箱–柔性材料集中质量模型,推导模型箱侧壁合理设置柔性材料参数的理论公式,并分析柔性材料的弹性模量、厚度、泊松比、密度、阻尼比变化对模型箱边界效应的影响。结果表明,当输入波及岩土体参数确定后,柔性材料的设计转化为求解不定方程。在输入波和岩土体参数下,采用所推导的理论公式与数值计算2种方法得出柔性材料最优弹性模量值的误差仅为3.3%,且该柔性材料参数下模型箱内土体的位移与自由场的最大误差仅为3.7%,说明运用公式求解的柔性材料参数对减弱刚性模型箱边界效应具有明显效果,理论公式在岩土工程振动台模型试验中模型箱边界的设计方面具有重要的参考价值。