流体模拟作为计算机图形学的一个重要分支,在诸如影视特效、电子游戏、制作动画以及医学成像等方面都有广泛的应用,而多相流模拟是流体模拟的一个重要的研究方向。在多相流模拟中,如何解决不相溶两相流交界面稳定性问题、大密度比两相流（如气-液两相流）交界面的表面张力的研究、以及如何提高多相流邻近粒子搜索方法的效率都是多相流模拟研究中的重点和难点;相关研究不但具有一定的理论意义,而且具有较强的实际应用价值。本文首先介绍了不相溶两相流界面压力处理,大密度比多相流交界面的表面张力和邻近粒子搜索研究的背景、研究意义以及国内外相关研究的历史沿革和现状;在此基础上,针对上述三个问题,做了以下三方面工作:一、传统SPH方法模拟不相溶两相流（如水和油）,两相流交界面处因剧烈的数值震荡导致交界面粗糙,不光滑,异相粒子滞留的现象。针对这个问题,本文提出一种改进的压力梯度公式和人工斥力公式;通过溃坝仿真实验、Rayleigh-Taylor界面不稳定性仿真实验、非Boussinesq锁定交换仿真实验,仿真结果验证了本文新的压力梯度公式和人工斥力公式的有效性。二、传统SPH方法模拟大密度比两相流（如气-液两相流）一些曲率较大的交界面的表面张力时,由于色标函数计算中的颜色梯度跳跃导致交界面细节的缺失,交界面毛糙等现象,针对这个问题,本文提出一种基于密度权重的色标函数计算公式;空气中圆形液滴形成仿真实验的结果,验证了本文方法的有效性。三、多相流模拟中,邻近粒子搜索耗时较多,如何提高多相流模拟邻近粒子搜索效率的研究较少。本文在这方面进行了初步探索:首先对直接搜索法、树形搜索法,条形PIB搜索法三种常用的单相流邻近粒子搜索算法进行了比较全面的整理,通过单相流二维溃坝实验,对上述三种算法的耗时和准确率进行了比较;然后通过多相流碰撞实验,寻找效率最高的多相流模拟邻近粒子搜索算法,为今后进一步优化多相流模拟邻近粒子搜索打下基础。