非定常空化流动作为水动力学领域的研究热点，是具有重大工程应用背景的前沿基础问题。空泡脱落溃灭等引起的剧烈压力脉动，是影响水下发射等高速航行体载荷的主要控制因素。空化流动导致的振动、噪声和空蚀等现象也备受关注。实际工程中的空化经常发生在具有复杂外形的高速航行体或水力机械部件表面，包含各种复杂壁面边界条件的影响，涉及到湍流、多相相变、复杂几何边界、流固耦合等关键难点，需要深入开展研究。　　本文关注的典型复杂壁面条件包括具有小间隙的复杂形状壁面、运动壁面和流固耦合壁面等。壁面附近流动中旋涡与空泡相互作用，能够形成新的流动特征;旋转机械等周期性运动壁面附近空化流动中往往出现梢涡空泡以及周期性压力脉动等问题，旋涡和空泡演化规律更加复杂，实验观测以及数值模拟难度更大;柔性部件附近需要考虑流固耦合的空化流动中，空泡脱落引起的载荷波动以及局部空泡溃灭产生的高频激励与结构振动紧密耦合在一起，使得耦合规律比通常的单相涡激振动更为复杂。本文通过复杂几何壁面、运动壁面、流固耦合壁面三类典型复杂壁面边界条件下非定常空化流动机理性研究，从而系统地总结特征规律，为解决相关工程问题提供支撑。具体包括以下内容:　　(1)针对复杂几何壁面边界条件空化流动，本文开展了近壁面轴对称空化流动的实验与数值模拟研究。基于SHPB(Split Hopkinson Pressure Bar)发射系统进行了水下发射实验，发现了近壁面轴对称航行体空化流动的两种流型。一种是近壁面侧空泡变长、两侧脱落不同步的非对称空泡，另一种发生了近壁面侧局部脱落现象。两种流型相对于原有的轴对称空泡流型，在本文研究的云状空泡条件下分别以约一倍和1/2倍直径为转换距离。基于开源软件OpenFOAM的空化相变流动求解器，结合大涡模拟方法（large eddy simulation，LES）、VOF(Volume of Fluid)方法以及模拟相变过程的空化传质模型，对实验中的非定常空化流动进行精细数值模拟。通过实验和数值模拟对两种流型形成原因及演化机理进行分析，揭示了近壁面强约束作用产生堵塞效应的影响机制，获得局部空泡脱落过程中回射流、空泡与旋涡运动相互作用特征。　　(2)针对运动壁面边界空化流动，本文以经典的船舶尾流螺旋桨空化流动为对象，开展了非均匀来流条件下大侧斜螺旋桨非定常空化流动研究。在前述空化流动数值模拟方法基础上引入旋转动网格以及滑移面插值技术，将LES方法应用到螺旋桨空化数值模拟中。获得了桨叶经过高伴流区过程中空泡初生、生长、脱落到渍灭的演化现象，与实验吻合良好。通过对数值模拟获得的详细流场结果进行分析，归纳了典型空化数条件下非均匀来流中大侧斜螺旋桨空化主要控制因素，总结了空泡演化与旋涡结构相互作用机理及其对压力脉动的影响规律。　　(3)针对流固耦合壁面边界条件空化流动，本文将空化流动与经典的圆柱绕流涡激振动问题相结合，对空化流动中流固耦合特征规律进行研究。通过量纲分析推导了空化流动中圆柱涡激振动问题中的主要控制参数。在已有OpenFOAM中空化流动求解器基础上，开发了采用松耦合方法的高效率空化流动流固耦合数值模拟程序，对空化流动中圆柱涡激振动进行数值模拟研究;获得空化流动中圆柱振动主要控制参数频率比作用规律，分析了关键频率比1.0附近区域的锁频特征;并通过对比有无空化影响下的涡激振动特征，分析了空化现象对涡激振动影响规律。