煤层气是一种潜在的高效清洁能源。在我国，煤层气在采煤过程中通常会与空气混合，经预处理脱除氧、二氧化碳、硫化氢等杂质后，其主要成分是甲烷和氮气。煤层气的液化是其存储和利用的一个较好选择。一般情况下，煤层气的液化流程是在超临界压力下进行，因此甲烷及甲烷/氮混合物在超临界压力下的冷却换热过程是煤层气液化流程中必不可少的一个环节。本文采用实验研究、理论分析和数值模拟相结合的方法对超临界甲烷及甲烷/氮混合物的冷却换热进行深入研究，主要完成以下研究内容：（1）推导并求解了甲烷/氮混合物的密度、定压比热容、粘度和导热系数。在密度和定压比热容的求解中，反算了PR状态方程的二元交互系数kij，并回归了kij关系式。对比计算了基于PR状态方程和对应态原理的粘度模型，结果表明，基于PR状态方程的粘度模型计算较为准确。基于对应态原理的导热系数模型计算结果较好。（2）实验研究了水平管内超临界甲烷及甲烷/氮混合物的冷却换热特性，分析了不同质量流量、入口压力及含氮量对换热的影响。结果表明，超临界甲烷及甲烷/氮混合物的对流换热系数随温度的降低先增大，在准临界点附近达到最大值，然后随温度降低而减小。在恒定的压力下，甲烷的对流换热系数随着质量流量的增加而增大。在恒定质量流量下，随着入口压力的增加，甲烷的对流换热系数向高温方向平移，且最大对流换热系数随入口压力的增加而减小。在恒定质量流量和入口压力下，随着含氮量的增加，对流换热系数向低温方向平移，且最大对流换热系数随含氮量的增加而减小。含氮量对甲烷换热的实验研究说明超临界甲烷/氮混合物的对流换热主要是受其物性的影响。（3）综述并分析了公开发表的超临界流体冷却换热的关联式，并与已有的实验数据进行对比。结果表明，当热流密度较小时，大多数关系式与实验数据吻合较好；而当热流密度较大时，由于浮升力对换热的影响，几乎所有的关系式都不能准确预测对流换热系数。综合前人的研究结论，归纳出超临界流体冷却换热的影响因素，并根据量纲分析法，将其影响因素转化为无量纲形式。通过回归甲烷和甲烷/氮混合物的实验数据，开发出换热关系式。（4）数值计算了水平圆管及竖直圆管内超临界CO₂、甲烷及甲烷/氮混合物的冷却换热特性。结果表明，LB低雷诺数湍流模型的计算结果最为准确。在水平圆管的超临界CO₂冷却换热研究中，当Gr/Re²0.01时，强制对流是主要的换热机理；当0.01<Gr/Re²0.1时，自然对流和强制对流组成的混合对流占主导地位，超临界CO₂换热得到加强；当Gr/Re²0.1时，自然对流是主要的换热机理，强制对流忽略。在竖直圆管的超临界CO₂冷却换热研究中，浮升力使得上升流中的换热加强，而使下降流中的换热受损。上升流中的流速曲线呈抛物线型，而下降流中，由于浮升力的影响，速度曲线发生扭曲。在水平圆管的超临界甲烷冷却换热研究中，浮升力作用使得流体在圆管截面处形成二次回流，上壁面换热得到加强，而下壁面换热受损。其换热机理类似于竖直圆管内不同流向时的换热现象，即上壁面换热相当于浮升力抑制混合对流，而下壁面换热相当于浮升力辅助混合对流。在四种浮升力对换热影响的评判标准中，采用表达式Gr/Re^2.710^-5和Gr/Re²10^-2作为浮升力对换热影响较小的标准相对较好。在竖直圆管的超临界甲烷冷却换热研究中，当浮升力作用较大时，在近临界点处的截面上，上升流速度矢量图，流体从近壁面流向中心区，使得中心区的速度加大，湍流强度加强，换热得到加强；而下降流速度矢量图，流体从中心区流向近壁面，使得中心区的流速明显扭曲，湍流强度减弱，因此换热亦受损。当浮升力作用较小时，水平管和竖直管内的换热密度几乎完全重合，这说明重力作用对换热的影响亦忽略，LB低雷诺数模型的计算结果与Gnielinski关系式吻合较好。在水平圆管和竖直圆管的超临界甲烷及甲烷/氮混合物数值模拟研究中，热流密度、含氮量和入口压力对换热的影响再次表明临界区物性是影响超临界流体换热的主要因素。