本文针对航空航天飞行器及其发动机主动再生冷却的需要,基于商用CFD软件FLUENT,通过用户编程进行二次开发,编制了一套能准确计算流体物性并且能考虑流/固耦合传热问题的数值计算软件。对低温甲烷在矩形冷却通道中超临界压力下的流/固耦合换热过程进行了三维数值模拟研究,仔细分析了热流密度、工作压力、入口速度及管道几何形状对低温甲烷在超临界压力下的流动和传热的影响,得到了流体速度、壁面温度、壁面热流密度、流体物性等参数的详细变化情况以及Nusselt数的变化规律。研究结果表明从冷却通道上壁面施加的热流会通过热传导传入侧壁面甚至下壁面,并且施加的热流密度越大,则经侧壁面传导的热流所占比例越高；随着入口压力增加,Nusselt数增大,说明提高压力可以起到强化超临界压力下低温甲烷的对流传热效果；在相同入口质量流量的条件下,减小冷却管道高宽比R值可以有效改善对流传热效果,但同时会造成流动压力损失的增大,因此冷却通道高宽比的选择需综合考虑传热与压力损失的影响,可以引入热性能参数作为参考；通过Nusselt数计算值与经验公式预测值的对比分析,发现修正的Jackson&Hall换热关系式能较好的适用于本文的各种工况,但在高热流密度和低速条件下其准确性会有所降低,数值计算值与预测值最大误差可能会达到20%以上。