传统雷达系统的信号处理主要集中在接收端,缺少发射-接收反馈机制,难以自适应地与工作场景进行感知与交互。认知雷达作为新体制雷达,构建了包含雷达发射端、接收端、目标与环境的闭环反馈结构。该结构充分利用接收端对目标与环境进行动态感知,进而根据反馈信息设计发射端工作参数,从而全方位提高雷达性能。将认知理论与逆合成孔径雷达(ISAR)成像理论相结合,为提升复杂环境下的ISAR成像性能提供了新思路。本文重点针对认知ISAR中的波形设计、高分辨成像、雷达资源调度等关键问题与难点开展研究工作。在波形设计方面,系统研究了线性调频波形、步进频波形、稀疏步进频波形、调频步进波形的高分辨成像方法。进一步针对复杂电磁环境观测问题,研究了基于最大互信息准则、联合准则的波形优化与优化波形的高分辨ISAR成像方法。在高分辨成像方面,针对稀疏调频步进波形构造了ISAR稀疏观测模型与贝叶斯概率图模型,提出基于贝叶斯非参数的机动目标低信噪比高分辨ISAR成像与运动参数估计方法。在资源调度方面,提出新的资源调度评价指标,根据时间与能量约束条件建立了基于认知ISAR成像的资源调度模型,并采用遗传算法进行优化求解。论文相关研究工作将为提升我国ISAR的太空目标探测与成像能力,促进雷达成像技术向“智能化”、“体系化”发展提供理论与技术支撑。本文主要内容可概括为如下四个部分:第一部分研究了调频波形及高分辨成像方法。首先,分别建立了线性调频波形、步进频波形、稀疏步进频波形、调频步进波形的ISAR回波模型。然后,研究了四种波形的高分辨距离像合成方法,进而实现了二维高分辨ISAR成像。最后,通过仿真实验证明了相关方法的有效性。第二部分研究了认知ISAR波形优化及高分辨成像方法。首先,分别建立了基于最大互信息准则及联合准则的波形优化问题模型,并提出相应的模型求解方法。然后,针对传统方法对优化波形ISAR成像时主瓣展宽及旁瓣高等问题,对优化波形对应回波进行稀疏建模,进而采用正交匹配追踪(OMP)等稀疏信号重构算法实现高分辨ISAR成像。最终,通过仿真实验验证了所提方法的有效性。第三部分研究基于稀疏调频步进波形的机动目标低信噪比高分辨ISAR成像方法。首先,建立了稀疏调频步进波形的回波模型,通过构建参数化字典将目标运动参数估计与高分辨距离像合成相结合。然后,提出基于遗传算法与贝叶斯非参数先验的低信噪比运动补偿与高分辨ISAR成像方法。最后,通过蒙特卡洛实验分别验证了运动参数估计算法及稀疏波形重构算法的鲁棒性,并采用仿真及实测数据验证了所提方法的有效性。第四部分研究了认知ISAR资源优化调度方法。首先,提出了新的资源调度评价指标。进而,根据各个任务所需资源及资源调度中的时间、能量约束条件构造新的认知ISAR资源调度模型,提出基于遗传算法的求解方法。最后,采用仿真数据验证了所提方法的有效性。