随着数字音视频技术和消费类电子产品的发展，模拟广播已无法满足人们对声音质量和附加数据业务的需求。欧洲的DRM标准和美国的IBOC技术，实现了模拟AM广播的数字化。考虑到国情和数字化升级改造的成本，本文着重研究了可向下兼容现有AM广播带宽、模拟AM广播发射机和普通AM收音机的带内复合传输体制和系统，主要包括：　　 1、在现有的模拟AM广播框架下，提出了带内复合传输的方案，可不改变载波包络传输模拟音频的基本性质，利用载波相位调制数字信息；或者更进一步，用基带OFDM信号代替模拟音频对数字调相载波进行DSB-AM调制，以“数字边带”加“数字载波”的方式实现了AM频段“带内同频”的全数字化传输。　　 2、重点分析了EBPSK调制与解调方式，用于实现复合传输系统的“数字载波”。讨论了其采用二阶锁相环解调时鉴相器的输出结构，通过建立锁相环的线性化模型，对比分析了不同阻尼系数的相位阶跃误差响应和矩形相位误差响应，推导了理想状态下鉴相器输出波形的表达式，在包含窄带高斯噪声的条件下研究了EBPSK信号解调的最佳积分限取值和载波恢复中的输出相位噪声方差。　　 3、作为EBPSK的拓展，发明了正交UBSK调制和MPPSK调制，前者利用I、Q两路载波的正交性将EBPSK调制从二进制推广到四进制；而后者通过控制正弦载波相位跳变的位置，将EBPSK调制从二进制推广到M进制，二者均可进一步提高EBPSK调制的频谱利用率。　　 4、在此基础上，结合美国的IBOC标准并分析国外的包络、相位复合调制研究进展，依次提出了模拟音频与VMAK、OFDM与VMAK、模拟音频与EBPSK、OFDM与EBPSK等4套复合传输系统，包括“模拟边带/数字载波”和“数字边带/数字载波”的组合各两套，给出了每套系统的具体实现及其误码率性能，并结合美国FCC规定的发射功率谱掩模要求，分别采用Butterworth滤波器和Walker Q值滤波器对发送信号滤波，讨论了滤波器不同阶数及Q值对系统性能的影响。　　 5、考虑到AM广播的多径特性，重点研究了复合传输信号中“数字边带”即OFDM信号部分采取的信道估计技术。结合ETSI DRM标准分析了AM广播信道的多径效应，考虑到实际信道普遍存在的稀疏性，应用MP、OMP和SP等压缩感知算法进行信道估计，大大降低了导频数目，提高了频谱利用率，并通过分析导频的排布指出利用压缩感知算法精确估计信道，所需要的最少导频数目是信道稀疏度的2倍。