数字OAM(Quadrature Amplitude Modulation)调制技术因其频谱利用率高、抗干扰能力强等优点被广泛应用于数字电视等广播通信领域。在QAM传输系统中，数字解调器所采用的解调算法与VLSI(Very Large Scale Integration)实现是保证高速、稳定传输数据的关键。因此，本文主要研究的是OAM数字解调算法和VLSI结构优化与实现。通过对解调算法的改进，最大限度地消除信道对信号的干扰，提高OAM解调器的性能和稳定性。算法到芯片实现过程中，在确保解调性能的同时，通过优化VLSI实现结构，降低电路实现的复杂度。 首先，本文建立了QAM传输系统的MATLAB算法模型。分析研究了影响QAM解调器性能的主要因素。然后，针对采样和频率偏差大、且信道失真严重时的QAM解调器工作稳定性问题，对QAM解调器的组成模块和控制策略进行算法层面的设计和改进：1)采用最佳平方逼近算法拟合数字频率合成器的正余弦三阶多项式，其SFDR小于-75dBc；2)利用均衡器输出误差补偿信号增益，采用这种方法设计的后置AGC电路不仅不需要传统的增益检测模块，而且增益补偿捕捉速度比传统AGC快一倍以上；3)改进了基于符号率的M&M码元误差检测算法，扩大了码元同步环路的采样定时偏差捕捉范围；4)通过在载波恢复环路中的积分环路上增加一路寄存器实现扫频功能，解决了因均衡器延迟和频偏过大对QAM解调器性能的影响：5)用分阶段控制策略有效地解决了码元同步与载波偏移之间，均衡与码元同步环路之间以及均衡和载波恢复环路之间的影响。最后，设计了QAM解调器芯片，并对关键模块的VLSI结构进行了优化。采用NUS算法量化了数字滤波器的系数，使其具有良好的频率空间特性。通过复用、折叠等技术，在确保解调器的性能的前提下，降低了电路实现的复杂度。芯片采用0.25μm CMOS工艺设计，面积为4.2×4.2mm<'2>。 本文芯片已通过Charted流片验证。芯片测试结果表明，QAM解调器的动态增益范围为-75～+7dBm，载波捕捉范围±15％Fs，采样定时偏差的捕捉范围+400ppm，功率消耗为400mW@6.9MBaud。该芯片完全可以满足QAM接收系统要求，并已经成功完成了数字有线电视的接收。