近年来,随着移动通信的高速发展与相关业务的普及,世界范围内的频谱资源显得愈发紧张。空时编码技术有效地整合了时间分集和空间分集的长处,在保证分集增益的基础上获得了较高的通信数据传输效率,有效缓解了频谱资源的紧张压力。准正交空时分组码在牺牲部分正交性下具有可达满速率传输的优势,本文对其编码和译码展开了研究。在对准正交空时分组码进行了深入的研究和分析基础之上,提出了新的准正交空时分组码构造和改进的SD译码算法。首先,基于空时编码原理及准正交空时分组码特性,提出一种4根发射天线的QOSTBC。然后,利用Givens矩阵旋转方法对发射符号进行预处理,得到性能比传统编码更优的改进的准正交空时分组码。仿真实验证明新型的准正交空时分组码的误比特率有明显改善。其次,在TBH编码的基础上,提出了一种星座旋转TBH码。这种星座旋转TBH码编码采用旋转矩阵的方式消除新型编码非正交性带来的自干扰项。与传统的QOSTBC码相比,星座旋转TBH码在一定程度上降低其译码复杂度。同时,仿真实验证明,新TBH码的误码性能获得明显改善。最后,根据VB球译码的原理,本文提出了一种改进的VB-SD,其复杂度低于VB-SD。对于较大的星座图而言,从仿真结果可以看出新算法的搜索时间改善较为明显。尤其在低信噪比情况下,改进的VB-SD不仅提高了系统响应速度,而且降低了译码复杂度。