连续变量相干光通信是一种以高斯相干光作为信息载体的通信方式,其具有信号较强和易于检测等特点。但是,目前以光的幅度和相位作为调制参量并采用M-Z干涉系统的连续变量量子密钥分发(CVQKD)方案很难满足相干条件。另外,虽然理论上量子密钥分发协议具有无条件安全性,但是实际的连续变量量子通信(CVQC)系统的安全性问题仍然存在。为了克服上述难点,本文主要从两个方向进行研究:一是采用单光束传输方式,发送端用Stokes参量来进行偏振编码,接收端通过测量偏振光的强度来得到Stokes参量。二是关于连续变量测量设备无关的量子密钥分发(CV-MDIQKD)协议研究。首先,基于实验室已有的SO(3)型转换器进行具体的偏振编码方案研究,阐述用其来编码和解码的原理,采用Poincare球上的两个小区域作为编码区域,分析用Stokes参量S2和S3作为信号光和本振光的可行性。设计基于禁忌搜索原理的偏振编码控制算法,引进Mueller矩阵根分解法将偏振态的变换过程分解为SO(3)矩阵的n次微小变换,同时用一阶泰勒级数来拟合三角函数。通过八进制Stokes参量随机编码仿真,结果表明Stokes参量可以用于多进制偏振编码,且晶体两端的偏压在120V以内,降低了对电源电路的要求,因此该算法可以用于CVQC的编码控制过程。其次,基于CV-MDIQKD协议,用互信息法研究带有制备噪声的编码系统的鲁棒性。主要包括在集体攻击下对称与非对称系统中密钥率与传输距离、衰减比率的关系,以及单边攻击和双边攻击对密钥率的影响。仿真结果表明,制备噪声会减小信号的安全传输距离。通过衰减非校验方的模式能够抑制制备噪声,延长CV-MDIQKD系统的传输距离,打破了对称系统中的3-dB极限。因此在实验中可以通过衰减非校验方的模式来提高系统对制备噪声的鲁棒性。同时,由于制备噪声是实时变化的,本文设计一种鲁棒控制算法来抑制制备噪声。在传输距离一定时,该算法能够找出系统对衰减力度的最小要求,以此来保证通信的安全。