量子控制是对量子体系进行研究和应用的重要手段,在核磁共振成像、光谱学、化学反应精确控制,以及包括量子计算、量子通信、量子传感在内的量子信息科学等各领域都具有重要的应用价值。量子优化控制理论（quantum optimal control theory,QOCT）基于量子物理、优化理论、数值计算等诸多学科的研究内容,目的是解决量子系统的可控制性与优化控制设计的问题,提高量子控制的效率。在众多物理平台中,金刚石中的氮-空位色心（NV色心）以其在室温下具有较长的相干性、易于进行光学制备和读取、对生物无毒性等良好特性,成为量子信息科学向实用化推进的重要载体之一。本论文的研究内容主要涉及金刚石中氮-空位色心的量子优化控制,具体包括针对单个氮-空位色心系统的光学优化控制以及针对氮-空位色心系综的优化控制两个部分。对于单个氮-空位色心系统,相比于微波控制场,激光控制场能够更精确地对氮-空位色心施加局域控制,提高空间分辨率。激光能够实现氮-空位色心基态与激发态之间的耦合,使系统以相对较快的速度完成演化。在此过程中,氮-空位色心复杂的能级结构以及激发态上的布居数跃迁会缩短体系的相干时间。通常使用的受激拉曼绝热过程（stimulated Raman adiabatic passage,STIRAP）在有效延长系统相干时间的同时,限制了系统完成演化的最短时间。我们利用量子优化控制方法对激光场的幅度进行优化,与STIRAP相比,将演化末态达到相同保真度（>0.9）时的最短演化时间减小了两个数量级。在激光的最大幅度对应的拉比频率低于10 GHz的条件下,最优控制场可以在演化时间为T=1 ns时,使系统的末态保真度达到0.984,并且对激光强度涨落与频率波动具有较好的鲁棒性。在激光脉冲控制精度较低、脉冲宽度增加的条件下,优化方法给出的T=1 ns时的演化末态保真度保持在0.972。这一结果说明我们的优化方案具有较高的实验可行性,能够促进氮-空位色心快速高精度全光控制技术的发展。由于系统与环境相互耦合,局域的环境差别造成氮-空位色心系综整体上受到非均匀展宽噪声的影响。针对非均匀展宽噪声下的氮-空位色心系综,我们提出一种对基矢进行相位调制（phase modulated）的PM优化方法。当以量子态的转移作为优化目标时,与在截断随机基矢法（chopped random-basis,CRAB）方法中广泛使用的标准傅里叶展开基（SFB）方法及其变式SFB-P2方法相比,PM方法将相同约束条件下达到同等优化效果的优化时间缩短了一个数量级。同时,在初始值个数相同时,PM方法找到全局最优解的能力远高于SFB-P2方法。将PM方法应用到量子逻辑门的优化控制中,可以提升脉冲宽度受限情况下动力学解耦序列的效果,增加测量交变磁场时的信号灵敏度。PM方法丰富了以CRAB方法为代表的参数化优化方法,是处理系综优化控制问题的有力工具,未来有望在磁场测量、多体控制等方面发挥更多作用。