随着大数据时代的快速发展,数据的规模、类型、复杂程度高速变化、高速增长使得云计算成为解决数据高效的计算与管理所必不可少的基础性设施。然而,数据在云端进行计算存储在给我们带来巨大便利的同时,也必然会伴随着不可忽视的隐私风险和安全隐患。当企事业单位将其数据外包到公有云上进行存储和计算时,其数据安全可能会受到云服务提供商侧的侵害,比如任何拥有服务器控制权的内部人员,或者在同一云上运行的恶意程序,给用户带来极大的数据安全风险。为了解决这一问题,许多学术研究都试图建立一种可以防止攻击者获取用户明文数据的密态数据库系统。采用同态加密或者混淆电路等纯密码学（软件）的解决方案虽然广泛的应用于现行的计算机系统,但是需要引入巨大的计算开销,并且仅能支持有限的运算操作;另一种研究思路采用可信计算环境,将敏感数据放到隔离的安全区域中进行查询与计算,但是可信执行环境一般会有一定的计算限制条件,例如SGX会对安全内存的大小有限制,超过其限制会导致高昂的计算开销。虽然这些研究都在一定程度上解决了部分云上数据的隐私安全问题,但距离满足实际应用需求还相去甚远。本文重点研究了基于可信执行环境的密态数据库中密文查询优化的相关问题。在已有的纯软件密态数据库系统的实现基础之上,引入SGX来加速密态数据库系统的整体效率。可信硬件背景下的密态数据库系统会面临许多挑战,例如密钥管理,查询执行效率和可信函数调用等问题,本文围绕SGX技术特性设计了一系列的解决方案来解决关键问题和优化系统性能。针对纯可信硬件或者纯软件实现的密态数据库版本中UDF计算性能不足的问题,本文提出了一种软硬结合协同自适应的UDF计算框架,该框架可以有效地将密态数据库系统的纯软件实现和纯硬件实现相结合,相互取长补短,最终实现一个高性能的密态数据库系统。在协同算法的设计中,实现了可以近似动态探测SGX安全内存空间余量的功能,以支持UDF计算时的动态调度决策,并且分析建立了软硬执行路径的代价估计模型,使决策效果更加精准,提高了密态数据库系统的整体计算查询效率。针对密态数据库中对密钥管理的需求,本文设计了基于SGX远程认证的密钥传输协议与管理工具,通过密钥传输协议,用户可以将自己的主密钥和其他用于密钥派生的其他信息安全的传输到SGX安全内存中。在安全内存中,采用HKDF依据主密钥和额外信息派生出各个加密列的加密密钥,用于后续的UDF计算。本文对密态数据库系统的实现做了进一步的研究和优化。比如在安全内存中部署缓存模块以加速UDF计算的执行效率。在高并发场景下,设计了ECALL任务池来针对性的加速密态数据库系统的性能表现,其性能优于原生的SGX Switchless Call技术,并且可以根据并发量来实时调节任务池大小与工作线程数。根据实验结果表明,软硬件结合的密态数据库系统,相比于纯软件的实现,在TPC-C的测试中,QPS提升了大约110%,与传统数据库相比,吞吐量下降控制在5倍以内。