远程内存直接访问技术（RDMA）正在被越来越多的应用到数据中心来获得更优异的性能表现。RDMA技术允许应用绕过远端CPU,直接访问远端机器的内存,并且通过将网络协议栈卸载到网卡和内核旁路的方式提供超低的延迟和更高的网络带宽。然而将数据中心里的分布式系统从以TCP/IP为主的网络通信架构迁移到RDMA通信架构并非易事,这主要由两方面造成,一方面是由于RDMA自身的限制造成的,尽管RDMA已经给开发者提供了一系列的接口来隐藏其背后的硬件和协议细节,以方便开发者更好的实现或改造应用的网络接口。但是开发者仍然需要花费大量时间和精力去测试和评估网卡这个“黑盒”的各方面的性能指标,从而去获取最优的网卡配置和理解RDMA商卡的一些行为和性能表现。我们通过实验发现了包括RDMA单边操作可扩展性,注册内存管理,缓存行对齐等在内的潜在的开销和风险。另一方面主要是RDMA在适配各类应用时缺乏灵活性的问题,保证尤其是当前多应用多用户的数据中心,各个应用用户对不同的性能指标有着不同的要求,但RDMA网卡将大量处理逻辑固化到硬件,有限的硬件Qo S能力无法有效完成对不同应用的性能隔离。我们也通过实验发现了当不同类型流量共享RDMA网络资源时,会发生严重的性能隔离问题。本文的第一个工作主要介绍现有的RDMA网卡的一些工作特性,以及对网卡性能的测试得出了现有RDMA潜在的问题,并且进一步分析这些潜在问题发生的原因,针对的提出了解决方案,包括无锁的QP共享设计提高了面向连接的RDMA传输的可扩展性,混合的内存管理方式将RDMA内存管理的额外开销降到最低,以及自动缓存行对齐策略保证了高效的PCIe传输。为了方便开发者更好的使用RDMA,本工作整合以上优化手段并向上层应用提供了一个高性能的RDMA中间件。本工作同样将RDMA中间件应用到当前流行的g RPC框架中,并且验证了RDMA中间件的在多线程多连接场景下的低延迟,高带宽以及在多达8000个应用连接场景并维持RDMA原有性能的高可扩展性。本文的第二个工作在硬件QoS能力有限的限制下,使用软件的方式来调度所有业务流量,通过测量并计算小消息在端上的排队延迟来量化大消息对于小消息的阻塞程度,同时根据小消息的延迟变化情况控制大消息的发送速率,同时保证网卡的利用率处于较高水平。本文使用的调度算法的好处在于:对于小消息仅仅测量计算其排队延迟,没有任何额外的调度开销,保证了小消息的低延迟,且在控制大消息发送速率保证小消息的延迟的同时,兼顾了维持较高的网卡利用率,保证了各种流量的服务质量。本文提出的Qo S调度算法可以在20台机器规模的集群中,在各种复杂的场景下,保证小消息的平均延迟和尾延迟低于20us,同时网卡的整体利用率高达90%以上。