本项目是在公司实习期间完成的分布式限流和限制并发服务,目前已经完全上线并使用半年,稳定且准确。随着公司业务迅速发展,甚至支持了大型的节日宣发活动。如果没有一个限流和限制并发服务的支持,则会导致下游业务方无法承受突发的流量,引起业务雪崩。所以,必须开发一个限流和限制并发服务来支撑公司项目。对于限流服务而言,调研目前市面上的开源项目如Sentinel等都无法在高qps（每秒发送的请求个数）下支撑一个分布式的限流服务。而其他的解决方案大多是用Redis做单点进行限流,利用Redis的int类型自增方式,如果请求超过预设上限则限流。但是,使用Redis会有单点性能问题,所以市面上的解决方案都是在高qps下降级到单机限流,因此误差较大,无法满足大型节日宣发活动的需求。另外,对于限制并发服务而言,调研发现市面上目前甚至没有可以使用的分布式限制并发开源项目。所以,为了满足公司业务蓬勃发展的趋势,需要重新设计一套分布式限流和限制并发系统。本文介绍了分布式限流和限制并发系统的设计和实现,主要分为配置模块、分布式限流模块和分布式限制并发模块。配置模块主要用于提供给用户创建查看更新限流或限制并发配置,添加更新限流或限制并发值,以及是否进行机房同步等配置参数。为了支持分布式即多个客户端请求总和在配置的限流或限制并发数之下,则不能只把限流或限制并发值对应的变量或参数放在客户端机器上,必须使用独立的服务做整体限流或限制并发的统计。因此使得客户端和服务端之间的请求必须建立在网络通信的基础上,则需要考虑网络请求的延迟甚至失败情况下的一系列处理方式。所以,目前提供给用户两种自主选择处理方式。一种选择是全部放行,另一种方式是降级到单机限流的配置。在具体设计中,使用了本地限流或限制并发加服务端限流或限制并发,首先进行本地判断限流或限制并发是否通过,接着进行服务端判断限流或限制并发是否通过。同时利用了批量拉取和本地缓存的思想,借鉴了java自旋锁的原理,成功解决了开源项目和Redis无法处理高qps的问题。在具体实现中,使用了避免缓存击穿的Single Fight模型,用到了单例模式的dcl（double check lock）双重校验锁防止并发写入。同时,分类别使用到了大量读锁和写锁,避免了并发问题。另外,用到了一致性哈希协议的哈希环,保证同一个类别的请求发送到同一个机器上,确保了限流或限制并发的准确性。