Redis-02-缓存雪崩,缓击穿,缓存穿透

Ref

缓存异常的3个问题

设计一个缓存系统,就会面对缓存异常的3个问题

  1. 缓存雪崩
  2. 缓存击穿
  3. 缓存穿透
分类 原因
缓存雪崩 1.大量缓存数据同时过期;2.redis故障
缓存击穿 热点数据缓存过期
缓存穿透 数据既不在缓存,也不在数据库

缓存雪崩

产生原因

  1. 大量缓存数据在同一时间过期或失效
  2. Redis 故障宕机

解决办法

1.均匀设置过期时间,避免同一时间过期

避免将大量的数据设置成同一个过期时间。对缓存数据设置过期时间时,可以给过期期时间加上一个随机数,这样就可以保证数据不会在同一时间过期。

setRedis(Key,value,time + Math.random() * 10000);
复制代码

2.互斥锁

使用互斥锁,保证同一时间内只有一个请求来构建缓存(从数据库读取数据,再将数据更新到 Redis 里)。当缓存构建完成后,再释放锁。

未能获取互斥锁的请求,要么等待锁释放后重新读取缓存,要么就返回空值或者默认值。

实现互斥锁的时候,最好设置超时时间,不然第一个请求拿到了锁,然后这个请求发生了某种意外而一直阻塞,一直不释放锁,这时其他请求也一直拿不到锁,整个系统就会出现无响应的现象。

3.双key策略

对缓存数据使用两个 key,一个是主 key,会设置过期时间;一个是备 key,不会设置过期。它们只是 key 不一样,但 value 值是一样的,相当于给缓存数据做了个副本。

当业务线程访问不到主 key 的缓存数据时,就直接返回备 key 的缓存数据,然后在更新缓存的时候,同时更新主 key 和备 key 的数据。

4.后台更新缓存,定时更新或使用消息队列通知更新

业务线程不再负责更新缓存,缓存也不设置有效期,而是让缓存“永久有效”,并将更新缓存的工作交由后台线程定时更新。

事实上,缓存数据不设置有效期,并不是意味着数据一直能在内存里。因为当系统内存紧张的时候,有些缓存数据会被“淘汰”,而在缓存被“淘汰”到下一次后台定时更新缓存的这段时间内,业务线程读取缓存失败就返回空值,业务的视角就以为是数据丢失了。

解决上面的问题的方式有 2 种。

  1. 第1种方式,后台线程不仅负责定时更新缓存,而且也负责频繁地检测缓存是否有效。检测到缓存失效了,原因可能是系统紧张而被淘汰的,于是就要马上从数据库读取数据,并更新到缓存。

这种方式的检测时间间隔不能太长,太长也导致用户获取的数据是一个空值而不是真正的数据,所以检测的间隔最好是毫秒级的。但是总归是有个间隔时间,用户体验一般。

  1. 第2种方式,在业务线程发现缓存数据失效后(缓存数据被淘汰),通过消息队列发送一条消息通知后台线程更新缓存;后台线程收到消息后,在更新缓存前可以判断缓存是否存在,存在就不执行更新缓存操作;不存在就读取数据库数据,并将数据加载到缓存。这种方式相比第一种方式缓存的更新会更及时,用户体验也比较好。

在业务刚上线的时候,我们最好提前把数据缓起来,而不是等待用户访问才来触发缓存构建,这就是所谓的 「缓存预热」。后台更新缓存的机制刚好也适合干这个事情。

5.服务熔断

因为 Redis 故障宕机而导致缓存雪崩问题时,我们可以启动服务熔断机制,暂停业务应用对缓存服务的访问,直接返回错误,不用再继续访问数据库,从而降低对数据库的访问压力,保证数据库系统的正常运行,然后等到 Redis 恢复正常后,再允许业务应用访问缓存服务。

6.请求限流

启用请求限流机制,只将少部分请求发送到数据库进行处理,再多的请求就在入口直接拒绝服务,等到 Redis 恢复正常并把缓存预热完后,再解除请求限流的机制。

7.通过主从节点的方式构建Redis缓存高可靠集群

通过主从节点的方式构建 Redis 缓存高可靠集群。

如果 Redis 缓存的主节点故障宕机,从节点可以切换成为主节点,继续提供缓存服务,避免了由于 Redis 故障宕机而导致的缓存雪崩问题。

缓存击穿

产生原因

  1. 热点数据缓存过期

如果缓存中的某个热点数据过期了,此时大量的请求访问了该热点数据,就无法从缓存中读取,直接访问数据库,数据库很容易就被高并发的请求冲垮,造成缓存击穿。

可以发现缓存击穿跟缓存雪崩很相似,可以认为缓存击穿是缓存雪崩的一个子集。

解决办法

1.互斥锁

同「缓存雪崩」的「互斥锁」解决方案。

不给热点数据设置过期时间,由后台异步更新缓存,或者在热点数据准备要过期前,提前通知后台线程更新缓存以及重新设置过期时间

2.不给热点数据设置过期时间,由后台异步更新缓存

不给热点数据设置过期时间,由后台异步更新缓存。

缓存穿透

产生原因

当发生缓存雪崩或击穿时,数据库中还是保存了应用要访问的数据。一旦缓存恢复相对应的数据,就可以减轻数据库的压力,而缓存穿透就不一样了。

当用户访问的数据,既不在缓存中,也不在数据库中,导致请求在访问缓存时,发现缓存缺失,再去访问数据库时,发现数据库中也没有要访问的数据,没办法构建缓存数据,来服务后续的请求。那么当有大量这样的请求到来时,数据库的压力骤增,这就是缓存穿透的问题。

缓存穿透的发生一般有这2种情况

  1. 业务误操作,缓存中的数据和数据库中的数据都被误删除了,所以导致缓存和数据库中都没有数据
  2. 黑客恶意攻击,故意大量访问某些读取不存在数据的业务

解决办法

1.限制非法请求

在接口调用时候,判断求请求参数是否合理,请求参数是否含有非法值,请求字段是否存在等情况。如果判断出是恶意请求就直接返回错误,避免进一步访问缓存和数据库。

2.缓存空值或者默认值

当线上业务发现缓存穿透时,可以针对查询的数据,在缓存中设置一个空值或者默认值,这样后续请求就可以从缓存中读取到空值或者默认值,返回给应用,而不会继续查询数据库。

3. 使用布隆过滤器快速判断数据是否存在

使用布隆过滤器快速判断数据是否存在,避免通过查询数据库来判断数据是否存在。