|
|
51CTO旗下网站
|
|
移动端

保障系统高可用性之限流

我们经常可以看到各大云服务厂商号称自己的服务五个九,这里的五个九指的就是系统服务时间占整体时间的99.999%,按照一年来算的话,系统宕机时间必须小于5分16秒。

作者:编城之路来源:掘金|2020-05-21 14:10

我们经常可以看到各大云服务厂商号称自己的服务五个九,这里的五个九指的就是系统服务时间占整体时间的99.999%,按照一年来算的话,系统宕机时间必须小于5分16秒。对于某些核心系统而言,系统服务一旦宕机会给很多下游服务和客户带来影响,所以一个可靠的系统必须具备高可用性。今天主要谈谈和系统开发相关的--限流。

1.引言

首先,借用比较火的微服务中的概念,级联故障(Cascading failure),来说明限流的重要性。级联故障在计算机系统中,可以描述成,某个服务节点失败,而导致请求重新分配至其他服务节点,导致其他服务节点过载而相继失效的问题。

下图是wiki上,说明级联故障的图示。

1.1 避免资源消耗殆尽

我们如果把系统服务看做某种资源,比如掘金首页的信息流文章,由于服务器资源有限,所以很多情况下,我们做限流的主要目的是,为了能够尽可能地保证服务资源不被消耗殆尽,避免导致上面讲的级联故障的问题。

1.2 服务资源管理

有些时候,由于服务产品等级不同,可能需要对用户等级进行区分,进而控制各等级用户使用资源的层级,这也是限流的用武之地。典型的比如Saas多租户,对于普通客户来说,可能只能使用共享的服务资源,而对于付费购买的客户,可能会单独分配服务资源,这两者就需要使用限流进行资源分配。

1.3 避免开销成本

随着Serveless技术成熟,越来越多的产品迁移至无服务器架构上,这样做的优点很多,动态扩容可以合理利用服务器资源,避免过度浪费。然而,在不同的场景下,都可能会有突发流量的问题出现,比如某个点流量翻倍,但是持续时间很短,这个时候是否采用动态扩容就会造成服务成本的上涨,而限流可能是个更好的办法。

2.限流手段

相应地,限流方法也多种多样,针对不同的场景,其要求也不尽相同,而了解这些手段,可以方便后续的系统设计和决策。

2.1 非限流措施

通常情况下,对于系统设计而言,我们需要有个兜底的方案,也就是说即使限流手段都失败的情况下,系统依然能够将正常的错误系统和提示反馈出来。常见的系统过载时,系统服务可以设置固定超时时间,服务熔断来保证服务调用方获得服务异常原因(理论上讲,熔断属于限流的一种)。

2.2 服务降级

针对某些重要的服务,往往在面对大量负载时,需要将部分请求进行降级处理,因为某些情况下,数据库或计算资源是有限的,而单次请求计算又比较昂贵,这时就可以通过服务降级的方式,而降低系统的整体负载,比如:

如果服务返回的信息中包含大量内容,可以只将关键信息返回,其他信息不进行获取。

使用缓存结果替代真实结果,可能会出现数据的不一致性,但是满足了服务的高可用性,短暂情况下是可以允许的。

甚至直接返回固定的结果,这个策略反而很多时候简单粗暴,可以大大降低系统的复杂度。

2.3 延迟处理

在某些内部系统中,部分请求的实时性不高,或者不需要返回结果的情况下,系统面对高负载时,可以进行延迟处理,也是变相地降低某个时间段内系统处理的频率。简单的做法,可以是延迟一段时间进行处理;更多的时候,需要使用消息系统做任务的转存,方便任务处理失败或超时情况下的重试。

2.4 服务限流

对于大部分场景而言,可能需要我们对服务的请求负载进行限流处理,保证系统负载平稳,正常。常见的限流方法如下:

计数器方式,其主要想法是通过维护计数,来保证系统运行时,不会出现过多的服务请求。

漏桶算法,漏桶算法相比计数器方式而言,增加了匀速处理流程,保证系统处理速度在过载情况下,仍然能够匀速进行。

令牌桶算法,令牌桶算法,则是将服务请求抽象为资源,通过系统生成令牌的方式,保证系统在某个时刻处理固定的令牌数请求,达到保护系统的目的。

固定时间窗口方式,该方法是通过指定某个固定的时间窗口内,系统可以处理的固定请求数来达到保护系统的目的。

滑动窗口方式,该方法可以解决固定时间窗口的缺陷,在固定时间窗口中,存在突发流量不能平滑处理的问题,比如,固定时间窗口是一分钟最多处理一千次请求,而在后续的一秒钟内,系统接收到两千次请求,就会出现后续的一千次请求需要等待到下一个时间窗口上去。而滑动窗口通过将窗口分成若干小间隔,保证每个小间隔都能处理适当的请求,可以让系统在面对突发的流量下,负载更加平滑。

动态限流,该类限流主要的优点在于,可以根据系统运行期状态,动态调整限流规则。有些类似TCP拥堵算法,通过算法流程进行限流控制;有些则参考历史负载情况,对于短期负载进行智能适应。

上述具体算法详解与实现过程,详见下篇文章《保障系统高可用性 之 限流(二)》

问题

常说“不要过早优化”,而限流等手段却是需要在系统设计时就要考虑的,这两者的关系如何权衡?

不同的限流算法,对系统负载的影响如何,如何根据系统场景来选择合适的限流算法?

作者:编城之路

链接:https://juejin.im/post/5eb959c9e51d451b2e0332ea

来源:掘金

【编辑推荐】

  1. 为什么中国开发不出流行的操作系统和编程语言?
  2. 监控系统哪家强?EMonitor与 CAT 大比拼!
  3. 从零搭建一个基于ELK的日志、指标收集与监控系统
  4. 使用FreeBSD作为桌面操作系统
  5. 对构建系统进行容器化的指南
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢
24H热文
一周话题
本月获赞

订阅专栏+更多

云计算从入门到上瘾

云计算从入门到上瘾

传统IT工程师的转型
共26章 | 51CTO阿森

197人订阅学习

从头解锁Python运维

从头解锁Python运维

多维度详解
共19章 | 叱诧少帅

345人订阅学习

Active Directory 架构规划实战

Active Directory 架构规划实战

4类AD架构规划
共15章 | wx5918591c0084b

324人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微