博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
接口限流实践
阅读量:5894 次
发布时间:2019-06-19

本文共 2118 字,大约阅读时间需要 7 分钟。

  hot3.png

一、问题描述  

  某天A君突然发现自己的接口请求量突然涨到之前的10倍,没多久该接口几乎不可使用,并引发连锁反应导致整个系统崩溃。如何应对这种情况呢?生活给了我们答案:比如老式电闸都安装了保险丝,一旦有人使用超大功率的设备,保险丝就会烧断以保护各个电器不被强电流给烧坏。同理我们的接口也需要安装上“保险丝”,以防止非预期的请求对系统压力过大而引起的系统瘫痪,当流量过大时,可以采取拒绝或者引流等机制。 

二、常用的限流算法

      常用的限流算法有两种:漏桶算法和令牌桶算法。

      漏桶算法思路很简单,水(请求)先进入到漏桶里,漏桶以一定的速度出水,当水流入速度过大会直接溢出,可以看出漏桶算法能强行限制数据的传输速率。

图1 漏桶算法示意图

      对于很多应用场景来说,除了要求能够限制数据的平均传输速率外,还要求允许某种程度的突发传输。这时候漏桶算法可能就不合适了,令牌桶算法更为适合。如图2所示,令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。

图2 令牌桶算法示意图

三、限流工具类RateLimiter

   Google开源工具包Guava提供了限流工具类RateLimiter,该类基于令牌桶算法来完成限流,非常易于使用。RateLimiter类的接口描述请参考:,具体使用请参考:。

      下面是主要源码:

public double acquire() {        return acquire(1);    } public double acquire(int permits) {        checkPermits(permits);  //检查参数是否合法(是否大于0)        long microsToWait;        synchronized (mutex) { //应对并发情况需要同步            microsToWait = reserveNextTicket(permits, readSafeMicros()); //获得需要等待的时间         }        ticker.sleepMicrosUninterruptibly(microsToWait); //等待,当未达到限制时,microsToWait为0        return 1.0 * microsToWait / TimeUnit.SECONDS.toMicros(1L);    }private long reserveNextTicket(double requiredPermits, long nowMicros) {        resync(nowMicros); //补充令牌        long microsToNextFreeTicket = nextFreeTicketMicros - nowMicros;        double storedPermitsToSpend = Math.min(requiredPermits, this.storedPermits); //获取这次请求消耗的令牌数目        double freshPermits = requiredPermits - storedPermitsToSpend;        long waitMicros = storedPermitsToWaitTime(this.storedPermits, storedPermitsToSpend)                + (long) (freshPermits * stableIntervalMicros);         this.nextFreeTicketMicros = nextFreeTicketMicros + waitMicros;        this.storedPermits -= storedPermitsToSpend; // 减去消耗的令牌        return microsToNextFreeTicket;    }private void resync(long nowMicros) {        // if nextFreeTicket is in the past, resync to now        if (nowMicros > nextFreeTicketMicros) {            storedPermits = Math.min(maxPermits,                    storedPermits + (nowMicros - nextFreeTicketMicros) / stableIntervalMicros);            nextFreeTicketMicros = nowMicros;        }    }

 

 

 

转载于:https://my.oschina.net/chaun/blog/493340

你可能感兴趣的文章
.net请求Webservice简单实现天气预报功能
查看>>
Loj #3056. 「HNOI2019」多边形
查看>>
正则表达式匹配非需要匹配的字符串(标题自己都绕晕了)
查看>>
沙盒目录介绍
查看>>
260. Single Number III
查看>>
《C语言》-(流程控制:顺序结构、选择结构、循环结构)
查看>>
Hadoop生态圈-Kafka的完全分布式部署
查看>>
《玩转Django2.0》读书笔记-探究视图
查看>>
SOCK_STREAM & SOCK_DGRAM
查看>>
css的border的solid
查看>>
div+css实现window xp桌面图标布局(至上而下从左往右)
查看>>
0-1 背包问题
查看>>
运行Maven是报错:No goals have been specified for this build
查看>>
Haskell 差点儿无痛苦上手指南
查看>>
[MODx] Build a CMP (Custom manager page) using MIGX in MODX 2.3 -- 1
查看>>
NTP 服务器配置
查看>>
jQuery自动完成点击html元素
查看>>
[算法]基于分区最近点算法的二维平面
查看>>
linux在文件打包和压缩
查看>>
webpack多页应用架构系列(七):开发环境、生产环境傻傻分不清楚?
查看>>