令牌桶算法原理及实现,图文详解

举报
mikechen的互联网架构 发表于 2024/11/13 22:17:26 2024/11/13
【摘要】 本文介绍令牌桶算法,一种常用的限流策略,通过恒定速率放入令牌,控制高并发场景下的流量,确保系统稳定运行。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。

关注△mikechen的互联网架构△,10年+BAT架构经验倾囊相授

大家好,我是 mikechen | 陈睿

在高并发的场景里,由于突发流量过大,经常会限流,而限流就会涉及到具体的算法,令牌桶算法就是一种限流算法,今天分享令牌桶算法@mikechen。

令牌桶简介

令牌桶,英文名token bucket,可以看作是一个存放令牌的容器,预先设定一定的容量,系统按设定的速度向桶中放置令牌,当桶中令牌满时,多余的令牌溢出。

如下图所示:

image.png

为什么需要令牌桶?

在高并发系统,比如大家熟知的秒杀,这个时候有大量的用户在同一时间大量涌入,这个时候很可能会超过系统的承受能力,这个就需要考虑限流了。

而令牌桶算法就是限流的一种策略,是进行流量限制的一种常用算法,常用于控制发送到网络上的数据的数量,并允许突发数据的发送。

为了保证系统的稳定运行,一旦达到的需要限制的阈值,就需要限制流量并采取一些措施以完成限制流量的目的,比如:延迟处理,拒绝处理,或者部分拒绝处理等等。

令牌桶算法原理

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,如果请求需要被处理,则需要先从桶里获取一个令牌,当桶满时新添加的令牌被丢弃或拒绝。

令牌桶算法流程,如下图所示:

image.png

令牌桶算法流程

大致分为如下三步:

第一步:放入令牌到桶

按照固定的速率被放入令牌桶中,比如每秒放10个、100个、1000个令牌到桶中。

第二步:获取令牌

所有的请求在处理之前都需要拿到一个可用的令牌才会被处理。

第三步 :令牌桶满了拒绝

比如:桶中最多能放10000个令牌,当桶满时,就不能继续放入了,新添加的令牌要么被丢弃,要么就直接拒绝。

令牌桶算法实现

可以使用google提供的guava工具来实现。

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
</dependency>

// 每秒生成2个令牌
RateLimiter rateLimiter = RateLimiter.create(2);
for (int i = 0; i < 6; i++) {
    new Thread(() -> {
        // 获得令牌
        rateLimiter.acquire();
        System.out.println(LocalDateTime.now());
    }).start();
}

可以通过RateLimiter限流组件来实现。

以上,是令牌桶算法原理及实现的详细解析,欢迎评论区留言交流或拓展。

我是 mikechen | 陈睿 ,关注【mikechen的互联网架构】,10年+BAT架构技术倾囊相授。

本文已同步我的技术博客 www.mikechen.cc,更新至我原创的《30W+字大厂架构技术合集》中。

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。