如何使用Golang实现服务限流_使用Token Bucket和漏桶算法控制流量

1次阅读

Token Bucket和Leaky Bucket是go中实现服务限流的两种核心算法:前者允许短时突发,适合API网关,推荐使用标准库rate.Limiter;后者严格匀速,适合后台任务,可用ticker+channel轻量实现。

如何使用Golang实现服务限流_使用Token Bucket和漏桶算法控制流量

服务限流是保障系统稳定性的关键手段。golang 中实现限流,Token Bucket(令牌桶)和 Leaky Bucket(漏桶)是最常用且原理清晰的两种算法。它们都能平滑控制请求速率,但适用场景略有不同:令牌桶允许短时突发流量,漏桶则严格匀速输出。下面直接讲怎么在 Go 里写出来,不绕弯。

Token Bucket:允许突发,适合 API 网关或用户接口

核心思路是按固定速率向桶中添加令牌,每个请求消耗一个令牌;桶有容量上限,满则丢弃新令牌。请求来时,只有拿到令牌才放行。

Go 标准库 red”>golang.org/x/time/rate 就是基于改进版令牌桶(支持预取、带权重等),用起来最简单:

  • 创建限流器:limiter := rate.NewLimiter(rate.Every(100*time.Millisecond), 5) 表示每 100ms 放 1 个令牌,桶容量为 5(即最多允许 5 次突发)
  • 拦截请求:if !limiter.Allow() { http.Error(w, "Too Many Requests", http.StatusTooManyRequests); return }
  • 更稳妥可用 Wait(ctx) 阻塞等待令牌,或 Reserve() 判断并预留,适合需要精确控制延迟的场景

Leaky Bucket:严格匀速,适合后台任务或消息消费

漏桶模型中,请求先进入队列(桶),然后以恒定速率“漏出”执行。它天然削峰填谷,不会出现突发,但需额外维护队列和定时漏出逻辑。

立即学习go语言免费学习笔记(深入)”;

纯 Go 实现可基于 time.Ticker + channel 模拟:

如何使用Golang实现服务限流_使用Token Bucket和漏桶算法控制流量

Notion Sites

Notion 推出的AI网站构建工具,允许用户将 Notion 页面直接发布为完整网站。

如何使用Golang实现服务限流_使用Token Bucket和漏桶算法控制流量 246

查看详情 如何使用Golang实现服务限流_使用Token Bucket和漏桶算法控制流量

  • 启动一个 goroutine,用 ticker := time.NewTicker(200 * time.Millisecond) 定期从 channel 取一个任务执行
  • 对外提供 Submit(task func()) bool,把任务发到带缓冲的 channel(如 make(chan func(), 10)),满则拒绝
  • 注意:channel 缓冲区就是“桶容量”,ticker 间隔决定“漏出速率”,不依赖时间戳计算,实现轻量

选哪个?看你的流量特征

Token Bucket 更常用,尤其对 HTTP 接口——用户点击可能连点几次,适当容忍突发更友好;标准库 rate.Limiter 经过大量生产验证,推荐优先用它。

Leaky Bucket 更适合内部调度,比如日志上传、异步通知、数据库批量写入——你希望它们被严格控速、不抢资源,也不关心谁先谁后。

两者都不依赖外部存储,纯内存实现,无网络开销,适合单机限流。集群限流需配合 redis(如 lua 脚本原子操作)或分布式协调服务。

基本上就这些。不用造轮子,golang.org/x/time/rate 覆盖大多数需求;自己写漏桶也只需二三十行,逻辑透明好维护。

text=ZqhQzanResources