Token Bucket和Leaky Bucket是go中实现服务限流的两种核心算法:前者允许短时突发,适合API网关,推荐使用标准库rate.Limiter;后者严格匀速,适合后台任务,可用ticker+channel轻量实现。

服务限流是保障系统稳定性的关键手段。golang 中实现限流,Token Bucket(令牌桶)和 Leaky Bucket(漏桶)是最常用且原理清晰的两种算法。它们都能平滑控制请求速率,但适用场景略有不同:令牌桶允许短时突发流量,漏桶则严格匀速输出。下面直接讲怎么在 Go 里写出来,不绕弯。
Token Bucket:允许突发,适合 API 网关或用户接口
核心思路是按固定速率向桶中添加令牌,每个请求消耗一个令牌;桶有容量上限,满则丢弃新令牌。请求来时,只有拿到令牌才放行。
Go 标准库 red”>golang.org/x/time/rate 就是基于改进版令牌桶(支持预取、带权重等),用起来最简单:
- 创建限流器:
limiter := rate.NewLimiter(rate.Every(100*time.Millisecond), 5)表示每 100ms 放 1 个令牌,桶容量为 5(即最多允许 5 次突发) - 拦截请求:
if !limiter.Allow() { http.Error(w, "Too Many Requests", http.StatusTooManyRequests); return } - 更稳妥可用
Wait(ctx)阻塞等待令牌,或Reserve()判断并预留,适合需要精确控制延迟的场景
Leaky Bucket:严格匀速,适合后台任务或消息消费
漏桶模型中,请求先进入队列(桶),然后以恒定速率“漏出”执行。它天然削峰填谷,不会出现突发,但需额外维护队列和定时漏出逻辑。
立即学习“go语言免费学习笔记(深入)”;
纯 Go 实现可基于 time.Ticker + channel 模拟:
- 启动一个 goroutine,用
ticker := time.NewTicker(200 * time.Millisecond)定期从 channel 取一个任务执行 - 对外提供
Submit(task func()) bool,把任务发到带缓冲的 channel(如make(chan func(), 10)),满则拒绝 - 注意:channel 缓冲区就是“桶容量”,ticker 间隔决定“漏出速率”,不依赖时间戳计算,实现轻量
选哪个?看你的流量特征
Token Bucket 更常用,尤其对 HTTP 接口——用户点击可能连点几次,适当容忍突发更友好;标准库 rate.Limiter 经过大量生产验证,推荐优先用它。
Leaky Bucket 更适合内部调度,比如日志上传、异步通知、数据库批量写入——你希望它们被严格控速、不抢资源,也不关心谁先谁后。
两者都不依赖外部存储,纯内存实现,无网络开销,适合单机限流。集群限流需配合 redis(如 lua 脚本原子操作)或分布式协调服务。
基本上就这些。不用造轮子,golang.org/x/time/rate 覆盖大多数需求;自己写漏桶也只需二三十行,逻辑透明好维护。