当前位置：首页 > article >正文

深入理解 Uber 漏桶与 Go 令牌桶限流器

article 2025/2/21 23:00:54

深入理解 Uber 漏桶与 Go 令牌桶限流器

背景

限流器是保护系统资源、防止过载的重要工具。在高并发系统中，限流器可以帮助控制请求速率，避免因瞬时流量过高导致系统崩溃。常见的限流场景包括 API 速率限制、数据库访问控制、服务降级以及反爬虫等。

限流器通用实现方案

限流器的实现方案多种多样，以下是几种常见的方法：

固定窗口限流：将时间划分为固定窗口，每个窗口内限制请求数量。简单易实现，但可能在窗口边界出现请求峰值。
滑动窗口限流：改进固定窗口方案，使用更小的时间窗口，使请求分布更均匀，但实现复杂度较高。
并发限流：限制同时处理的请求数量，防止系统过载。
漏桶限流（Leaky Bucket）：以固定速率处理请求，输出速率恒定。
令牌桶限流（Token Bucket）：以固定速率生成令牌，请求需获取令牌后才能处理，支持突发流量。
自适应限流：根据系统负载动态调整限流策略。

本文聚焦于 漏桶限流 和 令牌桶限流，分别介绍两种典型的实现方案：Uber 的漏桶和 Go 标准库的令牌桶。

Uber 漏桶限流

原理

Uber 的漏桶限流器采用改良版的漏桶算法，通过松弛机制允许短时间内的突发流量。其核心思想是将请求放入桶中，以固定速率处理，但通过松弛机制调整整体速率，避免严格限制每个请求的间隔。

实现细节

状态管理：使用 int64 存储理论上的下次执行时间，避免浮点数计算，提高精度。
松弛机制：允许一定时间内的突发流量，通过 maxSlack 参数控制最大松弛时间。
并发安全：使用 sync/atomic 进行无锁操作，保证高并发下的性能。

使用方法

初始化：

rl := ratelimit.New(100) // 每秒处理 100 个请求

限流：

now := rl.Take() // 阻塞直到满足条件

示例：

func main() {
    rl := ratelimit.New(100)
    prev := time.Now()
    for i := 0; i < 10; i++ {
        now := rl.Take()
        fmt.Println(i, now.Sub(prev))
        prev = now
    }
}

输出结果：

0 0s
1 10ms
2 10ms
...

优点

高精度：int64 计算避免浮点数误差，适合高 QPS 场景。
支持松弛：允许短时间内的突发流量，整体上维持平均速率。

Go 令牌桶限流

原理

Go 标准库的 time/rate 包采用令牌桶算法，通过懒加载方式动态更新令牌数量，支持突发流量处理。

实现细节

令牌生成：系统以固定速率生成令牌，桶容量限制最大令牌数。
懒加载：每次请求时根据时间差更新令牌数量，避免频繁计算。
并发安全：使用 sync.Mutex 保证线程安全。

使用方法

初始化：

limiter := rate.NewLimiter(1, 3) // 每秒生成 1 个令牌，桶容量为 3

限流：

limiter.Wait(context.Background()) // 阻塞直到获取令牌

示例：

func main() {
    limiter := rate.NewLimiter(1, 3)
    for i := 0; i < 5; i++ {
        limiter.Wait(context.Background())
        fmt.Printf("Request %d executed\\n", i)
    }
}

优点

支持突发流量：桶容量允许短时间内处理大量请求。
多种限流方式：提供 Wait、Allow、Reserve 等方法，灵活控制限流逻辑。

对比与选择

对比项	Uber 漏桶	Go 令牌桶
计算方式	`int64` 加减，高精度	`float64` 乘法，精度稍低
突发流量	不支持	支持，通过桶容量控制
松弛度	支持，可调整最大松弛时间	不支持
灵活性	支持无松弛模式	提供多种限流方法
适用场景	高 QPS、严格时间控制	突发流量、灵活控制

选择建议

高 QPS 场景：推荐 Uber 漏桶，int64 计算更精确，适合严格控制请求间隔。
突发流量场景：推荐 Go 令牌桶，桶容量允许处理短时间内的高并发请求。
灵活控制：Go 令牌桶提供更多限流方法，适合复杂场景。

应用案例

刷数据场景

在需要处理大量数据时，使用限流器控制数据库访问速率，避免瞬时流量过高导致数据库崩溃。

func FullFillModeratorReviewOption(ctx context.Context) {
    limiter := rate.NewLimiter(50, 1) // 每秒处理 50 条记录
    var waitExeList []int64
    // 查询需要处理的记录 ID
    // ...
    for i := 0; i < len(waitExeList); i++ {
        limiter.Wait(ctx)
        // 处理每条记录
    }
}

消费限流场景

在消费违规事件时，使用限流器避免对同一用户同时下发多个处罚。

func processEvents(events <-chan Event) {
    limiter := ratelimit.New(10, ratelimit.WithoutSlack) // 无松弛模式
    for event := range events {
        limiter.Take()
        // 处理事件
    }
}