主頁(yè) > 知識(shí)庫(kù) > Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解

Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解

熱門(mén)標(biāo)簽:南京手機(jī)外呼系統(tǒng)廠家 四川穩(wěn)定外呼系統(tǒng)軟件 高碑店市地圖標(biāo)注app 臺(tái)灣電銷 400電話辦理的口碑 一個(gè)地圖標(biāo)注多少錢(qián) 廊坊外呼系統(tǒng)在哪買(mǎi) b2b外呼系統(tǒng) 地圖標(biāo)注工廠入駐

主要是依靠 redis + lua 來(lái)實(shí)現(xiàn)限流器, 使用 lua 的原因是將多條命令合并在一起作為一個(gè)原子操作, 無(wú)需過(guò)多考慮并發(fā).

計(jì)數(shù)器模式

原理

計(jì)數(shù)器算法是指在一段窗口時(shí)間內(nèi)允許通過(guò)的固定數(shù)量的請(qǐng)求, 比如10次/秒, 500次/30秒.

如果設(shè)置的時(shí)間粒度越細(xì), 那么限流會(huì)更平滑.

實(shí)現(xiàn)

所使用的 Lua 腳本

-- 計(jì)數(shù)器限流
-- 此處支持的最小單位時(shí)間是秒, 若將 expire 改成 pexpire 則可支持毫秒粒度.
-- KEYS[1] string 限流的key
-- ARGV[1] int  限流數(shù)
-- ARGV[2] int  單位時(shí)間(秒)

local cnt = tonumber(redis.call("incr", KEYS[1]))

if (cnt == 1) then
 -- cnt 值為1說(shuō)明之前不存在該值, 因此需要設(shè)置其過(guò)期時(shí)間
 redis.call("expire", KEYS[1], tonumber(ARGV[2]))
elseif (cnt > tonumber(ARGV[1])) then
 return -1
end 

return cnt

返回 -1 表示超過(guò)限流, 否則返回當(dāng)前單位時(shí)間已通過(guò)的請(qǐng)求數(shù)

key 可以但不限于以下的情況

  • ip + 接口
  • user_id + 接口

優(yōu)點(diǎn)

  • 實(shí)現(xiàn)簡(jiǎn)單

缺點(diǎn)

  • 粒度不夠細(xì)的情況下, 會(huì)出現(xiàn)在同一個(gè)窗口時(shí)間內(nèi)出現(xiàn)雙倍請(qǐng)求數(shù)

注意

  • 盡量保持時(shí)間粒度精細(xì)

場(chǎng)景分析

eg. 1000/3s 的限流

極端情況1:

第1秒請(qǐng)求數(shù) 10

第2秒請(qǐng)求數(shù) 10

第3秒請(qǐng)求數(shù) 980

第4秒請(qǐng)求數(shù) 900

第5秒請(qǐng)求數(shù) 100

第6秒請(qǐng)求數(shù) 0

此時(shí)注意第3~5秒內(nèi)的總請(qǐng)求數(shù)高達(dá) 1980

極端情況2:

第1秒請(qǐng)求數(shù) 1000

第2秒請(qǐng)求數(shù) 0

第3秒請(qǐng)求數(shù) 0

此時(shí)后續(xù)的第2~3秒會(huì)出現(xiàn)大量拒絕請(qǐng)求

令牌桶模式

原理

令牌桶的

  1. 桶中保存有令牌, 存在上限, 且一開(kāi)始是滿的
  2. 每次請(qǐng)求都要消耗令牌(可根據(jù)不同請(qǐng)求消耗不同數(shù)量的令牌)
  3. 每隔一段時(shí)間(固定速率)會(huì)往桶中放令牌

桶的實(shí)現(xiàn)還分為:

可預(yù)消費(fèi)

提前預(yù)支令牌數(shù): 前人挖坑, 后人跳

不可預(yù)消費(fèi)

令牌數(shù)不夠直接拒絕

實(shí)現(xiàn)

此處實(shí)現(xiàn)的不可預(yù)消費(fèi)的令牌桶, 具體Lua代碼:

-- 令牌桶限流: 不支持預(yù)消費(fèi), 初始桶是滿的
-- KEYS[1] string 限流的key

-- ARGV[1] int  桶最大容量
-- ARGV[2] int  每次添加令牌數(shù)
-- ARGV[3] int  令牌添加間隔(秒)
-- ARGV[4] int  當(dāng)前時(shí)間戳

local bucket_capacity = tonumber(ARGV[1])
local add_token = tonumber(ARGV[2])
local add_interval = tonumber(ARGV[3])
local now = tonumber(ARGV[4])

-- 保存上一次更新桶的時(shí)間的key
local LAST_TIME_KEY = KEYS[1].."_time";   
-- 獲取當(dāng)前桶中令牌數(shù)
local token_cnt = redis.call("get", KEYS[1]) 
-- 桶完全恢復(fù)需要的最大時(shí)長(zhǎng)
local reset_time = math.ceil(bucket_capacity / add_token) * add_interval;

if token_cnt then -- 令牌桶存在
 -- 上一次更新桶的時(shí)間
 local last_time = redis.call('get', LAST_TIME_KEY)
 -- 恢復(fù)倍數(shù)
 local multiple = math.floor((now - last_time) / add_interval)
 -- 恢復(fù)令牌數(shù)
 local recovery_cnt = multiple * add_token
 -- 確保不超過(guò)桶容量
 local token_cnt = math.min(bucket_capacity, token_cnt + recovery_cnt) - 1
 
 if token_cnt  0 then
  return -1;
 end
 
 -- 重新設(shè)置過(guò)期時(shí)間, 避免key過(guò)期
 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time)      
 redis.call('set', LAST_TIME_KEY, last_time + multiple * add_interval, 'EX', reset_time)
 return token_cnt
 
else -- 令牌桶不存在
 token_cnt = bucket_capacity - 1
 -- 設(shè)置過(guò)期時(shí)間避免key一直存在
 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time);
 redis.call('set', LAST_TIME_KEY, now, 'EX', reset_time + 1); 
 return token_cnt 
end

令牌桶的關(guān)鍵是以下幾個(gè)參數(shù):

  • 桶最大容量
  • 每次放入的令牌數(shù)
  • 放入令牌的間隔時(shí)間

令牌桶的實(shí)現(xiàn)不會(huì)出現(xiàn)計(jì)數(shù)器模式中單位時(shí)間內(nèi)雙倍流量的問(wèn)題.

總結(jié)

以上就是這篇文章的全部?jī)?nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,謝謝大家對(duì)腳本之家的支持。

您可能感興趣的文章:
  • springboot+redis 實(shí)現(xiàn)分布式限流令牌桶的示例代碼
  • 基于Redis+Lua腳本實(shí)現(xiàn)分布式限流組件封裝的方法
  • 基于Redis實(shí)現(xiàn)分布式應(yīng)用限流的方法
  • Redis分布式限流組件設(shè)計(jì)與使用實(shí)例

標(biāo)簽:畢節(jié) 伊春 泰州 南寧 甘南 拉薩 定州 河源

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解》,本文關(guān)鍵詞  Redis,和,Lua,實(shí)現(xiàn),分布式,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于Redis和Lua實(shí)現(xiàn)分布式限流器的方法詳解的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章