為什么要做限流
首先讓我們先看一看系統(tǒng)架構(gòu)設(shè)計中,為什么要做“限流”。
旅游景點通常都會有最大的接待量,不可能無限制的放游客進(jìn)入,比如故宮每天只賣八萬張票,超過八萬的游客,無法買票進(jìn)入,因為如果超過八萬人,景點的工作人員可能就忙不過來,過于擁擠的景點也會影響游客的體驗和心情,并且還會有安全隱患;「只賣N張票,這就是一種限流的手段
」。
軟件架構(gòu)中的服務(wù)限流也是類似,也是當(dāng)系統(tǒng)資源不夠的時候,已經(jīng)不足以應(yīng)對大量的請求,為了保證服務(wù)還能夠正常運(yùn)行,那么按照規(guī)則,「系統(tǒng)會把多余的請求直接拒絕掉,以達(dá)到限流的效果
」;
不知道大家注意過沒有,比如雙11,剛過12點有些顧客的網(wǎng)頁或APP會顯示下單失敗的提示,有些就是被限流掉了。
常見的限流算法
計數(shù)法
顧名思義就是來一個,記錄一個,比如我1分鐘只能處理1000個請求,那么我們就可以設(shè)置一個計數(shù)器,來一個請求就incr+1,當(dāng)1分鐘之內(nèi)的數(shù)量大于等于1000之后不處理了即可,偽代碼如下
$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$rate_limit = 1000; //限制個數(shù)
$rate_seconds = 60; //限制時間
$redis_key = "redis_limit";
$count = $redis->get($redis_key);
if ($count >= $rate_limit){ //判斷60秒內(nèi)請求個數(shù)是否已經(jīng)達(dá)到上限
//直接返回,不處理請求
return
}
$redis->incr($redis_key, 1);//請求計數(shù)
$redis->expire($redis, $rate_seconds); //設(shè)置過期時間 60s
//to do 業(yè)務(wù)邏輯處理.......
這種計數(shù)方式比較簡單快捷,但是有很大的缺點,因為請求的訪問不一定是很平穩(wěn)的,如果0:59過來了1000個請求,1:01已經(jīng)是下一個窗口,又過來了1000個請求,但實際上三秒內(nèi)來了2000個請求,已經(jīng)超過我們的限流上限了。所以這種方法是不推薦的。
滑動窗口算法
還拿上面的例子,一分鐘分6份,每份10秒;每過10秒鐘,我們的時間窗口就會往右滑動一格,每個格子都有獨立的計數(shù)器,我們每次都計算時間窗口內(nèi)的數(shù)量,可以解決計數(shù)器法中的問題,而且當(dāng)滑動窗口的格子越多,那么限流的統(tǒng)計就會越精確。具體可以參考下圖,看圖比較清晰
偽代碼實現(xiàn)如下
function api_limit($scene, $period, $maxCount){
$redis = new Redis();
$redis->connect('127.0.0.1', 6379);
$key = sprintf('hist:%s', $scene); //限流場景唯一標(biāo)識
$now = msectime(); // 毫秒時間戳,這樣更精確
$pipe=$redis->multi(Redis::PIPELINE); //使用管道提升性能
$pipe->zadd($key, $now, $now); //value 和 score 都使用毫秒時間戳
$pipe->zremrangebyscore($key, 0, $now - $period); //移除時間窗口之前的行為記錄,剩下的都是時間窗口內(nèi)的
$pipe->zcard($key); //獲取窗口內(nèi)的行為數(shù)量
$pipe->expire($key, $period/1000 + 1); //多加一秒過期時間
$replies = $pipe->exec();
return $replies[2] = $maxCount; //$replies[2]為zcard返回的個數(shù) 如果zcard結(jié)果大于maxCount,則不處理結(jié)果
}
for ($i=0; $i20; $i++){ //測試限流是否實現(xiàn)代碼
var_dump(isActionAllowed("uniq_scene", 60*1000, 5)); //執(zhí)行可以發(fā)現(xiàn)只有前5次是通過的
}
//返回當(dāng)前的毫秒時間戳
function msectime() {
list($msec, $sec) = explode(' ', microtime());
$msectime = (float)sprintf('%.0f', (floatval($msec) + floatval($sec)) * 1000);
return $msectime;
}
這段代碼還是略顯復(fù)雜,需要讀者花一定的時間好好啃。它的整體思路就是:每一個行為到來時,都維護(hù)一次時間窗口。將時間窗口外的記錄全部清理掉,只保留窗口內(nèi)的記錄。
因為這幾個連續(xù)的 Redis 操作都是針對同一個 key 的,使用 pipeline 可以顯著提升Redis 存取效率。「但這種方案也有缺點,因為它要記錄時間窗口內(nèi)所有的行為記錄,如果這個量很大,比如限定 60s 內(nèi)操作不得超過 100w 次這樣的參數(shù),它是不適合做這樣的限流的,因為會消耗大量的存儲空間
」。
后面還有漏桶算法和令牌桶算法,由于各自的實現(xiàn)比較復(fù)雜,所以準(zhǔn)備各自新開一篇文章單獨描述
到此這篇關(guān)于redis限流的實際應(yīng)用的文章就介紹到這了,更多相關(guān)redis限流內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
您可能感興趣的文章:- 基于Redis的限流器的實現(xiàn)(示例講解)
- 詳解Redis實現(xiàn)限流的三種方式
- 基于Redis實現(xiàn)分布式應(yīng)用限流的方法
- redis redisson 限流器的實例(RRateLimiter)