問題

在許多應(yīng)用中，對昂貴的資源的訪問必須加以限制,此時速率限制是必不可少的。許多現(xiàn)代網(wǎng)絡(luò)應(yīng)用程序在多個進(jìn)程和服務(wù)器上運(yùn)行，狀態(tài)需要被共享。一個理想的解決方案應(yīng)該是高效、 快捷的，而不是依賴于被綁定到特定客戶端的單個應(yīng)用程序服務(wù)器（由于負(fù)載平衡） 或本身持有任何狀態(tài)。
解決方案

實現(xiàn)這一目標(biāo)的一個簡單有效的方法就是使用 Redis, 它有很多有用的數(shù)據(jù)結(jié)構(gòu)和功能, 盡管實現(xiàn)速率限制只需要2個功能用: 一、在某個具體的鍵值上遞增一個整數(shù)，二、給這個鍵值設(shè)置過期時間。

因為redis 有個單一的事件循環(huán)系統(tǒng) (每個人每次在同一個時間只能執(zhí)行一個操作),這是個原子操作, 也就是說無論有多少個客戶端同時交互操作，對于同一個鍵值總有一個確定的數(shù)值。

這在對同一個資源進(jìn)行多個速率限制的情況下通常是有利的, 因為這允許少量的破裂，以及更長的期限限制。例如每秒鐘請求3次，沒分鐘請求20次。因為每個限制都是相對獨立的，這就需要與其它限制分開進(jìn)行單獨的遞增。

因為速率限制通常用在響應(yīng)時間比較重要的資源（比如網(wǎng)頁應(yīng)用），所以盡量縮短速率限制的使用時間是非常有必要的。redis的最基本的應(yīng)用就是發(fā)出命令，等待響應(yīng)，然后發(fā)出另一個命令，如此往復(fù)。 這個花費(fèi)是昂貴的，因為需要通過網(wǎng)絡(luò)在應(yīng)用程序和redis服務(wù)器之間多次往返。由于在這個用例中，沒有命令依賴其它命令的執(zhí)行結(jié)果，這使得redis的一個叫做流水線技術(shù)的使用成為可能。這就是客戶端緩存所有redis請求，然后把這寫請求發(fā)送給redis,redis一次性返回所有的結(jié)果。

Redis不會維護(hù)客戶端需要的限制的，因為redis會根據(jù)客戶端設(shè)置的過期時間刪除舊的記數(shù)。這消除了客戶端統(tǒng)籌協(xié)調(diào)的需要，和刪除競爭條件的可能性。

The Code
 

import redis
import time
 
def rate_limit_check(r, key, limits):
  period_lengths = [_[0] for _ in sorted(limits.items())]
  period_limits = [_[1] for _ in sorted(limits.items())]
  pipe = r.pipeline()
  for period_length in period_lengths:
     current_period = int(time.time() / period_length)
     redis_key = 'rate_limit:{key}:{period_length}:{current_period}'.format(key=key, period_length=period_length, current_period=current_period)
     pipe.incr(redis_key).expire(redis_key, period_length*3)
  return not any(hits > period_limit for period_limit, hits in zip(period_limits, pipe.execute()[::2]))
 
if __name__ == '__main__':
  r = redis.Redis()
  print rate_limit_check(r, '127.0.0.1', {1: 3, 60: 20})

{1: 3, 60: 20} 意味著每秒鐘3次的命中率是允許的，在任何限制下，都允許20次的命中。'127.0.0.1'在這里用作鍵值，盡管在真實的情況下，可能作為IP地址。更高級的用例將有一個全應(yīng)用程序的速率限制，鍵值只有客戶端的IP地址，以及一個為昂貴的終結(jié)點設(shè)置的特定終結(jié)點限制，這將用到客戶端的IP地址和終結(jié)點,例如127.0.0.1+/login/。這些限制可以獨立地設(shè)置。
 

return rate_limit_check(r, '127.0.0.1', {1: 3, 60: 20}) and rate_limit_check(r, '127.0.0.1+/login/', {1: 2, 60: 5})

這是一個用Python寫的例子，它可以簡單地移植到任何語言，只要這門語言包含Redis客戶端庫。