## Redis 實現隊列
Redis 實現隊列
場景說明:
·用于處理比較耗時的請求,例如批量發送郵件,如果直接在網頁觸發執行發送,程序會出現超時
·高并發場景,當某個時刻請求瞬間增加時,可以把請求寫入到隊列,后臺在去處理這些請求
·搶購場景,先入先出的模式
命令:
rpush + blpop 或 lpush + brpop
rpush : 往列表右側推入數據
blpop : 客戶端阻塞直到隊列有值輸出
簡單隊列:
simple.php
$stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { $redis->rPush('goods:task', json_encode($row));} $redis->close();
獲取20000萬個商品,并把json化后的數據推入goods:task隊列
queueBlpop.php
// 出隊while (true) { // 阻塞設置超時時間為3秒 $task = $redis->blPop(array('goods:task'), 3); if ($task) { $redis->rPush('goods:success:task', $task[1]); $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }}
設置blpop阻塞時間為3秒,當有數據出隊時保存到goods:success:task表示執行成功,當隊列沒有數據時,程序睡眠10秒重新檢查goods:task是否有數據出隊
cli 模式執行命令:
php simple.phpphp queueBlpop.php
優先級隊列
思路:
blpop 有多個鍵時,blpop會從左至右遍歷鍵,一旦一個鍵能彈出元素,客戶端立即返回。例如:
blpop key1 key2 key3 key4
從key1到key4遍歷,如果哪個key有值,則彈出這個值,若多個key同時有值時,優先彈出排在左邊的key。
priority.php
// 設置優先級隊列$high = 'goods:high:task';$mid = 'goods:mid:task';$low = 'goods:low:task'; $stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { // cid 小于100放在低級隊列 if ($row['cid'] < 100) { $redis->rPush($low, json_encode($row)); } // cid 100到600之間放在中級隊列 elseif ($row['cid'] > 100 && $row['cid'] < 600) { $redis->rPush($mid, json_encode($row)); } // cid 大于600放在高級隊列 else { $redis->rPush($high, json_encode($row)); }}$redis->close();
priorityBlop.php
// 優先級隊列$high = 'goods:high:task';$mid = 'goods:mid:task';$low = 'goods:low:task';// 出隊while(true){ // 優先級高的隊列放在左側 $task = $redis->blPop(array($high, $mid, $low), 3); if ($task) { $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }}
優先級高的隊列放在blpop命令左側,依次排序,blpop命令會依次彈出high, mid, low隊列的值
cli 模式執行命令:
php priority.phpphp priorityBlpop.php
延遲隊列
思路:
可以用一個有序集合來保存延遲任務,member保存任務內容,score保存(當前時間 + 延時時間)。用時間作為score。程序只要用有序集合的第一條任務的score和當前時間做比較,如果當前時間比score小,說明有序集合的所有任務還沒到執行時間。
delay.php
$stmt = $pdo->prepare('select id, cid, name from zc_goods limit 200000');$stmt->execute();while ($row = $stmt->fetch(PDO::FETCH_ASSOC)) { $redis->zAdd('goods:delay:task', time() + rand(1, 300), json_encode($row));}
將20萬條任務導入有序集合goods:delay:task,所有任務延遲到之后的1秒到300秒內執行
delayHandle.php
while (true) { // 因為是有序集合,只要判斷第一條記錄的延時時間,例如第一條未到執行時間 // 相對說明集合的其他任務未到執行時間 $rs = $redis->zRange('goods:delay:task', 0, 0, true); // 集合沒有任務,睡眠時間設置為5秒 if (empty($rs)) { echo 'no tasks , sleep 5 seconds' . PHP_EOL; sleep(5); continue; } $taskJson = key($rs); $delay = $rs[$taskJson]; $task = json_decode($taskJson, true); $now = time(); // 到時間執行延時任務 if ($delay <= $now) { // 對當前任務加鎖,避免移動移動延時任務到任務隊列時被其他客戶端修改 if (!($identifier = acquireLock($task['id']))) { continue; } // 移動延時任務到任務隊列 $redis->zRem('goods:delay:task', $taskJson); $redis->rPush('goods:task', $taskJson); echo $task['id'] . ' run ' . PHP_EOL; // 釋放鎖 releaseLock($task['id'], $identifier); } else { // 延時任務未到執行時間 $sleep = $delay - $now; // 最大值設置為2秒,保證如果有新的任務(延時時間1秒)進入集合時能夠及時的被處理// $sleep = $sleep > 2 ? 2 :$sleep; echo 'wait ' . $sleep . ' seconds ' . PHP_EOL; sleep($sleep); }}
這個文件對有序集合內的延遲任務做處理,如果延遲任務到了執行時間,則把延遲任務移動到任務隊列中
queueBlpop.php
// 出隊while (true) { // 阻塞設置超時時間為3秒 $task = $redis->blPop(array('goods:task'), 3); if ($task) { $redis->rPush('goods:success:task', $task[1]); $task = json_decode($task[1], true); echo $task['id'] . ':' . $task['cid'] . ':' . 'handle success'; echo PHP_EOL; } else { echo 'nothing' . PHP_EOL; sleep(5); }}
處理任務隊列中的任務
cli模式下執行命令:
php delay.phpphp delayHanlde.phpphp queueBlpop.php
學習學習方向和指導,咨詢微微老師QQ:1079192266
來源:[六星教育PHP學院首席助理薇薇老師 [http://1079192266.qzone.qq.com]](https://user.qzone.qq.com/1079192266/blog/1504943570?_t_=0.21135489828884602)
* * * * *
### 其它
**Redis為隊列存取而生**
>[danger] BLPOP 是列表的阻塞式(blocking)彈出原語。
Redis實現隊列重要的一點解決了存和取的問題,存很快,取彈出隊列(`blpop: 客戶端阻塞直到隊列有值輸出`),注意是**阻塞彈出隊列的,即阻塞取消息的**,這意味著多工人進程也沒事,多工人進程時也不會出現重復取消息,不會出現并發問題,是安全的,這就方便多了,要是用mysql存消息,為了防止并發問題,保證不會出現重復取消息,那處理起來就麻煩多了,需要開啟事務用鎖,每次limit 1,掃表,取出來任務處理完后還要更新,多進程間的鎖等待,真是不敢想象的恐怖,超級超級的低效率。所以Redis真爽,一下子就解決了隊列中最頭痛的問題,簡直是為隊列消息存取而生的。
* * * * *
### 參考
[BLPOP — Redis 命令參考](http://redisdoc.com/list/blpop.html)
[為什么要誓死學好 Redis ?](http://mp.weixin.qq.com/s/tO7KbtPtbzGgOGhOWFQe8A)
[解密 Redis 助力雙 11 背后電商秒殺系統](https://mp.weixin.qq.com/s/EXOoKDtOYEyGGp3Pm4LhAg)
* * * * *
last update:2017-10-17 18:20:36
- 開始
- 公益
- 更好的使用看云
- 推薦書單
- 優秀資源整理
- 技術文章寫作規范
- SublimeText - 編碼利器
- PSR-0/PSR-4命名標準
- php的多進程實驗分析
- 高級PHP
- 進程
- 信號
- 事件
- IO模型
- 同步、異步
- socket
- Swoole
- PHP擴展
- Composer
- easyswoole
- php多線程
- 守護程序
- 文件鎖
- s-socket
- aphp
- 隊列&并發
- 隊列
- 講個故事
- 如何最大效率的問題
- 訪問式的web服務(一)
- 訪問式的web服務(二)
- 請求
- 瀏覽器訪問阻塞問題
- Swoole
- 你必須理解的計算機核心概念 - 碼農翻身
- CPU阿甘 - 碼農翻身
- 異步通知,那我要怎么通知你啊?
- 實時操作系統
- 深入實時 Linux
- Redis 實現隊列
- redis與隊列
- 定時-時鐘-阻塞
- 計算機的生命
- 多進程/多線程
- 進程通信
- 拜占庭將軍問題深入探討
- JAVA CAS原理深度分析
- 隊列的思考
- 走進并發的世界
- 鎖
- 事務筆記
- 并發問題帶來的后果
- 為什么說樂觀鎖是安全的
- 內存鎖與內存事務 - 劉小兵2014
- 加鎖還是不加鎖,這是一個問題 - 碼農翻身
- 編程世界的那把鎖 - 碼農翻身
- 如何保證萬無一失
- 傳統事務與柔性事務
- 大白話搞懂什么是同步/異步/阻塞/非阻塞
- redis實現鎖
- 淺談mysql事務
- PHP異常
- php錯誤
- 文件加載
- 路由與偽靜態
- URL模式之分析
- 字符串處理
- 正則表達式
- 數組合并與+
- 文件上傳
- 常用驗證與過濾
- 記錄
- 趣圖
- foreach需要注意的問題
- Discuz!筆記
- 程序設計思維
- 抽象與具體
- 配置
- 關于如何學習的思考
- 編程思維
- 談編程
- 如何安全的修改對象
- 臨時
- 臨時筆記
- 透過問題看本質
- 程序后門
- 邊界檢查
- session
- 安全
- 王垠
- 第三方數據接口
- 驗證碼問題
- 還是少不了虛擬機
- 程序員如何談戀愛
- 程序員為什么要一直改BUG,為什么不能一次性把代碼寫好?
- 碎碎念
- 算法
- 實用代碼
- 相對私密與絕對私密
- 學習目標
- 隨記
- 編程小知識
- foo
- 落盤
- URL編碼的思考
- 字符編碼
- Elasticsearch
- TCP-IP協議
- 碎碎念2
- Grafana
- EFK、ELK
- RPC
- 依賴注入
- 科目一
- 開發筆記
- 經緯度格式轉換
- php時區問題
- 解決本地開發時調用遠程AIP跨域問題
- 后期靜態綁定
- 談tp的跳轉提示頁面
- 無限分類問題
- 生成微縮圖
- MVC名詞
- MVC架構
- 也許模塊不是唯一的答案
- 哈希算法
- 開發后臺
- 軟件設計架構
- mysql表字段設計
- 上傳表如何設計
- 二開心得
- awesomes-tables
- 安全的代碼部署
- 微信開發筆記
- 賬戶授權相關
- 小程序獲取是否關注其公眾號
- 支付相關
- 提交訂單
- 微信支付筆記
- 支付接口筆記
- 支付中心開發
- 下單與支付
- 支付流程設計
- 訂單與支付設計
- 敏感操作驗證
- 排序設計
- 代碼的運行環境
- 搜索關鍵字的顯示處理
- 接口異步更新ip信息
- 圖片處理
- 項目搭建
- 閱讀文檔的新方式
- mysql_insert_id并發問題思考
- 行鎖注意事項
- 細節注意
- 如何處理用戶的輸入
- 不可見的字符
- 抽獎
- 時間處理
- 應用開發實戰
- python 學習記錄
- Scrapy 教程
- Playwright 教程
- stealth.min.js
- Selenium 教程
- requests 教程
- pyautogui 教程
- Flask 教程
- PyInstaller 教程
- 蜘蛛
- python 文檔相似度驗證
- thinkphp5.0數據庫與模型的研究
- workerman進程管理
- workerman網絡分析
- java學習記錄
- docker
- 筆記
- kubernetes
- Kubernetes
- PaddlePaddle
- composer
- oneinstack
- 人工智能 AI
- 京東
- pc_detailpage_wareBusiness
- doc
- 電商網站設計
- iwebshop
- 商品規格分析
- 商品屬性分析
- tpshop
- 商品規格分析
- 商品屬性分析
- 電商表設計
- 設計記錄
- 優惠券
- 生成唯一訂單號
- 購物車技術
- 分類與類型
- 微信登錄與綁定
- 京東到家庫存系統架構設計
- crmeb
- 命名規范
- Nginx https配置
- 關于人工智能
- 從人的思考方式到二叉樹
- 架構
- 今日有感
- 文章保存
- 安全背后: 瀏覽器是如何校驗證書的
- 避不開的分布式事務
- devops自動化運維、部署、測試的最后一公里 —— ApiFox 云時代的接口管理工具
- 找到自己今生要做的事
- 自動化生活
- 開源與漿果
- Apifox: API 接口自動化測試指南