工作隊列,又稱任務隊列,主要思想是避免立即執行資源密集型任務,并且必須等待完成。相反地,我們進行任務調度,我們將一個任務封裝成一個消息,并將其發送到隊列。工作進行在后臺運行不斷的從隊列中取出任務然后執行。當你運行了多個工作進程時,這些任務隊列中的任務將會被工作進程共享執行。
這個概念在 Web 應用程序中特別有用,在短時間 HTTP 請求內需要執行復雜的任務。
[](https://gitee.com/chenssy/blog-home/raw/master/image/201810/rabbitmq_python-two.png)
## 準備工作
現在,假裝我們很忙,我們使用 Thread.sleep 來模擬耗時的任務。
### 發送端
~~~java
public class NewTask {
private final static String QUEUE_NAME = "hello";
public static void main(String[] args) throws IOException, TimeoutException {
// 創建連接
ConnectionFactory factory = new ConnectionFactory();
// 設置 RabbitMQ 的主機名
factory.setHost("localhost");
// 創建一個連接
Connection connection = factory.newConnection();
// 創建一個通道
Channel channel = connection.createChannel();
// 指定一個隊列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 發送消息
for (int i = 0; i < 10; i++) {
String message = "Liang:" + i;
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println(" [x] Sent '" + message + "'");
}
// 關閉頻道和連接
channel.close();
connection.close();
}
}
~~~
### 接收端
~~~java
public class Worker {
private final static String QUEUE_NAME = "hello";
public static void main(String[] args) throws IOException, TimeoutException {
// 創建連接
ConnectionFactory factory = new ConnectionFactory();
// 設置 RabbitMQ 的主機名
factory.setHost("localhost");
// 創建一個連接
Connection connection = factory.newConnection();
// 創建一個通道
Channel channel = connection.createChannel();
// 指定一個隊列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 創建隊列消費者
final Consumer consumer = new DefaultConsumer(channel) {
@Override
public void handleDelivery(String consumerTag, Envelope envelope,
AMQP.BasicProperties properties, byte[] body) throws IOException {
String message = new String(body, "UTF-8");
System.out.println(" [x] Received '" + message + "'");
try {
doWork(message);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
};
// acknowledgment is covered below
boolean autoAck = true;
channel.basicConsume(QUEUE_NAME, autoAck, consumer);
}
private static void doWork(String task) throws InterruptedException {
String[] taskArr = task.split(":");
TimeUnit.SECONDS.sleep(Long.valueOf(taskArr[1]));
}
}
~~~
## 輪詢調度(Round-robin dispatching)
使用任務隊列的優點之一是能夠輕松地并行工作。如果我們積壓了很多任務,我們可以增加更多的工作進程,這樣可以輕松擴展。
首先,我們嘗試在同一時間運行兩個工作進程實例。他們都會從隊列中獲取消息,但是究竟如何?讓我們來看看。
你需要三個控制臺打開。兩個將運行工作程序。這些控制臺將是我們兩個消費者 – C1 和 C2。
Worker1
~~~null
[x] Received 'Liang:0'
[x] Received 'Liang:2'
[x] Received 'Liang:4'
[x] Received 'Liang:6'
[x] Received 'Liang:8'
~~~
Worker2
~~~null
[x] Received 'Liang-1'
[x] Received 'Liang-3'
[x] Received 'Liang-5'
[x] Received 'Liang-7'
[x] Received 'Liang-9'
~~~
再做一個實驗,我們開啟三個工作程序。
Worker1
~~~null
[x] Received 'Liang-0'
[x] Received 'Liang-3'
[x] Received 'Liang-6'
[x] Received 'Liang-9'
~~~
Worker2
~~~null
[x] Received 'Liang-1'
[x] Received 'Liang-4'
[x] Received 'Liang-7'
~~~
Worker3
~~~null
[x] Received 'Liang-2'
[x] Received 'Liang-5'
[x] Received 'Liang-8'
~~~
我們發現,通過增加更多的工作程序就可以進行并行工作,并且接受的消息平均分配。注意的是,這種分配過程是一次性分配,并非一個一個分配。
默認情況下,RabbitMQ 將會發送的每一條消息按照順序給下一個消費者。平均每一個消費者將獲得相同數量的消息。這種分發消息的方式叫做輪詢調度。
## 消息應答(Message acknowledgment)
執行一個任務可能需要幾秒鐘。你可能會想,如果一個消費者開始一個長期的任務,并且只有部分地完成它,會發生什么事情?使用我們當前的代碼,一旦 RabbitMQ 向客戶發送消息,它立即將其從內存中刪除。在這種情況下,如果你殺死正在執行任務的某個工作進程,我們會丟失它正在處理的信息。我們還會丟失所有發送給該特定工作進程但尚未處理的消息。
但是,我們不想失去任何消息。如果某個工作進程被殺死時,我們希望把這個任務交給另一個工作進程。
為了確保消息永遠不會丟失,RabbitMQ 支持消息應答。從消費者發送一個確認信息告訴 RabbitMQ 已經收到消息并已經被接收和處理,然后RabbitMQ 可以自由刪除它。
如果消費者被殺死而沒有發送應答,RabbitMQ 會認為該信息沒有被完全的處理,然后將會重新轉發給別的消費者。如果同時有其他消費者在線,則會迅速將其重新提供給另一個消費者。這樣就可以確保沒有消息丟失,即使工作進程偶爾也會死亡。
默認情況下,消息應答是開啟的。在前面的例子中,我們通過 autoAck = true 標志明確地將它們關閉。現在是一旦完成任務,將此標志設置為false ,并向工作進程發送正確的確認。
### 發送端
~~~java
public class AckNewTask {
private final static String QUEUE_NAME = "hello";
public static void main(String[] args) throws IOException, TimeoutException {
// 創建連接
ConnectionFactory factory = new ConnectionFactory();
// 設置 RabbitMQ 的主機名
factory.setHost("localhost");
// 創建一個連接
Connection connection = factory.newConnection();
// 創建一個通道
Channel channel = connection.createChannel();
// 指定一個隊列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 發送消息
for (int i = 0; i < 10; i++) {
String message = "Liang:" + i;
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println(" [x] Sent '" + message + "'");
}
// 關閉頻道和連接
channel.close();
connection.close();
}
}
~~~
### 接收端
~~~java
public class AckWorker {
private final static String QUEUE_NAME = "hello";
public static void main(String[] args) throws IOException, TimeoutException {
// 創建連接
ConnectionFactory factory = new ConnectionFactory();
// 設置 RabbitMQ 的主機名
factory.setHost("localhost");
// 創建一個連接
Connection connection = factory.newConnection();
// 創建一個通道
final Channel channel = connection.createChannel();
// 指定一個隊列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 創建隊列消費者
final Consumer consumer = new DefaultConsumer(channel) {
@Override
public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties,
byte[] body) throws IOException {
String message = new String(body, "UTF-8");
System.out.println(" [x] Received '" + message + "'");
try {
doWork(message);
} catch (InterruptedException e) {
e.printStackTrace();
} finally{
// 每次處理完成一個消息后,手動發送一次應答。
channel.basicAck(envelope.getDeliveryTag(), false);
}
}
};
boolean autoAck = false;
channel.basicConsume(QUEUE_NAME, autoAck, consumer);
}
private static void doWork(String task) throws InterruptedException {
String[] taskArr = task.split(":");
TimeUnit.SECONDS.sleep(Long.valueOf(taskArr[1]));
}
}
~~~
其中,首先關閉自動應答機制。
~~~java
boolean ack = false ;
channel.basicConsume(QUEUE_NAME, ack, consumer);
~~~
然后,每次處理完成一個消息后,手動發送一次應答。
~~~java
channel.basicAck(delivery.getEnvelope().getDeliveryTag(), false);
~~~
此時,我們開啟三個工作進程,然后,隨機關閉一個工作進程,觀察輸出結果。
## 消息持久化(Message durability)
我們已經學會了如何確保即使消費者死了,任務也不會丟失。但是如果 RabbitMQ 服務器停止,我們的任務仍然會丟失。
當 RabbitMQ 退出或崩潰時,將會丟失所有的隊列和信息,除非你告訴它不要丟失。需要兩件事來確保消息不丟失:我們需要分別將隊列和消息標記為持久化。
首先,我們需要確保 RabbitMQ 永遠不會失去我們的隊列。為了這樣做,我們需要將其聲明為持久化的。
~~~java
boolean durable = true;
channel.queueDeclare("hello_dirable", durable, false, false, null);
~~~
其次,我們需要標識我們的信息為持久化的。通過設置 MessageProperties 值為 PERSISTENT\_TEXT\_PLAIN。
~~~java
channel.basicPublish("", "hello_dirable", MessageProperties.PERSISTENT_TEXT_PLAIN, message.getBytes());
~~~
注意的是,在RabbitMQ 中,已經存在的隊列,我們無法修改其屬性。
此時,我們開啟一個發送者發送消息,然后,關閉 RabbitMQ 服務,再重新開啟,觀察輸出結果。
## 公平轉發(Fair dispatch)
您可能已經注意到,調度仍然無法正常工作。例如在兩個工作線程的情況下,一個工作線程將不斷忙碌,另一個工作人員幾乎不會做任何工作。那么,RabbitMQ 不知道什么情況,還會平均分配消息。
這是因為當消息進入隊列時,RabbitMQ 只會分派消息。它不看消費者的未確認消息的數量。它只是盲目地向第 n 個消費者發送每個第 n 個消息。
為了解決這樣的問題,我們可以使用 basicQos 方法,并將傳遞參數為 prefetchCount = 1。
這樣告訴 RabbitMQ 不要一次給一個工作線程多個消息。換句話說,在處理并確認前一個消息之前,不要向工作線程發送新消息。相反,它將發送到下一個還不忙的工作線程。
~~~java
public class FairNewTask {
private final static String QUEUE_NAME = "hello";
public static void main(String[] args) throws IOException, TimeoutException {
// 創建連接
ConnectionFactory factory = new ConnectionFactory();
// 設置 RabbitMQ 的主機名
factory.setHost("localhost");
// 創建一個連接
Connection connection = factory.newConnection();
// 創建一個通道
Channel channel = connection.createChannel();
// 指定一個隊列
channel.queueDeclare(QUEUE_NAME, false, false, false, null);
// 公平轉發
int prefetchCount = 1;
channel.basicQos(prefetchCount);
// 發送消息
for (int i = 10; i >0; i--) {
String message = "Liang:" + i;
channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
System.out.println(" [x] Sent '" + message + "'");
}
// 關閉頻道和連接
channel.close();
connection.close();
}
}
~~~
其中,使用 basicQos 方法,并將傳遞參數為 prefetchCount = 1。
~~~java
int prefetchCount = 1;
channel.basicQos(prefetchCount) ;
~~~
## 源代碼
> 相關示例完整代碼:[https://github.com/lianggzone/rabbitmq-action](https://github.com/lianggzone/rabbitmq-action)
- 一.JVM
- 1.1 java代碼是怎么運行的
- 1.2 JVM的內存區域
- 1.3 JVM運行時內存
- 1.4 JVM內存分配策略
- 1.5 JVM類加載機制與對象的生命周期
- 1.6 常用的垃圾回收算法
- 1.7 JVM垃圾收集器
- 1.8 CMS垃圾收集器
- 1.9 G1垃圾收集器
- 2.面試相關文章
- 2.1 可能是把Java內存區域講得最清楚的一篇文章
- 2.0 GC調優參數
- 2.1GC排查系列
- 2.2 內存泄漏和內存溢出
- 2.2.3 深入理解JVM-hotspot虛擬機對象探秘
- 1.10 并發的可達性分析相關問題
- 二.Java集合架構
- 1.ArrayList深入源碼分析
- 2.Vector深入源碼分析
- 3.LinkedList深入源碼分析
- 4.HashMap深入源碼分析
- 5.ConcurrentHashMap深入源碼分析
- 6.HashSet,LinkedHashSet 和 LinkedHashMap
- 7.容器中的設計模式
- 8.集合架構之面試指南
- 9.TreeSet和TreeMap
- 三.Java基礎
- 1.基礎概念
- 1.1 Java程序初始化的順序是怎么樣的
- 1.2 Java和C++的區別
- 1.3 反射
- 1.4 注解
- 1.5 泛型
- 1.6 字節與字符的區別以及訪問修飾符
- 1.7 深拷貝與淺拷貝
- 1.8 字符串常量池
- 2.面向對象
- 3.關鍵字
- 4.基本數據類型與運算
- 5.字符串與數組
- 6.異常處理
- 7.Object 通用方法
- 8.Java8
- 8.1 Java 8 Tutorial
- 8.2 Java 8 數據流(Stream)
- 8.3 Java 8 并發教程:線程和執行器
- 8.4 Java 8 并發教程:同步和鎖
- 8.5 Java 8 并發教程:原子變量和 ConcurrentMap
- 8.6 Java 8 API 示例:字符串、數值、算術和文件
- 8.7 在 Java 8 中避免 Null 檢查
- 8.8 使用 Intellij IDEA 解決 Java 8 的數據流問題
- 四.Java 并發編程
- 1.線程的實現/創建
- 2.線程生命周期/狀態轉換
- 3.線程池
- 4.線程中的協作、中斷
- 5.Java鎖
- 5.1 樂觀鎖、悲觀鎖和自旋鎖
- 5.2 Synchronized
- 5.3 ReentrantLock
- 5.4 公平鎖和非公平鎖
- 5.3.1 說說ReentrantLock的實現原理,以及ReentrantLock的核心源碼是如何實現的?
- 5.5 鎖優化和升級
- 6.多線程的上下文切換
- 7.死鎖的產生和解決
- 8.J.U.C(java.util.concurrent)
- 0.簡化版(快速復習用)
- 9.鎖優化
- 10.Java 內存模型(JMM)
- 11.ThreadLocal詳解
- 12 CAS
- 13.AQS
- 0.ArrayBlockingQueue和LinkedBlockingQueue的實現原理
- 1.DelayQueue的實現原理
- 14.Thread.join()實現原理
- 15.PriorityQueue 的特性和原理
- 16.CyclicBarrier的實際使用場景
- 五.Java I/O NIO
- 1.I/O模型簡述
- 2.Java NIO之緩沖區
- 3.JAVA NIO之文件通道
- 4.Java NIO之套接字通道
- 5.Java NIO之選擇器
- 6.基于 Java NIO 實現簡單的 HTTP 服務器
- 7.BIO-NIO-AIO
- 8.netty(一)
- 9.NIO面試題
- 六.Java設計模式
- 1.單例模式
- 2.策略模式
- 3.模板方法
- 4.適配器模式
- 5.簡單工廠
- 6.門面模式
- 7.代理模式
- 七.數據結構和算法
- 1.什么是紅黑樹
- 2.二叉樹
- 2.1 二叉樹的前序、中序、后序遍歷
- 3.排序算法匯總
- 4.java實現鏈表及鏈表的重用操作
- 4.1算法題-鏈表反轉
- 5.圖的概述
- 6.常見的幾道字符串算法題
- 7.幾道常見的鏈表算法題
- 8.leetcode常見算法題1
- 9.LRU緩存策略
- 10.二進制及位運算
- 10.1.二進制和十進制轉換
- 10.2.位運算
- 11.常見鏈表算法題
- 12.算法好文推薦
- 13.跳表
- 八.Spring 全家桶
- 1.Spring IOC
- 2.Spring AOP
- 3.Spring 事務管理
- 4.SpringMVC 運行流程和手動實現
- 0.Spring 核心技術
- 5.spring如何解決循環依賴問題
- 6.springboot自動裝配原理
- 7.Spring中的循環依賴解決機制中,為什么要三級緩存,用二級緩存不夠嗎
- 8.beanFactory和factoryBean有什么區別
- 九.數據庫
- 1.mybatis
- 1.1 MyBatis-# 與 $ 區別以及 sql 預編譯
- Mybatis系列1-Configuration
- Mybatis系列2-SQL執行過程
- Mybatis系列3-之SqlSession
- Mybatis系列4-之Executor
- Mybatis系列5-StatementHandler
- Mybatis系列6-MappedStatement
- Mybatis系列7-參數設置揭秘(ParameterHandler)
- Mybatis系列8-緩存機制
- 2.淺談聚簇索引和非聚簇索引的區別
- 3.mysql 證明為什么用limit時,offset很大會影響性能
- 4.MySQL中的索引
- 5.數據庫索引2
- 6.面試題收集
- 7.MySQL行鎖、表鎖、間隙鎖詳解
- 8.數據庫MVCC詳解
- 9.一條SQL查詢語句是如何執行的
- 10.MySQL 的 crash-safe 原理解析
- 11.MySQL 性能優化神器 Explain 使用分析
- 12.mysql中,一條update語句執行的過程是怎么樣的?期間用到了mysql的哪些log,分別有什么作用
- 十.Redis
- 0.快速復習回顧Redis
- 1.通俗易懂的Redis數據結構基礎教程
- 2.分布式鎖(一)
- 3.分布式鎖(二)
- 4.延時隊列
- 5.位圖Bitmaps
- 6.Bitmaps(位圖)的使用
- 7.Scan
- 8.redis緩存雪崩、緩存擊穿、緩存穿透
- 9.Redis為什么是單線程、及高并發快的3大原因詳解
- 10.布隆過濾器你值得擁有的開發利器
- 11.Redis哨兵、復制、集群的設計原理與區別
- 12.redis的IO多路復用
- 13.相關redis面試題
- 14.redis集群
- 十一.中間件
- 1.RabbitMQ
- 1.1 RabbitMQ實戰,hello world
- 1.2 RabbitMQ 實戰,工作隊列
- 1.3 RabbitMQ 實戰, 發布訂閱
- 1.4 RabbitMQ 實戰,路由
- 1.5 RabbitMQ 實戰,主題
- 1.6 Spring AMQP 的 AMQP 抽象
- 1.7 Spring AMQP 實戰 – 整合 RabbitMQ 發送郵件
- 1.8 RabbitMQ 的消息持久化與 Spring AMQP 的實現剖析
- 1.9 RabbitMQ必備核心知識
- 2.RocketMQ 的幾個簡單問題與答案
- 2.Kafka
- 2.1 kafka 基礎概念和術語
- 2.2 Kafka的重平衡(Rebalance)
- 2.3.kafka日志機制
- 2.4 kafka是pull還是push的方式傳遞消息的?
- 2.5 Kafka的數據處理流程
- 2.6 Kafka的腦裂預防和處理機制
- 2.7 Kafka中partition副本的Leader選舉機制
- 2.8 如果Leader掛了的時候,follower沒來得及同步,是否會出現數據不一致
- 2.9 kafka的partition副本是否會出現腦裂情況
- 十二.Zookeeper
- 0.什么是Zookeeper(漫畫)
- 1.使用docker安裝Zookeeper偽集群
- 3.ZooKeeper-Plus
- 4.zk實現分布式鎖
- 5.ZooKeeper之Watcher機制
- 6.Zookeeper之選舉及數據一致性
- 十三.計算機網絡
- 1.進制轉換:二進制、八進制、十六進制、十進制之間的轉換
- 2.位運算
- 3.計算機網絡面試題匯總1
- 十四.Docker
- 100.面試題收集合集
- 1.美團面試常見問題總結
- 2.b站部分面試題
- 3.比心面試題
- 4.騰訊面試題
- 5.哈羅部分面試
- 6.筆記
- 十五.Storm
- 1.Storm和流處理簡介
- 2.Storm 核心概念詳解
- 3.Storm 單機版本環境搭建
- 4.Storm 集群環境搭建
- 5.Storm 編程模型詳解
- 6.Storm 項目三種打包方式對比分析
- 7.Storm 集成 Redis 詳解
- 8.Storm 集成 HDFS 和 HBase
- 9.Storm 集成 Kafka
- 十六.Elasticsearch
- 1.初識ElasticSearch
- 2.文檔基本CRUD、集群健康檢查
- 3.shard&replica
- 4.document核心元數據解析及ES的并發控制
- 5.document的批量操作及數據路由原理
- 6.倒排索引
- 十七.分布式相關
- 1.分布式事務解決方案一網打盡
- 2.關于xxx怎么保證高可用的問題
- 3.一致性hash原理與實現
- 4.微服務注冊中心 Nacos 比 Eureka的優勢
- 5.Raft 協議算法
- 6.為什么微服務架構中需要網關
- 0.CAP與BASE理論
- 十八.Dubbo
- 1.快速掌握Dubbo常規應用
- 2.Dubbo應用進階
- 3.Dubbo調用模塊詳解
- 4.Dubbo調用模塊源碼分析
- 6.Dubbo協議模塊