[TOC]
# ack是什么
通過Ack機制,spout發送出去的每一條消息,都可以確定是被成功處理或失敗處理, 從而可以讓開發者采取動作。比如在Meta中,成功被處理,即可更新偏移量,當失敗時,重復發送數據。
因此,通過Ack機制,很容易做到保證所有數據均被處理,一條都不漏。
**另外需要注意的,當spout觸發fail動作時,不會自動重發失敗的tuple,需要spout自己重新獲取數據,手動重新再發送一次**
ack機制即, spout發送的每一條消息,
* 在規定的時間內,spout收到Acker的ack響應,即認為該tuple 被后續bolt成功處理
* 在規定的時間內,沒有收到Acker的ack響應tuple,就觸發fail動作,即認為該tuple處理失敗,
* 或者收到Acker發送的fail響應tuple,也認為失敗,觸發fail動作
**另外Ack機制還常用于限流作用: 為了避免spout發送數據太快,而bolt處理太慢,常常設置pending數,當spout有等于或超過pending數的tuple沒有收到ack或fail響應時,跳過執行nextTuple, 從而限制spout發送數據。**
通過`conf.put(Config.TOPOLOGY_MAX_SPOUT_PENDING, pending);`設置spout pend數。
# 如何使用Ack機制
spout 在發送數據的時候帶上msgid
設置acker數至少大于0;`Config.setNumAckers(conf, ackerParal);`
在bolt中完成處理tuple時,執行`OutputCollector.ack(tuple)`, 當失敗處理時,執行`OutputCollector.fail(tuple)`;
推薦使用IBasicBolt, 因為IBasicBolt 自動封裝了`OutputCollector.ack(tuple)`, 處理失敗時,請拋出FailedException,則自動執行`OutputCollector.fail(tuple)`
# 如何關閉Ack機制
有2種途徑
spout發送數據是不帶上msgid
設置acker數等于0
# 基本實現
Storm 系統中有一組叫做"acker"的特殊的任務,它們負責跟蹤DAG(有向無環圖)中的每個消息。
acker任務保存了spout id到一對值的映射。第一個值就是spout的任務id,通過這個id,acker就知道消息處理完成時該通知哪個spout任務。第二個值是一個64bit的數字,我們稱之為"ack val", 它是樹中所有消息的隨機id的異或計算結果。
~~~
<TaskId,<RootId,ackValue>>
Spoutid,<系統生成的id,ackValue>
Task-0,64bit,0
~~~
ack val表示了整棵樹的的狀態,無論這棵樹多大,只需要這個固定大小的數字就可以跟蹤整棵樹。當消息被創建和被應答的時候都會有相同的消息id發送過來做異或。?每當acker發現一棵樹的ack val值為0的時候,它就知道這棵樹已經被完全處理了



# 分析
storm的消息容錯機制
數據在處理中出現異常時,需要保證消息被完整處理
Spout ---A---B---C---D
期望:當中一個環節出現異常時,Spout能夠重新發送一份數據
問題:
Spout如何知道一條消息的處理狀態
~~~
成功:ack(Object msgid)
失敗:fail(Object msgid)
~~~
Bolt如何告知Spout消息處理的狀態
~~~
collector.emit(new Value())
collector.ack() //當消息處理成功時
collector.fail() //當消息處理失敗時
~~~
- linux
- 常用命令
- 高級文本命令
- 面試題
- redis
- String
- list
- hash
- set
- sortedSet
- 案例-推薦
- java高級特性
- 多線程
- 實現線程的三種方式
- 同步關鍵詞
- 讀寫鎖
- 鎖的相關概念
- 多線程的join
- 有三個線程T1 T2 T3,保證順序執行
- java五種線程池
- 守護線程與普通線程
- ThreadLocal
- BlockingQueue消息隊列
- JMS
- 反射
- volatile
- jvm
- IO
- nio
- netty
- netty簡介
- 案例一發送字符串
- 案例二發送對象
- 輕量級RPC開發
- 簡介
- spring(IOC/AOP)
- spring初始化順序
- 通過ApplicationContextAware加載Spring上下文
- InitializingBean的作用
- 結論
- 自定義注解
- zk在框架中的應用
- hadoop
- 簡介
- hadoop集群搭建
- hadoop單機安裝
- HDFS簡介
- hdfs基本操作
- hdfs環境搭建
- 常見問題匯總
- hdfs客戶端操作
- mapreduce工作機制
- 案列-單詞統計
- 局部聚合Combiner
- 案列-流量統計(分區,排序,比較)
- 案列-倒排索引
- 案例-共同好友
- 案列-join算法實現
- 案例-求topN(分組)
- 自定義inputFormat
- 自定義outputFormat
- 框架運算全流程
- mapreduce的優化方案
- HA機制
- Hive
- 安裝
- DDL操作
- 創建表
- 修改表
- DML操作
- Load
- insert
- select
- join操作
- 嚴格模式
- 數據類型
- shell參數
- 函數
- 內置運算符
- 內置函數
- 自定義函數
- Transform實現
- 特殊分割符處理
- 案例
- 級聯求和accumulate
- flume
- 簡介
- 安裝
- 常用的組件
- 攔截器
- 案例
- 采集目錄到HDFS
- 采集文件到HDFS
- 多個agent串聯
- 日志采集和匯總
- 自定義攔截器
- 高可用配置
- 使用注意
- sqoop
- 安裝
- 數據導入
- 導入數據到HDFS
- 導入關系表到HIVE
- 導入表數據子集
- 增量導入
- 數據導出
- 作業
- 原理
- azkaban
- 簡介
- 安裝
- 案例
- 簡介
- command類型單一job
- command類型多job工作流flow
- HDFS操作任務
- mapreduce任務
- hive腳本任務
- hbase
- 簡介
- 安裝
- 命令行
- 基本CURD
- 過濾器查詢
- 系統架構
- 物理存儲
- 尋址機制
- 讀寫過程
- Region管理
- master工作機制
- 建表高級屬性
- 與mapreduce結合
- 協處理器
- 點擊流平臺開發
- 簡介
- storm
- 簡介
- 安裝
- 集群啟動及任務過程分析
- 單詞統計
- 并行度
- ACK容錯機制
- ACK簡介