# 緩存或持久化
和RDD相似,DStreams也允許開發者持久化流數據到內存中。在DStream上使用`persist()`方法可以自動地持久化DStream中的RDD到內存中。如果DStream中的數據需要計算多次,這是非常有用的。像`reduceByWindow`和`reduceByKeyAndWindow`這種窗口操作、`updateStateByKey`這種基于狀態的操作,持久化是默認的,不需要開發者調用`persist()`方法。
例如通過網絡(如kafka,flume等)獲取的輸入數據流,默認的持久化策略是復制數據到兩個不同的節點以容錯。
注意,與RDD不同的是,DStreams默認持久化級別是存儲序列化數據到內存中,這將在[性能調優](../performance-tuning/README.md)章節介紹。更多的信息請看[rdd持久化](../../programming-guide/rdds/rdd-persistences.md)
- Introduction
- 快速上手
- Spark Shell
- 獨立應用程序
- 開始翻滾吧!
- RDD編程基礎
- 基礎介紹
- 外部數據集
- RDD 操作
- 轉換Transformations
- map與flatMap解析
- 動作Actions
- RDD持久化
- RDD容錯機制
- 傳遞函數到 Spark
- 使用鍵值對
- RDD依賴關系與DAG
- 共享變量
- Spark Streaming
- 一個快速的例子
- 基本概念
- 關聯
- 初始化StreamingContext
- 離散流
- 輸入DStreams
- DStream中的轉換
- DStream的輸出操作
- 緩存或持久化
- Checkpointing
- 部署應用程序
- 監控應用程序
- 性能調優
- 減少批數據的執行時間
- 設置正確的批容量
- 內存調優
- 容錯語義
- Spark SQL
- 概述
- SparkSQLvsHiveSQL
- 數據源
- RDDs
- parquet文件
- JSON數據集
- Hive表
- 數據源例子
- join操作
- 聚合操作
- 性能調優
- 其他
- Spark SQL數據類型
- 其它SQL接口
- 編寫語言集成(Language-Integrated)的相關查詢
- GraphX編程指南
- 開始
- 屬性圖
- 圖操作符
- Pregel API
- 圖構造者
- 部署
- 頂點和邊RDDs
- 圖算法
- 例子
- 更多文檔
- 提交應用程序
- 獨立運行Spark
- 在yarn上運行Spark
- Spark配置
- RDD 持久化