[TOC]
# 簡介
在JDK1.8開始發現類集里面提供的接口都出現大量的default或者是static方法
以Collection的父接口Iterable接口里面定義的一個方法來觀察:
~~~
default void forEach(Consumer<? super T> action)
~~~
例子: 利用forEach來輸出
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "A", "B", "c", "D", "E");
all.forEach(System.out::println);
~~~
不會采用以上方式完成,因為forEach()只能輸出,但是我們很多時候,在輸出的時候還要對數據進行處理,也就是Iterator輸出是我們主要形式
除了使用Iterator迭代輸出之外,JDK1.8還提供了一個專門可以進行數據處理的類就是stream類
~~~
java.util.stream
~~~
這個類的對象可以利用Collection接口提供的方法操作:
~~~
default Stream<E> stream();
~~~
# 注意
1. Stream 自己不會存儲元素
2. Stream 不會改變源對象。相反,他們會返回一個持有結果的新Stream
3. Stream 操作是延遲執行的。這意味著他們會等到需要結果的時候才執行
Stream的使用流程:
* 步驟一:Stream的實例化
* 步驟二:一系列的中間操作
* 步驟三:終止操作
注意:
1. 步驟二中的中間操作可以有多個
2. 如果沒有終止操作,那么一系列的中間操作是不會執行的。只有執行了步驟三的終止操作,步驟二才會執行:惰性求值
3. 終止操作一旦執行,就不可以再執行中間操作或其他的終止操作。
# 實例化
## 通過集合
~~~
//返回一個順序流
default stream<E> stream();
//返回一個并行流
default stream<E> parallelStream();
~~~
**返回一個順序流**
~~~
ArrayList<String> strings = new ArrayList<>();
Collections.addAll(strings, "A", "B", "c", "D", "E");
Stream<String> stream = strings.stream();
~~~
**返回一個并行流**
~~~
ArrayList<String> strings = new ArrayList<>();
Collections.addAll(strings, "A", "B", "c", "D", "E");
Stream<String> stream = strings.parallelStream();
~~~
## 通過數組
java8中Arrays的靜態方法stream()可以獲取數組流
* `static <T> Stream<T> stream(T[] array)` 返回一個流
重載形式,能夠處理對應基本類型的數組
* public static IntStream stream(int[] array)
* public static LongStream stream(long[] array)
* public static DoubleStream stream(double[] array);
~~~
String[] arr = {"MM", "GG", "JJ", "DD"};
Stream<String> stream = Arrays.stream(arr);
~~~
## 通過Stream的of()
可以調用Stream類靜態方法of(),通過顯示值創建一個流.它可以接收任意數量的參數
* `public static<T> Stream<T> of(T... values)` 返回一個流
~~~
Stream<Integer> stream = Stream.of(1, 2, 3, 4, 5);
~~~
## 創建無限流
可以使用靜態方法Stream.iterate()和Steam.generate()創建無限流
* 迭代
`public static<T> Stream<T> iterate(final T seed, final UnartyOperator<T> f)`
* 生成
`public static<T> Stream<T> generate(Supplier<T> s)`
迭代
~~~
Stream<Integer> stream = Stream.iterate(0, x -> x + 2);
stream.forEach(System.out::println);
~~~
生成
~~~
Stream<Double> stream = Stream.generate(Math::random);
stream.forEach(System.out::println);
~~~
# 中間操作
多個**中間操作**可以連接起來形成一個**流水線**,除非流水線上觸發了終止操作,否則**中間操作不會執行任何的處理.**
**而在終止操作時一次性全部處理,稱為"惰性求值"**
## 篩選與切片
| 方法 | 描述 |
| --- | --- |
| filter(Predicate p) | 接收Lambda,從流中排除某些元素 |
| distinct() | 篩選,通過流所生產元素的hashCode()和equals()去重 |
| limit(long maxSize) | 截斷流,使其元素不超過給定數量 |
| skip(long n) | 跳過元素,返回一個扔掉了前n個元素的流.若流中的元素不足n個,則返回一個空流.與limit(n)互補 |
## 映射
| 方法 | 描述 |
| --- | --- |
| map(Function f) | 接收一個函數作為參數,該函數會被應用到每個元素上,并將其映射成一個新的元素 |
| mapToDouble(ToDoubleFunction f) | 接收一個函數作為參數,該函數會被應用到每個元素上,產生一個新的DoubleStream |
| mapToInt(ToIntFunction f) | 接收一個函數作為參數,該函數會被應用到每個元素上,產生一個新的IntStream |
| mapToLong(ToLongFunction f) | 接收一個函數作為參數,該函數會被應用到每個元素上,產生一個新的LongStream |
| flatMap(Function f) | 接收一個函數作為參數,將流中的每個值都換成另一個流,然后把所有流連接成一個流 |
## 排序
| 方法 | 描述 |
| --- | --- |
| sorted() | 產生一個新流,其中按自然順序排序 |
| sorted(Comparator com) | 產生一個新流,其中按比較器順序排序 |
進行排序:失敗。
原因:沒有實現Comparable接口
~~~
list1.stream().sorted((e1,e2) -> {
if(e1.getAge() != e2.getAge()){
return e1.getAge() - e2.getAge();
}else{
//double比較
return -Double.compare(e1.getSalary(),e2.getSalary());
}
}).forEach(System.out::println);
~~~
# 終止操作
終端操作會從流的流水線生成結果.
其結果可以是任何不適流的值,例如:List,Integer,甚至是void.
流進行終止操作后,不能再次使用
## 匹配查找
| 方法 | 描述 |
| --- | --- |
| allMatch(Predicate p) | 檢查是否匹配所有元素 |
| anyMatch(Predicate p) | 檢查是否至少匹配一個元素 |
| noneMatch(Predicate p) | 檢查是否沒有匹配所有元素 |
| findFirst() | 返回第一個元素 |
| findAny() | 返回當前流中的任意元素 |
| count() | 返回流中元素的總個數 |
| max(Comparator c) | 返回流中最大值 |
| min(Comparator c) | 返回流中最小值 |
| forEach(Consumer c) | 內部迭代 |
~~~
List<Employee> list = EmployeeData.getEmployees();
// allMatch(Predicate p)——檢查是否匹配所有元素
//是否所有的員工的年齡都大于18
boolean b = list.stream().allMatch(e -> e.getAge() > 18);
System.out.println(b);
// anyMatch(Predicate p)——檢查是否至少匹配一個元素
//是否存在員工的工資大于 10000
boolean b1 = list.stream().anyMatch(e -> e.getSalary() > 9900);
System.out.println(b1);
// noneMatch(Predicate p)——檢查是否沒有匹配的元素
//是否存在員工姓“雷”
boolean b2 = list.stream().noneMatch(e -> e.getName().contains("雷"));
System.out.println(b2);
// count——返回流中元素的總個數
long count = list.stream().filter(e -> e.getSalary() > 5000).count();
System.out.println(count);
// 練習:返回最高的工資:
Stream<Employee> stream = list.stream();
Stream<Double> stream1 = stream.map(Employee::getSalary);
Optional<Double> max = stream1.max(Double::compare);
System.out.println(max.get());
// min(Comparator c)——返回流中最小值
// 練習:返回最低工資的員工
Stream<Employee> stream2 = list.stream();
Optional<Employee> min = stream2.min((e1, e2) -> Double.compare(e1.getSalary(), e2.getSalary()));
System.out.println(min.get());
~~~
## 歸約
| 方法 | 描述 |
| --- | --- |
| reduce(T iden, BinaryOperator b) | 可以將流中元素反復結合起來,得到一個值,返回T |
| reduce(BinaryOperator b) | 可以將流中元素反復結合起來,得到一個值,返回Optional<T> |
~~~
List<Integer> list = Arrays.asList(1,2,3,4,5,6);
// Integer sum = list.stream().reduce(0, (x1, x2) -> x1 + x2);
//如果是空就會取默認值10
Integer sum = list.stream().reduce(10, Integer::sum);
System.out.println(sum);
// reduce(BinaryOperator) ——可以將流中元素反復結合起來,得到一個值。返回 Optional<T>
// 練習1:計算公司所有員工工資的總和
List<Employee> emps = EmployeeData.getEmployees();
Stream<Double> moneyStream = emps.stream().map(Employee::getSalary);
Optional<Double> moneyOptional = moneyStream.reduce(Double::sum);
System.out.println(moneyOptional.get());
~~~
## 收集
| 方法 | 描述 |
| --- | --- |
| collect(Collector c) | 將流轉換為其他形式.接收一個Collector接口的實現,用于給stream中元素做匯總的方法 |
Collector接口中方法的實現決定了如何對流執行收集的操作(如收集到List,Set,Map)
另外,Collectors使用類提供了很多靜態方法,可以方便地創建常見收集器實例

# 例子
## 取得Stream對象并統計個數
~~~
long count();
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "A", "B", "c", "D", "E");
Stream<String> stream = all.stream();
//取得個數
System.out.println(stream.count());
~~~
## 去掉重復數據
~~~
Stream<T> distinct();
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "A", "B", "E", "A", "a");
Stream<String> stream = all.stream();
//去重后的數據
System.out.println(stream.distinct().count());
~~~
## 收集器(最后使用)
~~~
<R, A> R collect(Collector<? super T, A, R> collector);
~~~
需要Collectors方法
~~~
public static <T> Collector<T, ?, List<T>> toList()
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "A", "B", "E", "A", "a");
Stream<String> stream = all.stream();
//去除掉所有的重復數據后形成的新的集合,里面是不包含重復內容的集合
List<String> collect = stream.distinct().collect(Collectors.toList());
System.out.println(collect);
~~~
既然Stream類是進行數據處理的,那么在數據處理過程中就不可能不進行數據篩選(過濾)
## 數據過濾
~~~
Stream<T> filter(Predicate<? super T> predicate);
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "A", "B", "E", "A", "a");
Stream<String> stream = all.stream();
//增加了數據的過濾操作,使用了斷言行的函數接口,使用了string的contains
List<String> collect = stream.distinct().filter((x) -> x.contains("a")).collect(Collectors.toList());
System.out.println(collect);
~~~
數據過濾是區分大小寫的,那么在數據過濾前要對數據進行處理呢?
## map數據處理方法
map是針對數據逐行處理
~~~
<R> Stream<R> map(Function<? super T, ? extends R> mapper);
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "Android", "Java", "Ios", "jsp", "ORACLE");
Stream<String> stream = all.stream();
List<String> collect = stream.distinct()
.map((x) -> x.toLowerCase())
.filter((x) -> x.contains("a"))
.collect(Collectors.toList());
System.out.println(collect);
~~~
## 集合數據分頁
在Stream接口里面提供有進行集合數據分頁的操作
* 設置跳過的數據行數
~~~
public Stream<T> skip(long n);
~~~
* 設置取出的數據個數
~~~
public Stream<T> limit(long maxSize);
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "Android", "Java", "Ios", "jsp", "ORACLE");
Stream<String> stream = all.stream();
List<String> collect = stream.distinct()
.map((x) -> x.toLowerCase())
.skip(2).limit(2)
.collect(Collectors.toList());
System.out.println(collect);
~~~
在stream可以進行數據全匹配和部分比配
## 數據匹配
* 全匹配
~~~
public boolean allMatch(Predicate<? super T> predicate);
~~~
* 匹配任意一個
~~~
public boolean anyMatch(Predicate<? super T> predicate);
~~~
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "Android", "Java", "Ios", "jsp", "ORACLE");
Stream<String> stream = all.stream();
boolean bool = stream.anyMatch((x) -> x.contains("jsp"));
System.out.println(bool);
~~~
在實際之中有可能會出現多個匹配條件,在斷言型接口函數式接口里面提供有如下的方法
* 或操作
~~~
default Predicate<T> or(Predicate<? super T> other);
~~~
* 與操作
~~~
default Predicate<T> and(Predicate<? super T> other);
~~~
**設置多個條件**
~~~
ArrayList<String> all = new ArrayList<>();
boolean b = Collections.addAll(all, "Android", "Java", "Ios", "jsp", "ORACLE", "jspIos");
Stream<String> stream = all.stream();
Predicate<String> p1 = (x) -> x.contains("jsp");
Predicate<String> p2 = (x) -> x.contains("Ios");
//同時使用2個條件
if (stream.anyMatch(p1.or(p2))) {
System.out.println("數據存在");
}
~~~
利用這樣的匹配條件,可以針對數據進行方便的查詢操作
如果要想更好的返回stream的操作優勢,必須結合MapReduce
## 數據分析reduce
就是做數據統計使用的
~~~
public Optional<T> reduce(BinaryOperator<T> accumulator);
~~~
我們點進去看下
~~~
public interface BinaryOperator<T> extends BiFunction<T,T,T>
public interface BiFunction<T, U, R>
|
|--- R apply(T t, U u);
~~~
比如一個購物類
~~~
class ShopCar {
//商品名稱
private String pname;
//商品單價
private double price;
//購買數量
private int amount;
public ShopCar(String pname, double price, int amount) {
this.pname = pname;
this.price = price;
this.amount = amount;
}
public String getPname() {
return pname;
}
public double getPrice() {
return price;
}
public int getAmount() {
return amount;
}
}
~~~
設計的時候設計出了商品的單價與數量,這樣如果獲取一個商品花費的錢,就要單價乘以數量
例子:求每個商品花費的數量和金額
~~~
all.add(new ShopCar("java", 800, 20));
all.add(new ShopCar("php", 100, 10));
all.add(new ShopCar("c++", 200, 15));
all.add(new ShopCar("c", 300, 30));
Stream<ShopCar> stream = all.stream();
all.stream().map((x) -> x.getAmount() * x.getPrice()) .forEach(System.out::println);
~~~
但是這時候處理沒有總價,于是數據處理的總價就用reduce完成
~~~
ArrayList<ShopCar> all = new ArrayList<>();
all.add(new ShopCar("java", 800, 20));
all.add(new ShopCar("php", 100, 10));
all.add(new ShopCar("c++", 200, 15));
all.add(new ShopCar("c", 300, 30));
Stream<ShopCar> stream = all.stream();
Double s = all.stream().map((x) -> x.getAmount() * x.getPrice())
.reduce((sum, m) -> sum + m).get();
System.out.println(s);
~~~
以上只是實現了一個最簡單的MapReuce,但是完成的統計實在有限,如果要更完善統計,需要使用如下方法
## 統計
~~~
* 按照Double處理
DoubleStream mapToDouble(ToDoubleFunction<? super T> mapper);
* 按照Int處理
IntStream mapToInt(ToIntFunction<? super T> mapper);
* 按照Long處理
LongStream mapToLong(ToLongFunction<? super T> mapper);
~~~
~~~
ArrayList<ShopCar> all = new ArrayList<>();
all.add(new ShopCar("java", 800, 20));
all.add(new ShopCar("php", 100, 10));
all.add(new ShopCar("c++", 200, 15));
all.add(new ShopCar("c", 300, 30));
Stream<ShopCar> stream = all.stream();
DoubleSummaryStatistics dss = all.stream().mapToDouble((x) -> x.getAmount() * x.getPrice())
.summaryStatistics();
System.out.println("商品個數: " + dss.getCount());
System.out.println("商品總花費: " + dss.getSum());
System.out.println("平局花費: " + dss.getAverage());
System.out.println("最高花費: " + dss.getMax());
System.out.println("最低花費: " + dss.getMin());
~~~
- 基礎
- 編譯和安裝
- classpath到底是什么?
- 編譯運行
- 安裝
- sdkman多版本
- jabba多版本
- java字節碼查看
- 數據類型
- 簡介
- 整形
- char和int
- 變量和常量
- 大數值運算
- 基本類型包裝類
- Math類
- 內存劃分
- 位運算符
- 方法相關
- 方法重載
- 可變參數
- 方法引用
- 面向對象
- 定義
- 繼承和覆蓋
- 接口和抽象類
- 接口定義增強
- 內建函數式接口
- 多態
- 泛型
- final和static
- 內部類
- 包
- 修飾符
- 異常
- 枚舉類
- 代碼塊
- 對象克隆
- BeanUtils
- java基礎類
- scanner類
- Random類
- System類
- Runtime類
- Comparable接口
- Comparator接口
- MessageFormat類
- NumberFormat
- 數組相關
- 數組
- Arrays
- string相關
- String
- StringBuffer
- StringBuilder
- 正則
- 日期類
- Locale類
- Date
- DateFormat
- SimpleDateFormat
- Calendar
- 新時間日期API
- 簡介
- LocalDate,LocalTime,LocalDateTime
- Instant時間點
- 帶時區的日期,時間處理
- 時間間隔
- 日期時間校正器
- TimeUnit
- 用yyyy
- 集合
- 集合和迭代器
- ArrayList集合
- List
- Set
- 判斷集合唯一
- Map和Entry
- stack類
- Collections集合工具類
- Stream數據流
- foreach不能修改內部元素
- of方法
- IO
- File類
- 字節流stream
- 字符流Reader
- IO流分類
- 轉換流
- 緩沖流
- 流的操作規律
- properties
- 序列化流與反序列化流
- 打印流
- System類對IO支持
- commons-IO
- IO流總結
- NIO
- 異步與非阻塞
- IO通信
- Unix的IO模型
- epoll對于文件描述符操作模式
- 用戶空間和內核空間
- NIO與普通IO的主要區別
- Paths,Path,Files
- Buffer
- Channel
- Selector
- Pipe
- Charset
- NIO代碼
- 多線程
- 創建線程
- 線程常用方法
- 線程池相關
- 線程池概念
- ThreadPoolExecutor
- Runnable和Callable
- 常用的幾種線程池
- 線程安全
- 線程同步的幾種方法
- synchronized
- 死鎖
- lock接口
- ThreadLoad
- ReentrantLock
- 讀寫鎖
- 鎖的相關概念
- volatile
- 釋放鎖和不釋放鎖的操作
- 等待喚醒機制
- 線程狀態
- 守護線程和普通線程
- Lamda表達式
- 反射相關
- 類加載器
- 反射
- 注解
- junit注解
- 動態代理
- 網絡編程相關
- 簡介
- UDP
- TCP
- 多線程socket上傳圖片
- NIO
- JDBC相關
- JDBC
- 預處理
- 批處理
- 事務
- properties配置文件
- DBUtils
- DBCP連接池
- C3P0連接池
- 獲得MySQL自動生成的主鍵
- Optional類
- Jigsaw模塊化
- 日志相關
- JDK日志
- log4j
- logback
- xml
- tomcat
- maven
- 簡介
- 倉庫
- 目錄結構
- 常用命令
- 生命周期
- idea配置
- jar包沖突
- 依賴范圍
- 私服
- 插件
- git-commit-id-plugin
- maven-assembly-plugin
- maven-resources-plugin
- maven-compiler-plugin
- versions-maven-plugin
- maven-source-plugin
- tomcat-maven-plugin
- 多環境
- 自定義插件
- stream
- swing
- json
- jackson
- optional
- junit
- gradle
- servlet
- 配置
- ServletContext
- 生命周期
- HttpServlet
- request
- response
- 亂碼
- session和cookie
- cookie
- session
- jsp
- 簡介
- 注釋
- 方法,成員變量
- 指令
- 動作標簽
- 隱式對象
- EL
- JSTL
- javaBean
- listener監聽器
- Filter過濾器
- 圖片驗證碼
- HttpUrlConnection
- 國際化
- 文件上傳
- 文件下載
- spring
- 簡介
- Bean
- 獲取和實例化
- 屬性注入
- 自動裝配
- 繼承和依賴
- 作用域
- 使用外部屬性文件
- spel
- 前后置處理器
- 生命周期
- 掃描規則
- 整合多個配置文件
- 注解
- 簡介
- 注解分層
- 類注入
- 分層和作用域
- 初始化方法和銷毀方法
- 屬性
- 泛型注入
- Configuration配置文件
- aop
- aop的實現
- 動態代理實現
- cglib代理實現
- aop名詞
- 簡介
- aop-xml
- aop-注解
- 代理方式選擇
- jdbc
- 簡介
- JDBCTemplate
- 事務
- 整合
- junit整合
- hibernate
- 簡介
- hibernate.properties
- 實體對象三種狀態
- 檢索方式
- 簡介
- 導航對象圖檢索
- OID檢索
- HQL
- Criteria(QBC)
- Query
- 緩存
- 事務管理
- 關系映射
- 注解
- 優化
- MyBatis
- 簡介
- 入門程序
- Mapper動態代理開發
- 原始Dao開發
- Mapper接口開發
- SqlMapConfig.xml
- map映射文件
- 輸出返回map
- 輸入參數
- pojo包裝類
- 多個輸入參數
- resultMap
- 動態sql
- 關聯
- 一對一
- 一對多
- 多對多
- 整合spring
- CURD
- 占位符和sql拼接以及參數處理
- 緩存
- 延遲加載
- 注解開發
- springMVC
- 簡介
- RequestMapping
- 參數綁定
- 常用注解
- 響應
- 文件上傳
- 異常處理
- 攔截器
- springBoot
- 配置
- 熱更新
- java配置
- springboot配置
- yaml語法
- 運行
- Actuator 監控
- 多環境配置切換
- 日志
- 日志簡介
- logback和access
- 日志文件配置屬性
- 開機自啟
- aop
- 整合
- 整合Redis
- 整合Spring Data JPA
- 基本查詢
- 復雜查詢
- 多數據源的支持
- Repository分析
- JpaSpeci?cationExecutor
- 整合Junit
- 整合mybatis
- 常用注解
- 基本操作
- 通用mapper
- 動態sql
- 關聯映射
- 使用xml
- spring容器
- 整合druid
- 整合郵件
- 整合fastjson
- 整合swagger
- 整合JDBC
- 整合spingboot-cache
- 請求
- restful
- 攔截器
- 常用注解
- 參數校驗
- 自定義filter
- websocket
- 響應
- 異常錯誤處理
- 文件下載
- 常用注解
- 頁面
- Thymeleaf組件
- 基本對象
- 內嵌對象
- 上傳文件
- 單元測試
- 模擬請求測試
- 集成測試
- 源碼解析
- 自動配置原理
- 啟動流程分析
- 源碼相關鏈接
- Servlet,Filter,Listener
- springcloud
- 配置
- 父pom
- 創建子工程
- Eureka
- Hystrix
- Ribbon
- Feign
- Zuul
- kotlin
- 基本數據類型
- 函數
- 區間
- 區塊鏈
- 簡介
- linux
- ulimit修改
- 防止syn攻擊
- centos7部署bbr
- debain9開啟bbr
- mysql
- 隔離性
- sql執行加載順序
- 7種join
- explain
- 索引失效和優化
- 表連接優化
- orderby的filesort問題
- 慢查詢
- show profile
- 全局查詢日志
- 死鎖解決
- sql
- 主從
- IDEA
- mac快捷鍵
- 美化界面
- 斷點調試
- 重構
- springboot-devtools熱部署
- IDEA進行JAR打包
- 導入jar包
- ProjectStructure
- toString添加json模板
- 配置maven
- Lombok插件
- rest client
- 文檔顯示
- sftp文件同步
- 書簽
- 代碼查看和搜索
- postfix
- live template
- git
- 文件頭注釋
- JRebel
- 離線模式
- xRebel
- github
- 連接mysql
- 選項沒有Java class的解決方法
- 擴展
- 項目配置和web部署
- 前端開發
- json和Inject language
- idea內存和cpu變高
- 相關設置
- 設計模式
- 單例模式
- 簡介
- 責任鏈
- JUC
- 原子類
- 原子類簡介
- 基本類型原子類
- 數組類型原子類
- 引用類型原子類
- JVM
- JVM規范內存解析
- 對象的創建和結構
- 垃圾回收
- 內存分配策略
- 備注
- 虛擬機工具
- 內存模型
- 同步八種操作
- 內存區域大小參數設置
- happens-before
- web service
- tomcat
- HTTPS
- nginx
- 變量
- 運算符
- 模塊
- Rewrite規則
- Netty
- netty為什么沒用AIO
- 基本組件
- 源碼解讀
- 簡單的socket例子
- 準備netty
- netty服務端啟動
- 案例一:發送字符串
- 案例二:發送對象
- websocket
- ActiveMQ
- JMS
- 安裝
- 生產者-消費者代碼
- 整合springboot
- kafka
- 簡介
- 安裝
- 圖形化界面
- 生產過程分析
- 保存消息分析
- 消費過程分析
- 命令行
- 生產者
- 消費者
- 攔截器interceptor
- partition
- kafka為什么快
- kafka streams
- kafka與flume整合
- RabbitMQ
- AMQP
- 整體架構
- RabbitMQ安裝
- rpm方式安裝
- 命令行和管控頁面
- 消息生產與消費
- 整合springboot
- 依賴和配置
- 簡單測試
- 多方測試
- 對象支持
- Topic Exchange模式
- Fanout Exchange訂閱
- 消息確認
- java client
- RabbitAdmin和RabbitTemplate
- 兩者簡介
- RabbitmqAdmin
- RabbitTemplate
- SimpleMessageListenerContainer
- MessageListenerAdapter
- MessageConverter
- 詳解
- Jackson2JsonMessageConverter
- ContentTypeDelegatingMessageConverter
- lucene
- 簡介
- 入門程序
- luke查看索引
- 分析器
- 索引庫維護
- elasticsearch
- 配置
- 插件
- head插件
- ik分詞插件
- 常用術語
- Mapping映射
- 數據類型
- 屬性方法
- Dynamic Mapping
- Index Template 索引模板
- 管理映射
- 建立映射
- 索引操作
- 單模式下CURD
- mget多個文檔
- 批量操作
- 版本控制
- 基本查詢
- Filter過濾
- 組合查詢
- 分析器
- redis
- String
- list
- hash
- set
- sortedset
- 發布訂閱
- 事務
- 連接池
- 管道
- 分布式可重入鎖
- 配置文件翻譯
- 持久化
- RDB
- AOF
- 總結
- Lettuce
- zookeeper
- zookeeper簡介
- 集群部署
- Observer模式
- 核心工作機制
- zk命令行操作
- zk客戶端API
- 感知服務動態上下線
- 分布式共享鎖
- 原理
- zab協議
- 兩階段提交協議
- 三階段提交協議
- Paxos協議
- ZAB協議
- hadoop
- 簡介
- hadoop安裝
- 集群安裝
- 單機安裝
- linux編譯hadoop
- 添加新節點
- 退役舊節點
- 集群間數據拷貝
- 歸檔
- 快照管理
- 回收站
- 檢查hdfs健康狀態
- 安全模式
- hdfs簡介
- hdfs命令行操作
- 常見問題匯總
- hdfs客戶端操作
- mapreduce工作機制
- 案例-單詞統計
- 局部聚合Combiner
- combiner流程
- combiner案例
- 自定義排序
- 自定義Bean對象
- 排序的分類
- 案例-按總量排序需求
- 一次性完成統計和排序
- 分區
- 分區簡介
- 案例-結果分區
- 多表合并
- reducer端合并
- map端合并(分布式緩存)
- 分組
- groupingComparator
- 案例-求topN
- 全局計數器
- 合并小文件
- 小文件的弊端
- CombineTextInputFormat機制
- 自定義InputFormat
- 自定義outputFormat
- 多job串聯
- 倒排索引
- 共同好友
- 串聯
- 數據壓縮
- InputFormat接口實現類
- yarn簡介
- 推測執行算法
- 本地提交到yarn
- 框架運算全流程
- 數據傾斜問題
- mapreduce的優化方案
- HA機制
- 優化
- Hive
- 安裝
- shell參數
- 數據類型
- 集合類型
- 數據庫
- DDL操作
- 創建表
- 修改表
- 分區表
- 分桶表
- DML操作
- load
- insert
- select
- export,import
- Truncate
- 注意
- 嚴格模式
- 函數
- 內置運算符
- 內置函數
- 自定義函數
- Transfrom實現
- having和where不同
- 壓縮
- 存儲
- 存儲和壓縮結合使用
- explain詳解
- 調優
- Fetch抓取
- 本地模式
- 表的優化
- GroupBy
- count(Distinct)去重統計
- 行列過濾
- 動態分區調整
- 數據傾斜
- 并行執行
- JVM重用
- 推測執行
- reduce內存和個數
- sql查詢結果作為變量(shell)
- youtube
- flume
- 簡介
- 安裝
- 常用組件
- 攔截器
- 案例
- 監聽端口到控制臺
- 采集目錄到HDFS
- 采集文件到HDFS
- 多個agent串聯
- 日志采集和匯總
- 單flume多channel,sink
- 自定義攔截器
- 高可用配置
- 使用注意
- 監控Ganglia
- sqoop
- 安裝
- 常用命令
- 數據導入
- 準備數據
- 導入數據到HDFS
- 導入關系表到HIVE
- 導入表數據子集
- 增量導入
- 數據導出
- 打包腳本
- 作業
- 原理
- azkaban
- 簡介
- 安裝
- 案例
- 簡介
- command類型單一job
- command類型多job工作流flow
- HDFS操作任務
- mapreduce任務
- hive腳本任務
- oozie
- 安裝
- hbase
- 簡介
- 系統架構
- 物理存儲
- 尋址機制
- 讀寫過程
- 安裝
- 命令行
- 基本CURD
- java api
- CURD
- CAS
- 過濾器查詢
- 建表高級屬性
- 與mapreduce結合
- 與sqoop結合
- 協處理器
- 參數配置優化
- 數據備份和恢復
- 節點管理
- 案例-點擊流
- 簡介
- HUE
- 安裝
- storm
- 簡介
- 安裝
- 集群啟動及任務過程分析
- 單詞統計
- 單詞統計(接入kafka)
- 并行度和分組
- 啟動流程分析
- ACK容錯機制
- ACK簡介
- BaseRichBolt簡單使用
- BaseBasicBolt簡單使用
- Ack工作機制
- 本地目錄樹
- zookeeper目錄樹
- 通信機制
- 案例
- 日志告警
- 工具
- YAPI
- chrome無法手動拖動安裝插件
- 時間和空間復雜度
- jenkins
- 定位cpu 100%
- 常用腳本工具
- OOM問題定位
- scala
- 編譯
- 基本語法
- 函數
- 數組常用方法
- 集合
- 并行集合
- 類
- 模式匹配
- 異常
- tuple元祖
- actor并發編程
- 柯里化
- 隱式轉換
- 泛型
- 迭代器
- 流stream
- 視圖view
- 控制抽象
- 注解
- spark
- 企業架構
- 安裝
- api開發
- mycat
- Groovy
- 基礎