* [ ] 用于讓機器學習模型看到的不同樣本彼此之間更加相似 **最常見的數據標準化**：將數據減去其平均值使其中心為0，然后將數據除以其標準差使其標準差為1。 * 這種做法假設數據服從正態分布（也叫高斯分布），并確保讓該分布的中心為0，同時縮放到方差為1 `normalized_data=(data-np.mean(data,axis=...))/np.std(data,axis=...)` **批標準化** （batch normalization） * Ioffe 和 Szegedy 在 2015 年提出的一種層的類型 * 在 Keras 中是 `BatchNormalization` * 在訓練過程中均值和方差隨時間發生變化，它也可以適應性地將數據標準化 * 工作原理 ： * 訓練過程中在內部保存已讀取每批數據均值和方差的指數移動平均值 * 作用：有助于梯度傳播 **使用** ``` conv_model.add(layers.Conv2D(32,3,activation='relu')) #在卷積層之后使用 conv_model.add(layers.BatchNormalization()) dense_model.add(layers.Dense(32,activation='relu')) #在Dense層之后使用 dense_model.add(layers.BatchNormalization()) ``` **參數`axis`** * `BatchNormalization`層接收一個`axis`參數，它指定應該對哪個特征軸做標準化 * 參數的默認值是-1，即輸入張量的最后一個軸 * 使用范圍：Dense層、Conv1D層、RNN層、將data_format設為"channels_last"（通道在后）的Conv2D層 * 將data_format設為"channels_first"（通道在前）的Conv2D層，這時特征軸是編號為1的軸，取1