**預訓練網絡**（pretrained network）： * 是一個保存好的網絡，之前已在大型數據集（通常是大規模圖像分類任務）上訓練好。訓練了一個網絡（其類別主要是**動物和日常用品**），然后將這個訓練好的網絡應用于某個**不相干**的任務，比如在圖像中**識別家具**。 ***** ### **特征提取** 特征提取是使用之前網絡學到的表示來從新樣本中提取出有趣的特征。然后將這些特征輸入一個新的分類器，從頭開始訓練。 圖像分類的**卷積神經網絡**包含兩部分： * 一系列池化層和卷積層：模型的**卷積基**（convolutional base） * 一個密集連接分類器 對于**卷積神經網絡**而言，**特征提取**就是取出之前訓練好的網絡的卷積基，在上面運行新數據，然后在輸出上面訓練一個新的分類器。  * 某個卷積層提取的表示的**通用性**（以及可復用性）取決于該層在模型中的**深度** * 新數據集與原始模型訓練的數據集有**很大差異**，那么最好只使用模型的**前幾層**來做特征提取，而不是使用整個卷積基 * 模型中更靠近底部的層提取的是局部的、高度通用的特征圖（比如視覺邊緣、顏色和紋理），而更靠近頂部的層提取的是更加抽象的概念（比如“貓耳朵”或“狗眼睛”） ### **微調模型** * 與特征提取互為補充。對于用于特征提取的凍結的模型基，微調是指將其頂部的幾層“解凍”，并將這解凍的幾層和新增加的部分聯合訓練。 * **微調**，它只是略微調整了所復用模型中更加抽象的表示，以便讓這些表示與手頭的問題更加相關。 #### **步驟：** 1. 在已經訓練好的基網絡（base network）上添加自定義網絡。 2. 凍結基網絡。 3. 訓練所添加的部分。 4. 解凍基網絡的一些層。 5. 聯合訓練解凍的這些層和添加的部分。 * [ ] 微調最后三個卷積層`block5_conv1`、`block5_conv2`和`block5_conv3`