TF Slim · 精通 TensorFlow 1.x

# TF Slim TF Slim 是一個基于 TensorFlow 核心構建的輕量級庫，用于定義和訓練模型。 TF Slim 可與其他 TensorFlow 低級和高級庫（如 TF Learn）結合使用。 TF Slim 是包裝中 TensorFlow 安裝的一部分：`tf.contrib.slim`。運行以下命令以檢查 TF Slim 安裝是否正常工作： ```py python3 -c 'import tensorflow.contrib.slim as slim; eval = slim.evaluation.evaluate_once' ``` TF Slim 提供了幾個模塊，可以獨立挑選和應用，并與其他 TensorFlow 軟件包混合使用。例如，在撰寫本書時，TF Slim 有以下主要模塊： | TF Slim 模塊 | 模塊說明 | | --- | --- | | arg_scope | 提供將元素應用于作用域下定義的所有圖節點的機制。 | | 層 | 提供幾種不同的層，如`fully_connected`，`conv2d`等等。 | | 損失 | 提供用于訓練優化器的損失函數 | | 學習 | 提供訓練模型的函數 | | 評測 | 提供評估函數 | | 指標 | 提供用于評估模型的度量函數 | | regularizers | 提供用于創建正則化方法的函數 | | 變量 | 提供變量創建的函數 | | 網 | 提供各種預制和預訓練模型，如 VGG16，InceptionV3，ResNet | TF Slim 的簡單工作流程如下： 1. 使用細長層創建模型。 2. 提供層的輸入以實例化模型。 3. 使用 logits 和標簽來定義損失。 4. 使用便利函數`get_total_loss()`獲得全部損失。 5. 創建一個優化器。 6. 使用便利函數`slim.learning.create_train_op()`，`total_loss`和`optimizer`創建訓練函數。 7. 使用上一步中定義的便捷函數`slim.learning.train()`和訓練函數運行訓練。筆記本 `ch-02_TF_High_Level_Libraries` 中提供了 MNIST 分類示例的完整代碼。 TF Slim MNIST 示例的輸出如下： ```py INFO:tensorflow:Starting Session. INFO:tensorflow:Saving checkpoint to path ./slim_logs/model.ckpt INFO:tensorflow:global_step/sec: 0 INFO:tensorflow:Starting Queues. INFO:tensorflow:global step 100: loss = 2.2669 (0.010 sec/step) INFO:tensorflow:global step 200: loss = 2.2025 (0.010 sec/step) INFO:tensorflow:global step 300: loss = 2.1257 (0.010 sec/step) INFO:tensorflow:global step 400: loss = 2.0419 (0.009 sec/step) INFO:tensorflow:global step 500: loss = 1.9532 (0.009 sec/step) INFO:tensorflow:global step 600: loss = 1.8733 (0.010 sec/step) INFO:tensorflow:global step 700: loss = 1.8002 (0.010 sec/step) INFO:tensorflow:global step 800: loss = 1.7273 (0.010 sec/step) INFO:tensorflow:global step 900: loss = 1.6688 (0.010 sec/step) INFO:tensorflow:global step 1000: loss = 1.6132 (0.010 sec/step) INFO:tensorflow:Stopping Training. INFO:tensorflow:Finished training! Saving model to disk. final loss=1.6131552457809448 ``` 從輸出中可以看出，便捷函數`slim.learning.train()`將訓練輸出保存在指定日志目錄中的檢查點文件中。如果重新開始訓練，它將首先檢查檢查點是否存在，并且默認情況下將從檢查點恢復訓練。在撰寫本文時，TF Slim 的文檔頁面在以下鏈接中被發現為空：[https://www.tensorflow.org/api_docs/python/tf/contrib/slim](https://www.tensorflow.org/api_docs/python/tf/contrib/slim)。但是，可以在以下鏈接的源代碼中找到一些文檔：[https://github.com/tensorflow/tensorflow/tree/r1.4/tensorflow/contrib/slim](https://github.com/tensorflow/tensorflow/tree/r1.4/tensorflow/contrib/slim)。我們將使用 TF Slim 來學習如何在后面的章節中使用預訓練的模型，如 VGG16 和 Inception V3。