# 零、前言
隨著世界朝著數字化和自動化的方向發展,作為技術專家/程序員,保持自我更新并學習如何利用這些工具和技術非常重要。 本書《Python 遷移學習實用指南》旨在幫助從業人員熟悉并準備好在各自領域中使用這些進步。 本書大致分為三個部分:
* 深度學習基礎
* 遷移學習的要點
* 遷移學習案例研究
遷移學習是一種**機器學習**(**ML**)技術,其中在訓練一組 ML 問題中獲得的知識可以用于訓練其他類似類型的問題。
這本書的目的是雙重的。 我們將專注于深度學習和遷移學習的詳細介紹,并通??過易于理解的概念和示例將兩者進行比較和對比。 第二個重點領域是使用 TensorFlow,Keras 和 Python 生態系統(帶動手實例)的實際示例和研究問題。
本書從 ML 和深度學習的核心基本概念開始,然后是一些重要的深度學習架構的描述和覆蓋,例如 CNN,DNN,RNN,LSTM 和膠囊網絡。 然后,我們的重點轉移到遷移學習概念和經過訓練的*高級網絡*,例如 VGG,Inception 和 ResNet。 我們還將學習如何利用這些系統來改善我們的深度學習模型的表現。 最后,我們重點關注**計算機視覺**,**音頻分析**和**自然語言處理**(**NLP**)。
到本書結尾,您將準備好在自己的系統中既實現深度學習又實現遷移學習的原則。
# 這本書是給誰的
《Python 遷移學習實用指南》適用于對數據感興趣并應用最先進的遷移學習方法來解決實際難題的數據科學家,ML 工程師,分析師和開發人員。
需要具備 ML 和 Python 的基本知識。
# 本書涵蓋的內容
第 1 章“機器學習基礎”介紹了 CRISP-DM 模型,該模型為任何數據科學,ML 或深度學習項目提供了行業標準框架/工作流程。 我們還將涉及涵蓋 ML 領域基礎知識的各種重要概念,例如探索性數據分析,特征提取和工程,評估指標等。
第 2 章“深度學習基礎知識”提供了深度學習基礎知識的旋風之旅,概述了神經網絡的基本組成部分以及如何訓練深度神經網絡。 從單個神經單元工作原理的基礎開始,涵蓋了重要的概念,例如激活函數,損失函數,優化器和神經網絡超參數。 還特別強調建立本地和基于云的深度學習環境。
第 3 章“了解深度學習架構”著重于理解當今在深度學習中使用的各種標準模型架構。 自 1960 年代的傳統人工神經網絡以來,我們已經走了很長一段路,而基本模型架構,例如完全連接的**深層神經網絡**(**DNN**),**卷積神經網絡**(**CNN**),**循環神經網絡**(**RNN**),**長期記憶**(**LSTM**)網絡, 僅舉幾例,將介紹最新的**膠囊網絡**。
第 4 章“遷移學習基礎”著眼于與遷移學習概念相關的核心概念,術語和模型架構。 將詳細討論與預訓練模型有關的概念和架構。 我們還將把遷移學習與深度學習進行比較和對比,并討論遷移學習的類型和策略。
第 5 章“釋放遷移學習的力量”,以來自 Kaggle 的數據集為例,利用深度學習模型和少量數據點,使讀者了解我們面臨的挑戰,以及遷移學習如何釋放其真正的力量和潛力,以在這些情況下為我們提供出色的模型。 在這里,我們將通過較少的數據可用性約束來解決非常受歡迎的貓貓分類任務。
第 6 章“圖像識別和分類”是在本書的前兩部分中詳細討論的概念的一系列實際應用/案例研究中的第一篇。 本章首先介紹了圖像分類的任務,然后繼續討論并實現了針對各種圖像分類問題的一些流行的,最新的深度學習模型。
第 7 章“文本文檔分類”討論了遷移學習在非常流行的自然語言處理問題文本文檔分類中的應用。 本章從高層次介紹多類別文本分類問題,傳統模型,基準文本分類數據集(例如 20 個新聞組)和表現開始。 隨后,它介紹了用于文本分類的深度學習文檔模型及其相對于傳統模型的優勢。 我們將學習使用密集向量的單詞特征表示,以及如何在文本分類問題中如何利用相同特征來應用遷移學習,從而使源域和目標域可能有所不同。 還描述了其他無監督的任務,例如文檔摘要。
第 8 章“音頻識別和分類”解決了識別和分類非常短的音頻剪輯的難題。 在這里,我們利用一些創新技術來利用遷移學習,這些創新技術將來自計算機視覺領域的預訓練深度學習模型的功能應用于完全不同的音頻識別領域。
第 9 章“DeepDream”著重介紹了生成型深度學習的領域,這是真正人工智能最前沿的核心思想之一。 我們將重點研究卷積神經(CNN)如何通過遷移學習來思考或夢想和形象化圖像中的模式。 由 Google 于 2015 年首次發布,由于深層網絡開始從圖像中產生有趣的模式,仿佛自己在思考和做夢,它引起了轟動。
第 10 章“風格遷移”利用來自深度學習,遷移學習和生成學習的概念,通過動手實例在不同內容和樣式的圖像上展示藝術圖像神經風格遷移。
第 11 章“自動圖像字幕生成器”涵蓋了計算機視覺以及自然語言生成中最復雜的問題之一-圖像字幕。 雖然將圖像分類為固定類別具有挑戰性但并非不可能,但這是一個稍微復雜的任務,涉及為任何照片或場景生成類似于人類的自然語言文本說明。 利用遷移學習,自然語言處理和生成模型的功能,您將學習如何從頭開始構建自己的自動圖像字幕系統。
第 12 章“圖像著色”提供了一個獨特的案例研究,其任務是為黑白或灰度圖像著色。 本章向讀者介紹各種色標的基礎知識,以及為什么圖像著色是一項如此困難的任務。
# 充分利用這本書
1. 如果您精通 ML 和 Python,那就太好了。
2. 對數據分析,機器學習和深度學習的濃厚興趣將是有益的。
# 使用約定
本書中使用了許多文本約定。
`CodeInText`:指示文本,數據庫表名稱,文件夾名稱,文件名,文件擴展名,路徑名,虛擬 URL,用戶輸入和 Twitter 句柄中的代碼字。 這是一個示例:“完成后,請記住使用您喜歡的編輯器(我們使用`vim`)在`~/.bashrc`的末尾添加以下行。”
代碼塊設置如下:
```py
import glob
import numpy as np
import os
import shutil
from utils import log_progress
np.random.seed(42)
```
當我們希望引起您對代碼塊特定部分的注意時,相關的行或項目以粗體顯示:
```py
preprocessor = Preprocess()
corpus_to_seq = preprocessor.fit(corpus=corpus)
holdout_corpus = test_df['review'].values
holdout_target = test_df['sentiment'].values
holdout_corpus_to_seq = preprocessor.transform(holdout_corpus)
```
任何命令行輸入或輸出的編寫方式如下:
```py
ubuntu@ip:~$ mkdir ssl
ubuntu@ip:~$ cd ssl
ubuntu@ip:~/ssl$
```
**粗體**:表示新術語,重要單詞或您在屏幕上看到的單詞。 例如,菜單或對話框中的單詞會出現在這樣的文本中。 這是一個示例:“啟動實例后,您可以簽出“實例”部分并嘗試連接到實例。”
警告或重要提示如下所示。
提示和技巧如下所示。
- TensorFlow 1.x 深度學習秘籍
- 零、前言
- 一、TensorFlow 簡介
- 二、回歸
- 三、神經網絡:感知器
- 四、卷積神經網絡
- 五、高級卷積神經網絡
- 六、循環神經網絡
- 七、無監督學習
- 八、自編碼器
- 九、強化學習
- 十、移動計算
- 十一、生成模型和 CapsNet
- 十二、分布式 TensorFlow 和云深度學習
- 十三、AutoML 和學習如何學習(元學習)
- 十四、TensorFlow 處理單元
- 使用 TensorFlow 構建機器學習項目中文版
- 一、探索和轉換數據
- 二、聚類
- 三、線性回歸
- 四、邏輯回歸
- 五、簡單的前饋神經網絡
- 六、卷積神經網絡
- 七、循環神經網絡和 LSTM
- 八、深度神經網絡
- 九、大規模運行模型 -- GPU 和服務
- 十、庫安裝和其他提示
- TensorFlow 深度學習中文第二版
- 一、人工神經網絡
- 二、TensorFlow v1.6 的新功能是什么?
- 三、實現前饋神經網絡
- 四、CNN 實戰
- 五、使用 TensorFlow 實現自編碼器
- 六、RNN 和梯度消失或爆炸問題
- 七、TensorFlow GPU 配置
- 八、TFLearn
- 九、使用協同過濾的電影推薦
- 十、OpenAI Gym
- TensorFlow 深度學習實戰指南中文版
- 一、入門
- 二、深度神經網絡
- 三、卷積神經網絡
- 四、循環神經網絡介紹
- 五、總結
- 精通 TensorFlow 1.x
- 一、TensorFlow 101
- 二、TensorFlow 的高級庫
- 三、Keras 101
- 四、TensorFlow 中的經典機器學習
- 五、TensorFlow 和 Keras 中的神經網絡和 MLP
- 六、TensorFlow 和 Keras 中的 RNN
- 七、TensorFlow 和 Keras 中的用于時間序列數據的 RNN
- 八、TensorFlow 和 Keras 中的用于文本數據的 RNN
- 九、TensorFlow 和 Keras 中的 CNN
- 十、TensorFlow 和 Keras 中的自編碼器
- 十一、TF 服務:生產中的 TensorFlow 模型
- 十二、遷移學習和預訓練模型
- 十三、深度強化學習
- 十四、生成對抗網絡
- 十五、TensorFlow 集群的分布式模型
- 十六、移動和嵌入式平臺上的 TensorFlow 模型
- 十七、R 中的 TensorFlow 和 Keras
- 十八、調試 TensorFlow 模型
- 十九、張量處理單元
- TensorFlow 機器學習秘籍中文第二版
- 一、TensorFlow 入門
- 二、TensorFlow 的方式
- 三、線性回歸
- 四、支持向量機
- 五、最近鄰方法
- 六、神經網絡
- 七、自然語言處理
- 八、卷積神經網絡
- 九、循環神經網絡
- 十、將 TensorFlow 投入生產
- 十一、更多 TensorFlow
- 與 TensorFlow 的初次接觸
- 前言
- 1.?TensorFlow 基礎知識
- 2. TensorFlow 中的線性回歸
- 3. TensorFlow 中的聚類
- 4. TensorFlow 中的單層神經網絡
- 5. TensorFlow 中的多層神經網絡
- 6. 并行
- 后記
- TensorFlow 學習指南
- 一、基礎
- 二、線性模型
- 三、學習
- 四、分布式
- TensorFlow Rager 教程
- 一、如何使用 TensorFlow Eager 構建簡單的神經網絡
- 二、在 Eager 模式中使用指標
- 三、如何保存和恢復訓練模型
- 四、文本序列到 TFRecords
- 五、如何將原始圖片數據轉換為 TFRecords
- 六、如何使用 TensorFlow Eager 從 TFRecords 批量讀取數據
- 七、使用 TensorFlow Eager 構建用于情感識別的卷積神經網絡(CNN)
- 八、用于 TensorFlow Eager 序列分類的動態循壞神經網絡
- 九、用于 TensorFlow Eager 時間序列回歸的遞歸神經網絡
- TensorFlow 高效編程
- 圖嵌入綜述:問題,技術與應用
- 一、引言
- 三、圖嵌入的問題設定
- 四、圖嵌入技術
- 基于邊重構的優化問題
- 應用
- 基于深度學習的推薦系統:綜述和新視角
- 引言
- 基于深度學習的推薦:最先進的技術
- 基于卷積神經網絡的推薦
- 關于卷積神經網絡我們理解了什么
- 第1章概論
- 第2章多層網絡
- 2.1.4生成對抗網絡
- 2.2.1最近ConvNets演變中的關鍵架構
- 2.2.2走向ConvNet不變性
- 2.3時空卷積網絡
- 第3章了解ConvNets構建塊
- 3.2整改
- 3.3規范化
- 3.4匯集
- 第四章現狀
- 4.2打開問題
- 參考
- 機器學習超級復習筆記
- Python 遷移學習實用指南
- 零、前言
- 一、機器學習基礎
- 二、深度學習基礎
- 三、了解深度學習架構
- 四、遷移學習基礎
- 五、釋放遷移學習的力量
- 六、圖像識別與分類
- 七、文本文件分類
- 八、音頻事件識別與分類
- 九、DeepDream
- 十、自動圖像字幕生成器
- 十一、圖像著色
- 面向計算機視覺的深度學習
- 零、前言
- 一、入門
- 二、圖像分類
- 三、圖像檢索
- 四、對象檢測
- 五、語義分割
- 六、相似性學習
- 七、圖像字幕
- 八、生成模型
- 九、視頻分類
- 十、部署
- 深度學習快速參考
- 零、前言
- 一、深度學習的基礎
- 二、使用深度學習解決回歸問題
- 三、使用 TensorBoard 監控網絡訓練
- 四、使用深度學習解決二分類問題
- 五、使用 Keras 解決多分類問題
- 六、超參數優化
- 七、從頭開始訓練 CNN
- 八、將預訓練的 CNN 用于遷移學習
- 九、從頭開始訓練 RNN
- 十、使用詞嵌入從頭開始訓練 LSTM
- 十一、訓練 Seq2Seq 模型
- 十二、深度強化學習
- 十三、生成對抗網絡
- TensorFlow 2.0 快速入門指南
- 零、前言
- 第 1 部分:TensorFlow 2.00 Alpha 簡介
- 一、TensorFlow 2 簡介
- 二、Keras:TensorFlow 2 的高級 API
- 三、TensorFlow 2 和 ANN 技術
- 第 2 部分:TensorFlow 2.00 Alpha 中的監督和無監督學習
- 四、TensorFlow 2 和監督機器學習
- 五、TensorFlow 2 和無監督學習
- 第 3 部分:TensorFlow 2.00 Alpha 的神經網絡應用
- 六、使用 TensorFlow 2 識別圖像
- 七、TensorFlow 2 和神經風格遷移
- 八、TensorFlow 2 和循環神經網絡
- 九、TensorFlow 估計器和 TensorFlow HUB
- 十、從 tf1.12 轉換為 tf2
- TensorFlow 入門
- 零、前言
- 一、TensorFlow 基本概念
- 二、TensorFlow 數學運算
- 三、機器學習入門
- 四、神經網絡簡介
- 五、深度學習
- 六、TensorFlow GPU 編程和服務
- TensorFlow 卷積神經網絡實用指南
- 零、前言
- 一、TensorFlow 的設置和介紹
- 二、深度學習和卷積神經網絡
- 三、TensorFlow 中的圖像分類
- 四、目標檢測與分割
- 五、VGG,Inception,ResNet 和 MobileNets
- 六、自編碼器,變分自編碼器和生成對抗網絡
- 七、遷移學習
- 八、機器學習最佳實踐和故障排除
- 九、大規模訓練
- 十、參考文獻