# 監督學習
* 目前最**常見**的機器學習類型。
**給定**一組樣本(通常由人工標注),它可以學會將輸入數據**映射**到已知目標[也叫**標注**(annotation)]
* 例如:光學字符識別、語音識別、圖像分類和語言翻譯。
## **類型**:
* **分類**
* **回歸**
* **序列生成**(sequence generation)
給定一張**圖像**,**預測描述圖像的文字**。
序列生成有時可以被重新表示為一系列分類問題,比如反復預測序列中的單詞或標記。
* **語法樹預測**(syntax tree prediction)。
給定一個**句子**,預測其分解生成的**語法樹**。
* **目標檢測**(object detection)。
給定一張**圖像**,在圖中特定目標的周圍畫一個**邊界框**。這個問題也可以表示為分類問題(給定多個候選邊界框,對每個框內的目標進行分類)或分類與回歸聯合問題(用向量回歸來預測邊界框的坐標)。
* **圖像分割**(image segmentation)。給定一張圖像,在特定物體上**畫一個像素級的掩模**(mask)。
*****
# **無監督學習**:
* 是指在**沒有目標**的情況下尋找輸入數據的有趣變換。
* 其目的在于**數據可視化**、**數據壓縮**、**數據去噪**或更好地理解**數據中的相關性**。
* 無監督學習是數據分析的**必備技能**
* 在解決監督學習問題**之前**,為了更好地了解數據集,它通常是一個必要**步驟**。
* **降維**(dimensionality reduction)和**聚類**(clustering)都是眾所周知的無監督學習方法。
*****
# **自監督學習**:
* 自監督學習是沒有人工標注的標簽的監督學習
* 標簽仍然存在(因為總要有什么東西來監督學習過程),但它們是從輸入數據中生成的,通常是使用啟發式算法生成的。
## **例子**:
**自編碼器**(autoencoder),生成的目標就是未經修改的輸入
**時序監督學習**(temporally supervised learning),用未來的輸入數據作為監督:
* 給定視頻中過去的幀來預測下一幀
* 給定文本中前面的詞來預測下一個詞
*****
# **強化學習**:
* **智能體**(agent)接收有關其環境的信息,并學會選擇使某種獎勵最大化的行動。
例子:google的deep mind
*****
# **目的:**
機器學習的目的是得到可以**泛化**(generalize)的模型,即在前所未見的數據上表現很好的模型,而過擬合則是核心難點。
- 基礎
- 張量tensor
- 整數序列(列表)=>張量
- 張量運算
- 張量運算的幾何解釋
- 層:深度學習的基礎組件
- 模型:層構成的網絡
- 訓練循環 (training loop)
- 數據類型與層類型、keras
- Keras
- Keras 開發
- Keras使用本地數據
- fit、predict、evaluate
- K 折 交叉驗證
- 二分類問題-基于梯度的優化-訓練
- relu運算
- Dens
- 損失函數與優化器:配置學習過程的關鍵
- 損失-二分類問題
- 優化器
- 過擬合 (overfit)
- 改進
- 小結
- 多分類問題
- 回歸問題
- 章節小結
- 機械學習
- 訓練集、驗證集和測試集
- 三種經典的評估方法
- 模型評估
- 如何準備輸入數據和目標?
- 過擬合與欠擬合
- 減小網絡大小
- 添加權重正則化
- 添加 dropout 正則化
- 通用工作流程
- 計算機視覺
- 卷積神經網絡
- 卷積運算
- 卷積的工作原理
- 訓練一個卷積神經網絡
- 使用預訓練的卷積神經網絡
- VGG16
- VGG16詳細結構
- 為什么不微調整個卷積基?
- 卷積神經網絡的可視化
- 中間輸出(中間激活)
- 過濾器
- 熱力圖
- 文本和序列
- 處理文本數據
- n-gram
- one-hot 編碼 (one-hot encoding)
- 標記嵌入 (token embedding)
- 利用 Embedding 層學習詞嵌入
- 使用預訓練的詞嵌入
- 循環神經網絡
- 循環神經網絡的高級用法
- 溫度預測問題
- code
- 用卷積神經網絡處理序列
- GRU 層
- LSTM層
- 多輸入模型
- 回調函數
- ModelCheckpoint 與 EarlyStopping
- ReduceLROnPlateau
- 自定義回調函數
- TensorBoard_TensorFlow 的可視化框架
- 高級架構模式
- 殘差連接
- 批標準化
- 批再標準化
- 深度可分離卷積
- 超參數優化
- 模型集成
- LSTM
- DeepDream
- 神經風格遷移
- 變分自編碼器
- 生成式對抗網絡
- 術語表