有助于了解一張圖像的哪一部分讓卷積神經網絡做出了最終的分類決策。 通用的技術： * **類激活圖**（CAM，class activation map）可視化，它是指對輸入圖像生成類激活的熱力圖 * 類激活熱力圖是與特定輸出類別相關的二維分數網格，對任何輸入圖像的每個位置都要進行計算，它表示每個位置對該類別的重要程度 ### **具體實現方式** > Grad-CAM: visual explanations from deep networks via gradient- based localization-論文 > * [ ] 給定一張**輸入圖像**，對于一個**卷積層**的輸出**特征圖** * [ ] 用類別相對于通道的梯度對這個特征圖中的**每個通道進行加權** “每個通道對類別的**重要程度**”對“輸入圖像對不同通道的**激活強度**”的空間圖進行**加權**，從而**得到**了“輸入圖像對類別的激活強度”的**空間圖**。