# 激活函數（activation）
> 激活函數是用來加入非線性因素的，提高神經網絡對模型的表達能力，解決線性模型所不能解決的問題。
## 效果對比
其他條件相同，只改變激活函數情況下
> relu準確率為：0.9554
> tanh準確率為：0.9411
> sigmoid準確率為：0.9105
- 序言
- 安裝
- 快速體驗
- 配置
- 層（layer）
- 展平（flatten）
- 全連接（fully connected）
- 卷積（convolutional）
- 池化（pooling）
- 標準化（batch normalization）
- 失活（dropout）
- 循環（RNN）
- 長短期記憶（LSTM）
- 激活函數（activation）
- relu
- sigmoid
- tanh
- 損失（loss）
- 交叉熵損失（softmax）
- 折頁損失（SVM或Hinge）
- 優化器（optimizer）
- 帶動量學習率自適應（adam）
- 動量（momentum）
- 學習率自適應（rmsprop）
- 隨機梯度下降（sgd）
- 模型（model）
- 保存（save）
- 載入（reload）
- 繼續訓練（continue train）
- 數據集（datasets）
- 手寫數字（mnist）
- 時尚物品（Fashion-MNIST）
- 10種物體分類（cifar10）
- 100種物體分類（cifar100）
- 電影評論情感分類（imdb）
- 路透社新聞主題分類（reuters）
- 可視化（visualization）
- 損失曲線（loss）
- 準確率曲線（accuracy）