**機器學習的根本問題是優化和泛化之間的對立** * **優化**（optimization）是指調節模型以在**訓練數據**上得到最佳性能（即**機器學習**中的**學習**） * **泛化**（generalization）是指訓練好的模型在**前所未見的數據**上的性能好壞 * **最優解決方法是獲取更多的訓練數據** ### **方法-正則化（regularization）：** * 減小網絡大小 * 添加權重正則化 * 添加 dropout 正則化