# 參數和超參數之間有什么區別？ > 原文： [https://machinelearningmastery.com/difference-between-a-parameter-and-a-hyperparameter/](https://machinelearningmastery.com/difference-between-a-parameter-and-a-hyperparameter/) 當您開始應用機器學習時，這可能會讓您感到困惑。 有許多術語可供使用，許多術語可能無法一致使用。如果您來自另一個可能使用與機器學習相同的術語的研究領域，尤其如此，但它們的使用方式不同。 例如：術語“_模型參數_”和“_模型超參數_”。 對這些術語沒有明確的定義是初學者的共同斗爭，尤其是那些來自統計學或經濟學領域的初學者。 在這篇文章中，我們將仔細研究這些術語。  參數和超參數之間有什么區別？ 攝影： [Bruce Guenter](https://www.flickr.com/photos/10154402@N03/7572253262/) ，保留一些權利。 ## 什么是模型參數？ 模型參數是模型內部的配置變量，其值可以從數據中估算。 * 在進行預測時，模型需要它們。 * 它們的值定義了模型對您的問題的技能。 * 它們是從數據中估算或學習的。 * 它們通常不是由從業者手動設置的。 * 它們通常被保存為學習模型的一部分。 參數是機器學習算法的關鍵。它們是從歷史訓練數據中學習的模型的一部分。 在經典機器學習文獻中，我們可以將模型視為假設，將參數視為對特定數據集的假設的定制。 通常使用優化算法來估計模型參數，該優化算法是通過可能的參數值的有效搜索的類型。 * **統計**：在統計中，您可以假設變量的分布，例如高斯分布。高斯分布的兩個參數是平均值（ _mu_ ）和標準偏差（ _sigma_ ）。這適用于機器學習，其中這些參數可以從數據估計并用作預測模型的一部分。 * **編程**：在編程中，您可以將參數傳遞給函數。在這種情況下，參數是一個函數參數，可以具有一系列值。在機器學習中，您使用的特定模型是函數，需要參數才能對新數據進行預測。 模型是否具有固定或可變數量的參數確定它是否可被稱為“_參數_”或“_非參數_”。 模型參數的一些示例包括： * 人工神經網絡中的權重。 * 支持向量機中的支持向量。 * 線性回歸或邏輯回歸中的系數。 ## 什么是模型超參數？ 模型超參數是模型外部的配置，其值無法從數據估計。 * 它們通常用于過程中以幫助估計模型參數。 * 它們通常由從業者指定。 * 它們通常可以使用啟發式設置。 * 它們經常針對給定的預測建模問題進行調整。 對于給定問題，我們無法知道模型超參數的最佳值。我們可能會使用經驗法則，復制用于其他問題的值，或通過反復試驗來搜索最佳值。 當針對特定問題調整機器學習算法時，例如當您使用網格搜索或隨機搜索時，您正在調整模型的超參數或命令以發現導致最熟練的模型參數預測。 > 許多模型具有不能從數據直接估計的重要參數。例如，在K-最近鄰分類模型中......這種類型的模型參數被稱為調整參數，因為沒有可用于計算適當值的分析公式。 - 第64-65頁， [Applied Predictive Modeling](http://www.amazon.com/dp/1461468485?tag=inspiredalgor-20) ，2013 模型超參數通常被稱為模型參數，這可能使事情變得混亂。克服這種混亂的一個好的經驗法則如下： **如果你必須手動指定模型參數，那么 它可能是一個模型超參數。** 模型超參數的一些示例包括： * 訓練神經網絡的學習率。 * 支持向量機的C和sigma超參數。 * k-最近鄰居中的k。 ## 進一步閱讀 * 維基百科上的 [Hyperparameter](https://en.wikipedia.org/wiki/Hyperparameter) * [什么是機器學習中的超參數？ Quora上的](https://www.quora.com/What-are-hyperparameters-in-machine-learning) * [模型超參數和模型參數有什么區別？ StackExchange上的](https://datascience.stackexchange.com/questions/14187/what-is-the-difference-between-model-hyperparameters-and-model-parameters) * [什么被認為是超參數？](https://www.reddit.com/r/MachineLearning/comments/40tfc4/what_is_considered_a_hyperparameter/) 在Reddit上 ## 摘要 在這篇文章中，您發現了清晰的定義以及模型參數和模型超參數之間的區別。 總之，模型參數是根據數據自動估算的，模型超參數是手動設置的，并在過程中用于幫助估計模型參數。 模型超參數通常被稱為參數，因為它們是機器學習的必須手動設置和調整的部分。 這篇文章是否幫助您消除了困惑？ 請在下面的評論中告訴我。 是否存在您仍不確定的模型參數或超參數？ 在評論中發布它們，我會盡力幫助進一步澄清問題。