> MLE是參數估計的基礎之一，也是構建模型的基石。 > 本課學習時長評估：2小時。 ## MLE定義 英文全稱：Maximum likelilood estimate 對于最大似然估計來說，最合理的參數估計量應該使得從模型中抽取該n組樣本的**觀測值的概率最大**，也就是概率分布函數或者**似然函數最大。** * 最大似然估計，就是利用已知的樣本結果信息，反推最具有可能（最大概率）導致這些樣本結果出現的模型參數值！ * 極大似然估計提供了一種給定觀察數據來評估模型參數的方法，即：“模型已定，參數未知”。 ## MLE使用場景 * 求解線性回歸、邏輯回歸的超參數 ## MLE存在的問題 * 為什么最大似然估計能廣泛應用在機器學習領域？ 這其實是一種遺憾：我們想求解的問題中包含的數據往往是無窮無盡的，不可能將這些數據全部獲取。 因此只能通過最大似然估計等估計方法，通過已知的，有限個的樣本，估計整個無窮無盡的數據集的參數。 當然，這樣的估計無可避免會產生誤差。比如投擲兩次硬幣兩次均正面朝上的情況，有實際生活經驗的我們都知道，2 次實驗無法說明任何問題。 ## MLE的求解過程 [視頻鏈接](https://www.bilibili.com/video/BV1cx411V7xN) * 寫出似然函數`$ L(_p) $` * 對似然函數取對數(可選，目的是防止計算溢出) * 求似然函數對未知參數的導函數`$ \left(\frac{\vartheta L(_p)}{p}\right) $` * 令導函數為0，方程的解即為最大似然解 ## MLE VS MLS * 最小二乘：線性代數的視角 * 最大似然：統計估計的角度 [最大似然估計與最小二乘估計的區別](https://www.cnblogs.com/little-YTMM/p/5700226.html) [最大似然估計和最小二乘估計的區別與聯系](https://blog.csdn.net/xidianzhimeng/article/details/20847289)