# 機器學習的基本概念 > 原文： [https://machinelearningmastery.com/basic-concepts-in-machine-learning/](https://machinelearningmastery.com/basic-concepts-in-machine-learning/) 機器學習的基本概念是什么？ 我發現，發現和掌握機器學習基本概念的最佳方法是查看機器學習教科書的介紹章節，并觀看在線課程中第一個模型的視頻。 [Pedro Domingos](http://homes.cs.washington.edu/~pedrod/) 是華盛頓大學機器學習的講師和教授，也是一本新書的作者，題為“[主算法：尋求終極學習機器將如何重塑我們的世界](http://www.amazon.com/dp/0465065708?tag=inspiredalgor-20) ]“。 多明戈斯有一個免費的在線機器學習課程，標題為“[機器學習](https://www.coursera.org/course/machlearning)”。每個模塊[的視頻都可以隨時在 Coursera 上預覽](https://class.coursera.org/machlearning-001/lecture/preview)。 在這篇文章中，您將發現從 Domingos 機器學習課程第一周總結的機器學習的基本概念。  機器學習的基本概念 [Travis Wise](https://www.flickr.com/photos/photographingtravis/16253152591) 的照片，保留一些權利。 ## 機器學習 講座的前半部分是關于機器學習的一般主題。 ### 什么是機器學習？ 為什么我們需要關心機器學習？ > 機器學習的突破將值十個微軟。 - [比爾蓋茨](https://en.wikipedia.org/wiki/Bill_Gates)，微軟前主席 機器學習讓計算機自己編程。如果編程是自動化的，那么機器學習就是使自動化過程自動化。 編寫軟件是瓶頸，我們沒有足夠好的開發人員。讓數據代替人工作。機器學習是使編程可擴展的方法。 * **傳統編程**：數據和程序在計算機上運行以產生輸出。 * **機器學習**：在計算機上運行數據和輸出以創建程序。該程序可用于傳統編程。 機器學習就像農業或園藝。種子是算法，營養是數據，gardner 是你和植物是程序。  傳統編程與機器學習 ### 機器學習的應用 機器學習的示例應用： * **網絡搜索**：根據您最有可能點擊的排名頁面。 * **計算**生物學：基于過去的實驗在計算機中合理設計藥物。 * **財務**：決定誰發送信用卡提供給誰。評估信貸提供的風險。如何決定在哪里投資。 * **電子商務**：預測客戶流失。交易是否是欺詐性的。 * **太空探索**：太空探測器和射電天文學。 * **機器人技術**：如何處理新環境中的不確定性。自主性。自駕車。 * **信息提取**：通過網絡向數據庫提問。 * **社交網絡**：關系和偏好的數據。機器學習從數據中提取價值。 * **調試**：用于計算機科學問題，如調試。勞動密集型過程。可以建議 bug 可能在哪里。 您感興趣的領域是什么？如何在該領域使用機器學習？ ### 機器學習的關鍵要素 每年都有數以萬計的機器學習算法和數百種新算法。 每個機器學習算法都有三個組件： * **表示**：如何表示知識。示例包括決策樹，規則集，實例，圖形模型，神經網絡，支持向量機，模型集合等。 * **評估**：評估候選項目（假設）的方式。示例包括準確度，預測和回憶，平方誤差，似然性，后驗概率，成本，邊際，熵 k-L 發散等。 * **優化**：生成候選程序的方式稱為搜索過程。例如組合優化，凸優化，約束優化。 所有機器學習算法都是這三個組件的組合。用于理解所有算法的框架。 ### 學習類型 機器學習有四種類型： * **監督學習** :(也稱為歸納學習）訓練數據包括所需的輸出。這不是垃圾郵件，學習是受監督的。 * **無監督學習**：訓練數據不包括所需的輸出。示例是群集。很難說什么是好學習，什么不是。 * **半監督學習**：訓練數據包括一些所需的輸出。 * **強化學習**：從一系列動作中獲得獎勵。 AI 類型喜歡它，它是最雄心勃勃的學習類型。 監督學習是大多數機器學習算法使用最成熟，研究最多和學習類型最多的學習方法。在沒有監督的情況下學習，比監督學習容易得多。 歸納學習是我們給出數據形式的函數（ _x_ ）和函數輸出（ _f（x）_）的例子。歸納學習的目標是學習新數據的功能（ _x_ ）。 * **分類**：當學習的函數是離散的。 * **回歸**：正在學習的函數是連續的。 * **概率估計**：當函數的輸出是概率時。 ### 機器學習在實踐中 機器學習算法只是在實踐中作為數據分析師或數據科學家使用機器學習的一小部分。在實踐中，該過程通常如下所示： 1. 開始循環 1. **了解領域，先驗知識和目標**。與領域專家交流。目標通常很不明確。你經常可以嘗試更多的東西，然后你可以實現。 2. **數據集成，選擇，清理和預處理**。這通常是最耗時的部分。擁有高質量的數據非常重要。您擁有的數據越多，數據就越臟就越糟糕。垃圾進垃圾出。 3. **學習模型**。有趣的部分。這部分非常成熟。這些工具很通用。 4. **解釋結果**。有時，只要它產生結果，模型的工作方式無關緊要。其他域要求該模型是可理解的。您將受到人類專家的挑戰。 5. **整合和部署已發現的知識**。在實驗室中取得成功的大多數項目都沒有在實踐中使用。得到一些東西很難。 2. 結束循環 它不是一次性過程，而是一個循環。您需要運行循環，直到獲得可在實踐中使用的結果。此外，數據可能會發生變化，需要新的循環。 ## 歸納學習 講座的第二部分是關于歸納學習的主題。這是監督學習背后的一般理論。 ### 什么是歸納學習？ 從歸納學習的角度來看，我們給出了輸入樣本（x）和輸出樣本（f（x）），問題是估計函數（f）。具體而言，問題是從樣本和映射推廣以用于估計未來新樣本的輸出。 在實踐中，估計函數幾乎總是太難，所以我們正在尋找函數的非常好的近似值。 一些實際的歸納實例是： * **信用風險評估**。 * x 是客戶的屬性。 * f（x）是否獲得信貸批準。 * **疾病診斷**。 * x 是患者的特性。 * f（x）是他們患的疾病。 * **人臉識別**。 * x 是人臉的位圖。 * f（x）是為面部指定名稱。 * **自動轉向**。 * x 是來自汽車前方攝像頭的位圖圖像。 * f（x）是方向盤應轉動的程度。 ### 你什么時候應該使用歸納學習？ 有一些問題，歸納學習不是一個好主意。重要的是何時使用以及何時不使用有監督的機器學習。 歸納學習可能是個好主意的 4 個問題： * **沒有人類專家**的問題。如果人們不知道答案他們就無法編寫程序來解決它。這些都是真正發現的領域。 * **人類可以執行任務，但沒有人可以描述如何做**。人類可以做一些計算機無法做或做得不好的事情。例如騎自行車或開車。 * **所需功能頻繁變化的問題**。人類可以描述它，他們可以寫一個程序來做，但問題經常變化。這不符合成本效益。例子包括股票市場。 * **每個用戶需要自定義功能的問題**。為每個用戶編寫自定義程序并不符合成本效益。示例是 Netflix 或 Amazon 上的電影或書籍推薦。 ### 歸納學習的本質 我們可以編寫一個完全適用于我們所擁有的數據的程序。此功能將最大程度地過度擬合。但我們不知道它對新數據的效果如何，它可能會非常糟糕，因為我們可能再也看不到相同的例子了。 數據還不夠。你可以預測任何你喜歡的東西。而這對于這個問題沒有任何意義。 在實踐中，我們并不樸素。存在潛在的問題，我們感興趣的是函數的精確近似。在輸入狀態的數量中存在雙指數數量的可能分類器。找到一個好的函數近似是非常困難的。 我們可以嘗試一些假設。這是解決方案可能采取的形式或表示形式。我們不知道哪個最適合我們的問題。我們必須使用實驗來發現可以解決問題的方法。 關于歸納學習的兩個觀點： * **學習是消除不確定性**。數據消除了一些不確定性。選擇一類假設，我們正在消除更多的不確定性。 * **學習是猜測一個好的和小的假設類**。它需要猜測。我們不知道我們必須使用試錯過程的解決方案。如果您確切知道域名，則無需學習。但我們不是在黑暗中猜測。 你可能錯了。 * 我們先前的知識可能是錯的。 * 我們對假設類的猜測可能是錯誤的。 在實踐中，我們從一個小的假設類開始，慢慢增長假設類，直到我們得到一個好的結果。 ### 學習歸納學習的框架 機器學習中使用的術語： * **訓練示例**：來自 x 的樣本，包括目標函數的輸出 * **目標函數**：從 x 到 f（x）的映射函數 f * **假設**：f，候選函數的近似值。 * **Concept** ：布爾目標函數，1/0 類值的正例和反例。 * **分類器**：學習程序輸出可用于分類的分類器。 * **學習器**：創建分類器的過程。 * **假設空間**：算法可以創建的 f 的可能近似值集。 * **版本空間**：與觀察數據一致的假設空間的子集。 機器學習的關鍵問題： * 什么是好的假設空間？ * 什么算法適用于那個空間？ * 如何優化看不見的數據的準確性？ * 我們如何對模型有信心？ * 是否存在計算難以解決的學習問題？ * 我們如何將應用程序問題表述為機器學習問題？ 選擇假設空間有三個問題： * **大小**：可供選擇的假設數量 * **隨機性**：隨機或確定性 * **參數**：參數的數量和類型 您可以通過 3 個屬性選擇算法： * **搜索程序** * **直接計算**：無需搜索，只需計算所需內容。 * **Local** ：搜索假設空間以改進假設。 * **建設性**：逐個構建假設。 * **時間** * **渴望**：學習在前面進行。大多數算法都很渴望。 * **懶惰**：在需要時進行學習 * **在線與批量** * **在線**：根據觀察到的每種模式進行學習。 * **批量**：學習一組模式。大多數算法都是批量 ## 摘要 在這篇文章中，您發現了機器學習的基本概念。 總之，這些是： * 什么是機器學習？ * 機器學習的應用 * 機器學習的關鍵要素 * 學習類型 * 機器學習在實踐中 * 什么是歸納學習？ * 你什么時候應該使用歸納學習？ * 歸納學習的本質 * 學習歸納學習的框架 這些是大多數機器學習課程的介紹和任何關于該主題的優秀教科書的開篇章節中涵蓋的基本概念。 雖然以學者為目標，但作為一名從業者，在這些概念中站穩腳跟以便更好地理解機器學習算法在一般意義上的行為方式是有用的。