# 零、前言
> 譯者：[@小瑤](https://github.com/chenyyx)
>
> 校對者：[@小瑤](https://github.com/chenyyx)
## 1、機器學習海嘯
2006 年，Geoffrey Hinton 等人發表了一篇論文，展示了如何訓練能夠識別具有最新精度（> 98%）的手寫數字的深度神經網絡。他們稱這種技術為“Deep Learning”。當時，深度神經網絡的訓練被廣泛認為是不可能的，并且大多數研究人員自 20 世紀 90 年代以來就放棄了這個想法。這篇論文重新激起了科學界的興趣，不久之后，許多新發表的論文表明，深度學習不僅是可能的，而且能夠取得其他的 Machine Learning 技術都難以匹配的令人興奮的成就（借助巨大的計算能力和大量的數據）。這種熱情很快擴展到機器學習的許多的其他領域。
Deep Learning 快速發展的 10 年間和機器學習已經征服了這個行業：它現在成為了當今高科技產品中的許多黑科技的核心，比如，為您的網絡搜索結果排名，為智能手機的語音識別提供支持，為您推薦您喜歡的視頻，在圍棋游戲中擊敗世界冠軍。在你知道之前，它都可能會駕駛您的汽車。
## 2、您項目中的機器學習
現在你是不是對機器學習感到興奮，并且很樂意加入到這個陣營中？
也許你希望給自己制造的機器人賦予一個自己的大腦？讓它可以面部識別？還是學會到處走走？
也許你的公司有大量的數據（用戶日志，財務數據，生產數據，機器傳感器數據，熱線統計數據，人力資源報告等），如果你知道在哪方面觀察，你可能會發現一些隱藏著的瑰寶。例如：
* 細分客戶，為每個團隊找到最佳的營銷策略
* 根據類似客戶購買的產品為每個客戶推薦產品
* 檢測哪些交易可能是欺詐行為
* 預測下一年的收入
* 更多應用
無論什么原因，你決定開始學習機器學習，并在你的項目中實施，這是一個好主意！
## 3、目標和方法
本書假定你對機器學習幾乎一無所知。它的目標是給你實際實現能夠從數據中學習的程序所需的概念，直覺和工具。
我們將介紹大量的技術，從最簡單的和最常用的（如線性回歸）到一些定期贏得比賽的深度學習技術。
我們將使用現成的 Python 框架，而不是實現我們自己的每個算法的玩具版本：
* Scikit-learn 非常易于使用，并且實現了許多有效的機器學習算法，因此它為學習機器學習提供了一個很好的切入點。
* TensorFlow 是使用數據流圖進行分布式數值計算的更復雜的庫。它通過在潛在的數千個多 GPU 服務器上分布式計算，可以高效地訓練和運行非常大的神經網絡。TensorFlow 是被 Google 創造的，支持其大型機器學習應用程序。于 2015 年 11 月開源。
本書傾向于實際操作的方法，通過具體的實例和一點理論來增加對機器學習的直觀理解。雖然你可以在不拿筆記本電腦的情況下閱讀此書，但是我們強烈建議你通過 https://github.com/ageron/handson-ml 在線實現 Jupyter notebooks 上的代碼示例。
## 4、準備條件
本書假定您有一些 Python 編程經驗，并且比較熟悉 Python 的主要科學庫，特別是 NumPy，Pandas 和 Matplotlib 。
另外，如果你關心的是底層實現/原理，你應該對大學水平的數學（微積分，線性代數，概率和統計學）有一些了解。
如果你還不了解 Python，http://learnpython.org/ 是你學習使用 Python 的好地方。 python.org 官方教程也是相當不錯的。
如果你從未使用過 Jupyter ，第 2 章將指導你完成安裝和基本操作：它是你工具箱中的一個很好的工具。
如果你不熟悉 Python 的科學庫，提供的一些 Jupyter notebook 包括了一些教程。還有一個線性代數的快速數學教程。
## 5、路線圖
這本書分為兩個部分。
第一部分，機器學習的基礎知識，涵蓋以下主題：
* 什么是機器學習？它被試圖用來解決什么問題？機器學習系統的主要類別和基本概念是什么？
* 典型的機器學習項目中的主要步驟。
* 通過擬合數據來學習模型。
* 優化成本函數（cost function）。
* 處理，清洗和準備數據。
* 選擇和設計特征。
* 使用交叉驗證選擇一個模型并調整超參數。
* 機器學習的主要挑戰，特別是欠擬合和過擬合（偏差和方差權衡）。
* 對訓練數據進行降維以對抗 the curse of dimensionality（維度詛咒）
* 最常見的學習算法：線性和多項式回歸， Logistic 回歸，k-最近鄰，支持向量機，決策樹，隨機森林和集成方法。
第二部分，神經網絡和深度學習，包括以下主題：
* 什么是神經網絡？它們有啥優勢？
* 使用 TensorFlow 構建和訓練神經網絡。
* 最重要的神經網絡架構：前饋神經網絡，卷積網絡，遞歸網絡，長期短期記憶網絡（LSTM）和自動編碼器。
* 訓練深度神經網絡的技巧。
* 對于大數據集縮放神經網絡。
* 強化學習。
第一部分主要基于 scikit-learn ，而第二部分則使用 TensorFlow 。
注意：不要太急于深入學習到核心知識：深度學習無疑是機器學習中最令人興奮的領域之一，但是你應該首先掌握基礎知識。而且，大多數問題可以用較簡單的技術很好地解決（而不需要深度學習），比如隨機森林和集成方法（我們會在第一部分進行討論）。如果你擁有足夠的數據，計算能力和耐心，深度學習是最適合復雜的問題的，如圖像識別，語音識別或自然語言處理。
## 6、其他資源
有許多資源可用于了解機器學習。Andrew Ng 在 Coursera 上的 [ML 課程](https://www.coursera.org/learn/machine-learning/)和 Geoffrey Hinton 關于[神經網絡和深度學習](https://www.coursera.org/learn/neural-networks)的課程都是非常棒的，盡管這些課程需要大量的時間投入（大概是幾個月）。
還有許多關于機器學習的比較有趣的網站，當然還包括 scikit-learn 出色的 [用戶指南](http://sklearn.apachecn.org/cn/0.19.0/user_guide.html)。你可能會喜歡上 [Dataquest](https://www.dataquest.io/) ，它提供了一個非常好的交互式教程，還有 ML 博客，比如那些在 [Quora](http://goo.gl/GwtU3A) 上列出來的博客。最后，[Deep Learning 網站](http://deeplearning.net/) 有一個很好的資源列表來學習更多。
當然，還有很多關于機器學習的其他介紹性書籍，特別是：
* Joel Grus, Data Science from Scratch (O’Reilly). 這本書介紹了機器學習的基礎知識，并在純 Python 中實現了一些主要算法（從名字上看就可以知道，從頭開始）。
* Stephen Marsland, Machine Learning: An Algorithmic Perspective (Chapman andHall). 這本書對機器學習有一個很好的介紹，涵蓋了廣泛的主題，Python 中的代碼示例（也是從零開始，但是使用 NumPy）。
* Sebastian Raschka, Python Machine Learning (Packt Publishing). 本書也對機器學習有一個很好的介紹，但是利用了 Python 的開源庫（Pylearn 2 和 Theano）。
* Yaser S. Abu-Mostafa, Malik Magdon-Ismail, and Hsuan-Tien Lin, Learning fromData (AMLBook). 對 ML 有一個相對理論化的介紹，這本書提供了比較深刻的見解，特別是 bias/variance tradeoff （偏差/方差 權衡）（見第 4 章）。
* Stuart Russell and Peter Norvig, Artificial Intelligence: A Modern Approach, 3rd
Edition (Pearson). 這是一本很好的（并且很大）的書，涵蓋了包括機器學習在內的大量主題。這有助于更加深刻地理解 ML 。
最后，一個很好的學習方法就是加入 ML 競賽網站，例如 kaggle.com ，這樣可以讓你在現實世界的問題上鍛煉自己的技能，并從一些最好的 ML 專業人士那里獲得幫助和見解。
## 7、本書中的一些約定
本書使用以下印刷約定：
* 斜體 —— 指示新術語，網址，電子郵件地址，文件名和文件擴展名。
* 等寬 —— 用于程序清單，以及段落內用于引用程序元素，如變量或函數名稱，數據庫，數據類型，環境變量，語句和關鍵字。
* 等寬粗體 —— 顯示應由用戶逐字輸入的命令或其他文本。
* 等寬斜體 —— 顯示應由用戶提供的值或由上下文確定的值替換的文本。
* 小松鼠圖標 —— 此元素表示一個小提示或建議。
* 小烏鴉圖標 —— 此元素表示一個普通的說明。
* 小蝎子圖標 —— 此元素表示一個警告和注意。
## 8、使用代碼示例
補充材料（代碼示例，練習題等）可以從 https://github.com/ageron/handson-ml 下載。
這本書是為了幫助你完成工作。一般來說，如果本書提供了示例代碼，則可以在程序和文檔中使用它。除非你復制了大部分代碼，否則你無需聯系我們獲得許可。例如，編寫使用本書中幾個代碼塊的程序不需要許可。銷售或者分發 O’Reilly 書籍的 CD-ROM 例子需要獲得許可。
通過引用本書和使用示例代碼來回答問題并不需要獲得許可。將大量來自本書的示例代碼整合到產品文檔中并不需要獲得許可。
我們感謝，但是并不要求，貢獻。貢獻通常包括標題，作者，出版商和 ISBN 。例如：“Hands-On Machine Learning withScikit-Learn and TensorFlow by Aurélien Géron (O’Reilly). Copyright 2017 AurélienGéron, 978-1-491-96229-9.”
如果您覺得您對代碼示例的使用超出了合理使用范圍或上述權限，請隨時聯系我們：permissions@oreilly.com 。
## 9、O’Reilly Safari
Safari （以前被稱為 Safari Books Online）是一個針對企業，政府，教育工作者和個人的基于會員的培訓和參考平臺。
會員可以訪問 250 多家發布商的數千本圖書，培訓視頻，學習路徑，互動教程和策劃播放列表，其中包括 O’Reilly Media，哈佛商業評論，Prentice Hall 專業人員，Addison-Wesley 專業人員，Microsoft Press， Sams， Que， Peachpit Press， Adobe， Focal Press， Cisco Press 等。想要了解更多信息，請訪問 http://oreilly.com/safari 。
## 10、如何聯系我們
請向出版商發表有關本書的評論和問題：
O’Reilly Media, Inc.
1005 Gravenstein Highway North
Sebastopol, CA 95472
800-998-9938 （在美國或者加拿大）
707-829-0515 （國際或地區）
707-829-0104 （傳真）
我們有一個這本書的網頁，在這里我們列出了勘誤表，例子和任何額外的信息。你可以訪問這個網頁 http://bit.ly/hands-on-machine-learning-with-scikit-learn-and-tensorflow
要評論或者詢問有關本書的技術問題，請發送電子郵件到 bookquestions@oreilly.com 。
有關我們的書籍，課程，會議和新聞的更多信息，請訪問我們的網站 http://www.oreilly.com 。
在 facebook 上找到我們： http://facebook.com/oreilly
在 Twitter 上關注我們：http://twitter.com/oreillymedia
在 Youtube 上觀看我們的視頻： http://www.youtube.com/oreillymedia
## 11、致謝
我要感謝我的 Google 同事，特別是 Youtube 視頻分類小組，教給我很多關于機器學習的知識。沒有他們，我永遠無法開始這個項目。特別感謝我的個人 ML 專家：Clément Courbet, Julien Dubois, Mathias Kende, Daniel Kitachewsky, James Pack, Alexander Pak, Anosh Raj, Vitor Sessak, Wiktor Tomczak, Ingrid von Glehn, Rich Washington, 以及 Youtube Paris 的所有人。
我非常感謝所有那些從繁忙的生活中抽出時間來仔細閱讀我的書的人。感謝 Pete Warden 回答了我所有的 TensorFlow 的問題，回顧第二部分，提供了許多有趣的見解，當然也成為了 TensorFlow 核心團隊的一員。你一定想要看看他的 [博客](https://petewarden.com/) ！非常感謝 Lukas Biewald 對第二部分的非常全面的審查：他毫不留情地嘗試了所有的代碼（并且發現了一些錯誤），做出了許多偉大的建議，而且他的熱情是具有感染力的。你應該看看他的博客，和他的超酷的機器人！感謝 Justin Francis ，他也非常全面地審查了第二部分，特別是在第 16 章提到了錯誤并提供了很好的見解。你可以在 TensorFlow 上看到他的帖子！
也非常感謝 David Andrzejewski，他審查了第一部分，提供了非常有用的反饋意見，確定了不明確的部分并提出了改進建議。查看一下他的網頁吧。感謝 Grégoire Mesnil，他審查了第二部分，并提供了非常有趣的關于神經網絡的實用建議。感謝 Eddy Hung, Salim Sémaoune, Karim Matrah, Ingrid von Glehn,Iain Smears, 和 Vincent Guilbeau 對第一部分的審查和建議。我還要感謝我的岳父，前數學老師 Michel Tessier ，現在是 Anton Chekhov 的一名優秀翻譯，幫助我在本書中提供了一些非常好的數學和符號，并且審查了線性代數 Jupyter notebook 。
當然，對我親愛的弟弟說一個巨大的 “謝謝” ，他測試了每一行代碼，幾乎在每個部分都提供了反饋，并鼓勵我從第一行到最后一行。愛你，我的兄弟。
非常感謝 O’Reilly 出色的員工，特別是 Nicole Tache ，他給出了深刻的反饋，并且總是開朗，鼓舞和樂于助人的。還要感謝 Marie Beaugureau, Ben Lorica, Mike Loukides, 和 Laurel Ruma 相信這個項目并幫助我確定其范圍。感謝 Matt Hacker 和所有的 Atlasteam 回答了關于格式化，asciidoc 和 LaTeX 的所有技術團隊問題，也感謝 Rachel Monaghan, Nick Adams, 和所有的制作團隊進行了最終的審查和數百次的修正。
最后但也很重要的一點，我非常感謝我的愛妻 Emmanuelle 和三個非常棒的孩子，Alexandre, Rémi, 和 Gabrielle ，在這本書中寫了很多，問了很多問題（誰說不能教 7 歲的孩子神經網絡？），甚至幫我送餅干和咖啡。你還夢想得到什么呢？
