如何設置 Amazon AWS EC2 GPU 以訓練 Keras 深度學習模型（分步） · Machine Learning Mastery 博客文章翻譯

# 如何設置 Amazon AWS EC2 GPU 以訓練 Keras 深度學習模型（分步） > 原文： [https://machinelearningmastery.com/develop-evaluate-large-deep-learning-models-keras-amazon-web-services/](https://machinelearningmastery.com/develop-evaluate-large-deep-learning-models-keras-amazon-web-services/) Keras 是一個 Python 深度學習庫，可以輕松方便地訪問功能強大的數學庫 Theano 和 TensorFlow. 大型深度學習模型需要大量的計算時間才能運行,您可以在 CPU 上運行它們，但可能需要數小時或數天才能獲得結果，如果您可以訪問遠程桌面上的 GPU，則可以大大加快深度學習模型的訓練時間。在本文中，您將了解如何使用 Amazon Web Service（AWS）基礎結構訪問 GPU 以加速深度學習模型的訓練，每小時不到 1 美元，通常便宜很多，您可以在筆記本或工作站上使用這項服務。讓我們開始吧！ * **2016 年 10 月更新**：更新了 Keras 1.1.0 的示例。 * **2017 年 3 月更新**：更新后使用新的 AMI，Keras 2.0.2 和 TensorFlow 1.0。 * **2002 年 2 月更新**：已更新以使用新的"深度學習 AMI"和"p3.2xlarge"。 ![Amazon Web Services](https://img.kancloud.cn/01/1a/011a1d206e2afc855fff61d8e83e9733_640x480.png) 亞馬遜的網絡服務攝影：[Andrew Mager](https://www.flickr.com/photos/mager/3183272133/) ，保留所屬權利 ## 教程概述這個過程非常簡單，因為大部分工作已經為我們完成了。以下是該過程的概述: 1. 設置您的 AWS 賬戶。 2. 啟動您的 AWS 實例。 3. 登錄并運行您的代碼。 4. 關閉您的 AWS 實例。 **注意，在 Amazon** 上使用虛擬服務器實例需要花錢，臨時模型開發的成本很低（例如每小時不到一美元），雖然它不是免費的，但確實非常吸引人。服務器實例運行于Linux平臺，雖然您可能不知道如何使用Linux或者類Unix系統，但我們只是運行我們的 Python 腳本，因此不需要高級技能，所以選用Linux平臺是可取的行為。 ## 1.設置您的 AWS 賬戶您需要在 Amazon Web Services 上擁有一個帳戶。 * 1.您可以通過[亞馬遜網絡服務門戶](https://aws.amazon.com/)創建一個帳戶，然后單擊“登錄到控制臺”，從那里，您可以使用現有的亞馬遜帳戶登錄或創建新帳戶。 ![AWS Sign-in Button](https://img.kancloud.cn/0d/a0/0da00c3ef1280418d85a563366c2340e_360x418.png) AWS 登錄按鈕 * 2.您需要提供您的詳細信息以及為亞馬遜可以支付的有效信用卡，如果您已經是亞馬遜客戶并且已將您的信用卡存檔，那么此過程會快得多。 ![AWS Sign-In Form](https://img.kancloud.cn/67/e3/67e38dc043080330d880ebb1ebe5018c_507x496.png) AWS 登錄表單擁有帳戶后，您可以登錄 Amazon Web Services 控制臺。您將看到一系列可以訪問的不同服務。 ## 2.啟動您的 AWS 實例現在您已擁有 AWS 賬戶，您可以啟動并運行 Keras 的 EC2 虛擬服務器實例。啟動實例就像選擇要加載和啟動虛擬服務器的映像一樣簡單，值得慶幸的是，已經有一個亞馬遜創建并維護的實例，被稱作[深度學習 AMI（亞馬遜 Linux）](https://aws.amazon.com/marketplace/pp/B077GF11NF)，這是一個可用鏡像，幾乎有我們所需要的一切東西，您可以直接運行這個示例。 * 1.如果您尚未登錄 [AWS 控制臺](https://console.aws.amazon.com/console/home)，請登錄。 ![AWS Console](https://img.kancloud.cn/0f/d6/0fd6e1c437403342b92171adcb19fc3a_569x461.png) AWS 控制臺 * 2.單擊 EC2 以啟動新的虛擬服務器。 * 3.從右上角的下拉列表中選擇“US West Oregon”，這很重要，否則您將無法找到我們計劃使用的鏡像。 * 4.單擊“啟動實例”按鈕。 * 5.單擊“社區 AMI”。 AMI 是亞馬遜機器鏡像，這是服務器的固有·實例，您可以在新虛擬服務器上進行選擇和實例化。 ![Community AMIs](https://img.kancloud.cn/2a/bd/2abdc36885b888a4a763aa2aa626e1bf_996x317.png) 社區 AMI * 6.在“搜索社區 AMI”搜索框中輸入“**深度學習 AMI** ”，然后按 Enter 鍵。 ![Deep Learning AMI](https://img.kancloud.cn/31/b4/31b4163107f3bc1de2bf234db739140c_1024x120.png) 深度學習 AMI * 7.單擊“選擇”以在搜索結果中選擇 AMI。 * 8.現在您需要選擇運行映像的硬件，向下滾動并選擇“ **p3.2xlarge** ”硬件（我以前推薦 g2 或 [g3 實例](https://aws.amazon.com/ec2/instance-types/g3/)和 [p2 實例](https://aws.amazon.com/ec2/instance-types/p2/)，但 [p3 實例](https://aws.amazon.com/ec2/instance-types/p3/)更新更快，這包括一個 Tesla V100 GPU，我們可以用它來顯著提高我們模型的訓練速度，它還包括 8 個 CPU 內核，61GB 內存和 16GB GPU 內存，注意：使用此實例將花費約 3 美元/小時。 ![p3.2xlarge EC2 Instance](https://img.kancloud.cn/89/78/897829874b07c241949e55681c00cb7c_1024x48.png) p3.2xlarge EC2 實例 * 9.單擊“查看并啟動”以完成服務器實例的配置。 * 10.單擊“啟動”按鈕。 * 11.選擇您的密鑰對。 * 如果您之前使用過 EC2，則選擇“選擇現有密鑰對”并從列表中選擇密鑰對，然后檢查“我”確認......“。 * 如果您沒有密鑰對，請選擇“創建新密鑰對”選項并輸入“密鑰對名稱”，例如 keras-keypair，并單擊“下載密鑰對”按鈕。 ![Select Your Key Pair](https://img.kancloud.cn/35/5e/355e5ab19f5ae77791c5c74621008ca6_702x433.png) 選擇您的密鑰對 * 12.打開終端并將目錄更改為您下載密鑰對的位置。 * 13.如果尚未執行此操作，請限制密鑰對文件的訪問權限,這也是通過SSH訪問服務器的一部分，示例如下： ```py cd Downloads chmod 600 keras-aws-keypair.pem ``` * 14.單擊“啟動實例”。如果這是您第一次使用 AWS，亞馬遜可能必須驗證您的請求，這可能需要長達 2 個小時（通常只需幾分鐘）。 * 15.可以通過單擊“查看實例”以查看實例的狀態。 ![Deep Learning AMI Status](https://img.kancloud.cn/22/ad/22ada13ff57f1cd4b3d83395428c4226_934x812.png) 深度學習 AMI 狀態您的服務器現在正在運行，可以登錄。 ## 3.登錄，配置和運行現在您已經啟動了服務器實例，現在可以登錄并開始使用它了。 * 1.如果您還沒有，請單擊 Amazon EC2 控制臺中的“查看實例”。 * 2.將“公共 IP”（在“描述”中的屏幕底部）復制到剪貼板。在此示例中，我的 IP 地址是 54.186.97.77。 **請勿使用此 IP 地址**，您的 IP 地址會有所不同。 * 3.打開終端并將目錄更改為您下載密鑰對的位置。使用 SSH 登錄您的服務器，例如： ```py ssh -i keras-aws-keypair.pem ec2-user@54.186.97.77 ``` * 4.出現提示時，鍵入“_yes_ ”并按 Enter 鍵。您現在已登錄到您的服務器。 ![Terminal Login to Deep Learning AMI](https://img.kancloud.cn/1b/bf/1bbf87ee1c82ae113694c0a7a4d74274_566x165.png) 通過終端登錄深度學習 AMI 該實例將詢問您希望使用的 Python 環境。我建議使用： * **TensorFlow（+ Keras2）與 Python3（CUDA 9.0 和英特爾 MKL-DNN）** 您可以鍵入以下內容來激活此虛擬環境： ```py source activate tensorflow_p36 ``` 這只需要一分鐘。您現在可以開始訓練深度學習神經網絡模型了。想要嘗試新實例，請參閱本教程： * [用 Keras 逐步開發 Python 中的第一個神經網絡](http://machinelearningmastery.com/tutorial-first-neural-network-python-keras/) ## 4.關閉您的 AWS 實例完成工作后，您必須關閉實例。請記住，您需要按照使用該實例的時間收費，它很便宜，但如果你不使用它，請關閉該實例。 * 1.在終端注銷您的實例，例如您可以輸入： ```py exit ``` * 2.使用 Web 瀏覽器登錄 AWS 賬戶。 * 3.單擊 EC2。 * 4.單擊左側菜單中的“Instances”。 ![Review Your List of Running Instances](https://img.kancloud.cn/54/7c/547cbb239d7dbc0b3ab657be4b1e5cb4_198x743.png) 查看運行實例列表 * 5.從列表中選擇正在運行的實例（如果您只有一個正在運行的實例，則可能已選中該實例）。 ![Select Your Running AWS Instance](https://img.kancloud.cn/fe/67/fe67b7c1ef23ad0afed334f3358118f4_812x112.png) 選擇您正在運行的 AWS 實例 * 6.單擊“操作”按鈕并選擇“實例狀態”，然后選擇“終止”。確認您要終止正在運行的實例。實例可能需要幾秒鐘才能關閉并從實例列表中刪除。 ## 在 AWS 上使用 Keras 的提示和技巧以下是在 AWS 實例上充分利用 Keras 的一些提示和技巧。 * **設計一套預先運行的實驗**：實驗可能需要很長時間才能運行，而您需要為使用時間付費，花時間設計一批在可以在 AWS 上運行的實驗，將每個文件放在一個單獨的文件中，并依次從另一個腳本調用它們，這樣可以在一個長期的運行過程（也許是一個晚上）中解決您的多個問題。 * **運行腳本作為后臺進程**：這樣您就可以在實驗運行時關閉終端并關閉計算機。您可以輕松地執行以下操作： ```py nohup /path/to/script >/path/to/script.log 2>&1 < /dev/null & ``` 然后，您可以稍后在 script.log 文件中檢查狀態和結果。 [了解有關 nohup 的更多信息](https://en.wikipedia.org/wiki/Nohup)。 * **在實驗結束時始終關閉您的實例**：如果您不想對亞馬遜高額的賬單感到驚訝，請在實驗結束時關閉您的實例。 * **嘗試使用更便宜但不太可靠的選項**：亞馬遜可以以更便宜的價格在硬件上出售未使用的時間，但代價可能是您的實例會在任意時刻被關閉，如果您正在學習或您的實驗并不重要，這可能是您的理想選擇，您可以從 EC2 Web 控制臺左側菜單中的“競價型實例”選項選擇競價型實例。有關在 AWS 上使用的命令行重新復制的更多幫助，請參閱帖子： * [10 個亞馬遜網絡服務深度學習命令行方案](https://machinelearningmastery.com/command-line-recipes-deep-learning-amazon-web-services/) ## 更多有關 AWS 深度學習的資源以下是有關 AWS 的更多信息以及在云中構建深度學習的資源列表。 * [亞馬遜彈性計算云（EC2）](http://docs.aws.amazon.com/AWSEC2/latest/UserGuide/concepts.html)（如果您是所有這方面的新手） * [亞馬遜機器圖像（AMI）簡介](http://docs.aws.amazon.com/AWSEC2/latest/UserGuide/AMIs.html) * [AMI 市場上的深度學習 AMI（亞馬遜 Linux）。](https://aws.amazon.com/marketplace/pp/B077GF11NF) * [P3 EC2 實例](https://aws.amazon.com/ec2/instance-types/p3/) ## 摘要在這篇文章中，您了解了如何使用 Amazon Web Service 上的 GPU 在 Keras 中開發和評估您的大型深度學習模型，你學習到了： * 使用 Elastic Compute Cloud 的 Amazon Web Services 提供了一種在 GPU 硬件上運行大型深度學習模型的經濟實惠方式。 * 如何為深度學習實驗設置和啟動 EC2 服務器。 * 如何更新服務器上的 Keras 版本并確認系統正常運行。 * 如何在 AWS 實例上批量運行 Keras 實驗作為后臺任務。您對在 AWS 或此帖子上運行模型有任何疑問嗎？在評論中提出您的問題，我會盡力回答。