# 將預測模型部署到生產中 > 原文： [https://machinelearningmastery.com/deploy-machine-learning-model-to-production/](https://machinelearningmastery.com/deploy-machine-learning-model-to-production/) ### 5個實現機器學習的最佳實踐。 并非所有預測模型都是Google規模的。 有時，您需要開發一個小型預測模型，并將其放入軟件中。 我最近收到了這個讀者問題： > 實際上，我對機器學習的知識缺少一部分。在構建機器學習模型之前，所有教程都會為您提供相應的步驟。你怎么能用這個模型？ 在這篇文章中，我們將介紹一些最佳實踐，以簡化模型到生產的過渡，并確保您充分利用它。  如何將您的預測模型部署到生產 照片由 [reynermedia](https://www.flickr.com/photos/89228431@N06/11285592553/) ，保留一些權利。 ## 我有一個模特。怎么辦？ 因此，您已經完成了一個系統化的過程，并創建了一個可靠且準確的模型，可以預測您的問題。 你想以某種方式使用這個模型。 * 也許你想創建一個可以進行臨時預測的獨立程序。 * 也許您希望將模型合并到現有軟件中。 我們假設您的軟件是適度的。您不是在尋找Google規模的部署。也許它只適合你，也許只是一個客戶或者可能是一些工作站。 **到目前為止還不錯？** 現在，我們需要了解一些最佳實踐，以便將準確可靠的模型投入運營。 ## 5模型部署最佳實踐 為什么不將模型打入您的軟件并發布？ 你可以。但是，通過添加一些額外的步驟，您可以確信您正在部署的模型是可維護的并且長期保持準確。 **您是否已將模型投入生產？** **請發表評論并分享您的經歷。** 在將預測模型部署到生產環境中時，您可以采取以下五個最佳實踐步驟。 ### 1.指定表現要求 你需要清楚地說明什么是好的和壞的表現。 這可能是準確性或誤報或任何指標對業務都很重要。 拼出，并使用您開發的當前模型作為基線數字。 隨著您改進系統，這些數字可能會隨著時間的推移而增加。 表現要求很重要。沒有它們，您將無法設置確定系統是否按預期運行所需的測試。 在達成最低，平均或表現范圍預期之前，請不要繼續。 ### 2.從模型系數中分離預測算法 您可能已使用庫來創建預測模型。例如，R，scikit-learn或Weka。 您可以選擇使用該庫部署模型，或者在軟件中重新實現模型的預測方面。您甚至可能希望[將您的模型設置為Web服務](https://www.quora.com/What-is-the-easiest-way-to-deploy-a-machine-learning-model-say-a-regression-for-production)。 無論如何，最好將從模型內部進行預測的算法分開。這是從訓練數據中學習的模型中的特定系數或結構。 #### 2A。選擇或實施預測算法 機器學習算法的復雜性通常在模型訓練中，而不是在進行預測。 例如，使用回歸算法進行預測非常簡單，并且易于以您選擇的語言實現。這將是重新實現的明顯算法的示例，而不是模型訓練中使用的庫。 如果您決定使用該庫進行預測，請熟悉API和依賴項。 用于進行預測的軟件就像應用程序中的所有其他軟件一樣。 **像軟件一樣對待它。** 實現它，編寫單元測試，使其健壯。 #### 2B。序列化您的模型系數 讓我們調用模型學習的數字或結構：_系數_。 這些數據不是您的應用程序的配置。 **將其視為軟件配置。** 使用軟件項目將其存儲在外部文件中。版本吧。將配置視為代碼，因為它可以輕松破壞您的項目。 隨著您改進模型，您很可能需要在將來更新此配置。 ### 3.為您的模型開發自動化測試 您需要自動化測試來證明您的模型按預期工作。 在軟件領域，我們所有這些回歸測試。隨著我們對系統的不同部分進行更改，它們確保軟件未來的行為不會退化。 為您的模型編寫回歸測試。 * 收集或提供一小部分數據樣本進行預測。 * 使用生產算法代碼和配置進行預測。 * 確認測試中預期的結果。 這些測試是你的預警警報。如果它們失敗，您的模型將被破壞，您無法發布軟件或使用該模型的功能。 使測試嚴格執行模型的最低表現要求。 除了要包含的域中的任何原始數據集之外，我強烈建議設計您理解的測試用例。 我還強烈建議隨著時間的推移收集異常值和有趣的案例，這些案例會產生意外結果（或破壞系統）。這些應該被理解并添加到回歸測試套件中。 每次代碼更改后和每次發布之前運行回歸測試。每晚運行它們。 ### 4.開發反向測試和現在測試基礎設施 模型將發生變化，軟件和正在進行預測的數據也將發生變化。 您希望使用大型數據庫上的指定配置自動評估生產模型。 這將允許您有效地回溯測試歷史數據模型的更改，并確定您是否真正做出了改進。 這不是可用于超參數調整的小數據集，這是可用的全套數據，可能按月，年或其他一些重要分界進行劃分。 * 將當前運營模型運行到基準表現。 * 運行新模型，競爭進入運營的地方。 設置完成后，每晚或每周運行一次，并自動報告。 **接下來，添加一個Now-Test。** 這是對最新數據的生產模型的測試。 也許這是今天，本周或本月的數據。我們的想法是獲得一個早期警告，即生產模型可能會步履蹣跚。 這可能是由內容漂移引起的，其中模型利用的數據中的關系隨著時間的推移而微妙地變化。 如果表現低于最低表現要求，此Now-Test還可以吐出報告并發出警報（通過電子郵件）。 ### 5.挑戰然后試用模型更新 您需要更新模型。 也許您設計了一個需要新代碼和新配置的全新算法。重溫以上所有要點。 更小且更易于管理的變化將是模型系數。例如，您可能設置了每晚運行的模型超參數的網格或隨機搜索，并吐出新的候選模型。 **你應該這樣做。** 測試模型并且非常關鍵。給每個模型一個新的模型。 使用上面第4點中的Back-Test和Now-Test基礎架構評估新模型的表現。仔細檢查結果。 使用回歸測試評估更改，作為最終的自動檢查。 測試使用該模型的軟件的功能。 也許可以將更改推送到某些位置或測試版中以獲得反饋，同樣可以降低風險。 一旦您確信它滿足最低表現要求并且優先于之前的結果，請接受您的新模型。 像棘輪一樣，考慮隨著模型表現的提高，逐步更新表現要求。 ## 摘要 將小型模型添加到操作軟件是非常可行的。 在這篇文章中，您發現了5個步驟，以確保您覆蓋您的基礎并遵循良好的工程實踐。 總之，這些步驟是： 1. 指定表現要求。 2. 從模型系數分離預測算法。 3. 為您的模型開發回歸測試。 4. 開發反向測試和現在測試基礎設施。 5. 挑戰然后試用模型更新。 如果您對有關操作機器學習模型的更多信息感興趣，請查看帖子： * [建立生產機器學習基礎設施](http://machinelearningmastery.com/building-a-production-machine-learning-infrastructure/) 這更多是關于Google規模的機器學習模型部署。觀看所提及的視頻，并查看AirBnB和Etsy生產管道的重要鏈接。 您對此帖子有任何疑問或將您的模型投入生產嗎？ 在評論中提出您的問題，我會盡力回答。