# 一種預測模型的巧妙應用 > 原文： [https://machinelearningmastery.com/clever-application-of-a-predictive-model/](https://machinelearningmastery.com/clever-application-of-a-predictive-model/) 如果您可以使用預測模型來查找數據中不存在但可能有價值的新屬性組合，該怎么辦？ 在 [Applied Predictive Modeling](http://www.amazon.com/dp/1461468485?tag=inspiredalgor-20) 的第10章中，Kuhn和Johnson提供了一個案例研究。這是一個如何使用預測模型的迷人和創造性的例子。 在這篇文章中，我們將發現這種不太明顯的預測模型的使用以及它所屬的實驗設計的類型。 [](https://3qeqpr26caki16dnhd19sv6by6v-wpengine.netdna-ssl.com/wp-content/uploads/2014/08/wet-concrete.jpg) 濕混凝土 攝影：[美國海軍官方網頁](https://www.flickr.com/photos/usnavy/5405473010)，保留一些權利 ## 混凝土混合料的抗壓強度 案例研究中模擬的問題是不同混凝土混合物的抗壓強度。數據中的每條記錄都由混凝土混合物的成分含量來描述，例如： * 水泥 * 飛灰 * 高爐渣 * 水 * 減水劑 * 粗骨料 * 細骨料 所得混合物所關注的性質是混凝土的抗壓強度。需要具有較少或較便宜成分的強混凝土。 請參閱 [Applied Predictive Modeling](http://www.amazon.com/dp/1461468485?tag=inspiredalgor-20) 的第10章，以深入了解該問題。 ### 預測模型 許多復雜的機器學習方法都會在這個回歸問題上進行現場檢查，例如： * 線性回歸 * 徑向偏置函數支持向量機（SVM） * 神經網絡 * 火星 * 回歸樹（CART和條件推理樹） * Bagged和Boosted決策樹 根據預測的RMSE和R ^ 2考慮模型精度。一些表現更好的方法是神經網絡，Boosted決策樹，立體主義和隨機森林。 ### 優化壓縮強度 這是案例研究的聰明部分。 在創建和選擇精確模型（神經網絡和立體模型）之后，使用模型來定位新的混合物量，從而提高混凝土壓縮強度。 這涉及使用稱為 [Nelder Mead算法](http://en.wikipedia.org/wiki/Nelder%E2%80%93Mead_method)的直接搜索方法（也稱為[模式搜索](http://en.wikipedia.org/wiki/Pattern_search_(optimization))）來搜索參數空間中的混合量的組合，當傳遞給預測模型時，預測具體壓縮強度大于數據集中的任何壓縮強度。 發現了許多新的混合物，并在相對于提供的數據的投影域中繪制。這些新混合物代表了可以進行實際商業實驗的基礎，以便找到改進的混凝土混合物。 ## 響應面方法 該方法與稱為[響應面方法](http://en.wikipedia.org/wiki/Response_surface_methodology)（RSM）的特定類型的實驗設計有關。 當您想要開發，改進或優化新產品或現有產品的流程時，可以使用RSM。它通常用于工業設置。它用于輸入和輸出之間的關系不能很好理解并需要估計的問題。 執行設計的實驗以收集輸入和響應變量或變量的示例。輸入變量可以是過程中的數量或時間，輸出或響應變量是強度或質量等結果所需的。 構造統計模型以近似自變量和因變量之間的關系，最后優化過程探索輸入的新組合以最大化輸出變量。 在執行設計實驗之前的關鍵步驟是將變量的數量減少到僅已知影響響應變量的那些因素。這是一種特征選擇形式，我們對機器學習非常熟悉。 簡單模型用于模擬函數關系，例如一階或二階多項式。該方法稱為響應面，因為許多問題的響應面的連續性以及如何將其繪制為二維表面。 ## 代理模型 [代理建模](http://en.wikipedia.org/wiki/Surrogate_model)是指使用RSM構建的模型代替問題的模擬。例如，在航空領域，您可以設計和制造飛機機翼，在軟件中進行設計并在模擬器中進行測試，并對實驗結果或模擬結果進行建模，并估算要測試的新設計。 模型可以更精細地捕獲輸入和響應變量之間的復雜非線性關系。例如，可以使用支持向量機和神經網絡。另外，可以使用更強大的直接搜索方法，其使用隨機過程，例如模擬退火或進化算法。 整個過程可能是這樣的 1. 減少涉及的變量數量 2. 設計實驗并按順序執行它們以收集源數據到模型 3. 根據實驗數據構建代理模型 4. 使用代理模型將搜索方法應用于變量 5. 基于替代模型的優化預測順序執行實驗 6. 迭代步驟3到5，直到滿足停止條件 ## 摘要 在這篇文章中，您發現了一種使用預測模型的巧妙方法。 在案例研究中，您了解了使用機器學習算法對混凝土混合物實驗結果進行建模的示例，搜索具有最佳抗壓強度的混合器的參數空間，可以作為進一步實驗的基礎。 您了解到這種類型的實驗設計稱為響應面方法，用于工業問題領域，如混凝土混合物實例。您還了解到，預測模型是本案例研究稱為代理模型。 這是一種功能強大的方法，您可以在其他具有大量計算開銷的域中使用這些方法來執行模擬。 ### 資源 以下是您可能希望了解的一些書籍，以了解有關此實驗設計和優化方法的更多信息。 * [應用預測建模](http://www.amazon.com/dp/1461468485?tag=inspiredalgor-20) * [響應面方法：使用設計實驗的過程和產品優化](http://www.amazon.com/dp/0470174463?tag=inspiredalgor-20) * [通過代理建模進行工程設計：實用指南](http://www.amazon.com/dp/0470060689?tag=inspiredalgor-20)