## 安全的代碼部署

安全,優雅的線上代碼部署。
非常非常重要卻又極其容易被忽視的問題:**原子發布**
* * * * *
#### 如果不能完全避免錯誤,那就努力把出錯的概率降到最低。
~~~
`switch` tinyint(1) unsigned NOT NULL DEFAULT 0 COMMENT '應用開關:1-開,0-關。應用升級、安裝、維護時需要暫時關閉,使其不能訪問,否則會出現意外(即使這樣也還是不能完全避免極端時候的并發問題,不過還是將故障降到最低概率了)',
來自家校 s_app表
~~~
* * * * *
### 安全的實現服務部署的思考
上面這個問題可引申到怎么實現安全,平滑的代碼部署的問題上去了。
要想實現安全的代碼遷移、熱替換、部署,光從應用層,用文件鎖,做開關的形式去做還是不行的,必須從內核的角度去做。
比如實現php服務的線上運行環境的代碼部署,如果直接替換文件可能會出現不可預料的問題,以及錯誤,所以做一個開關,暫停網站,但是已有的代碼還在內存中跑怎么辦,那就做一個程序生命檢測的機制,只要程序有活著的,那就鎖文件,知道文件沒鎖了就說明整個系統停了,但是這樣還不夠,很難保證所有程序都遵循這個約定,活著時都去摸一摸這個問題。
那么就要使出最后的絕招了,從內核去控制程序的生命,首先使用傳統的方式暫停所有程序,關閉隊列服務,關閉常駐程序,關閉訪問開關,此時也還不能夠確定是不是都停止了,那我們就等(正常的服務正在運行的可能此時還在內存中運行著呢),只要常駐和隊列服務關閉了,那么內核一會也會停止的,只要從php內核那里檢測到徹底沒有生命活動了,就表示當前沒有任何活動程序了,那么此時就說明絕對安全了,此時就可以放心的開始部署工作了。
對于線上的服務部署,針對不同的平臺。業界肯定早已經有成熟的技術方案了,以后有時間在研究。
>[danger] 如果直接采用替換文件的方式,那么是很危險的,可能會出現難以預料的錯誤,這在生產環境中是致命的,因為文件的替換可能不是原子性的同時都能夠替換(這是由PHP的運行機制決定的),這樣的話,如果舊文件引入新文件的,那么邏輯可能就會出現難以預料的問題。所以安全的替換必須是原子性的,即要么同時都替換,要么都不替換,不能出現交叉的情況。
> 這種部署方式需要停服,對于一個線上的使用量很大的生產系統來說,停服代價太大了。
>
> 應該使用平穩的部署方案,比如A服務是舊服務,最新的提交時B服務,那么開啟一個B服務,讓新的請求全部使用B服務,這樣就平滑過渡過來了,對原有的A服務完全沒有影響,兩者可以同時運行。等A服務逐漸沒有人訪問時,再停止就可以。
* * * * *
#### 熱遷移
熱遷移,可以想象的例子,蜂巢遷移,想把A蜂巢的蜜蜂遷移到B蜂巢,但是當前A蜂巢已經在使用中了,要使得遷移過程中不影響采蜜的蜜蜂只能這樣,做個和A一樣性質的蜂巢B,將B放在A旁邊,關閉A的入口,只保留出口,這樣蜜蜂會慢慢到B蜂巢中去,而此時A蜂巢中還有工作的蜜蜂,所以不能直接關閉,但是我們關閉入口只保留出口,這樣A里面的蜜蜂會逐漸減少,一段時間后完全沒有蜜蜂了,此時我們已經完成了熱遷移了,蜜蜂都轉移到B中了,現在可以放心的停用A了。
----
[SSH隧道技術----端口轉發,socket代理 - 登高行遠 - 博客園](https://www.cnblogs.com/fbwfbi/p/3702896.html)
[字節和騰訊都在使用,DevOps工具Zadig究竟有何魔力 - 知乎](https://zhuanlan.zhihu.com/p/381238540)
[Zadig | Cloud native CI/CD for large scale software development. 面向大規模微服務軟件開發的云原生 CI/CD | KodeRover](https://www.koderover.com/)
[又一篇 Deployer 的使用攻略 | Laravel China 社區](https://learnku.com/articles/13242/another-introduction-to-the-use-of-deployer)
[Deployer讓部署變得更加的簡單_The Hard Way To Code-CSDN博客_deployer](https://blog.csdn.net/seven_2016/article/details/83628778)
[deployer 實戰經驗分享 | Laravel China 社區](https://learnku.com/articles/10985/deployer-real-experience-sharing)
[又一篇 Deployer 的使用攻略 - overtrue](https://overtrue.me/articles/2018/06/deployer-guide.html)
[PHP如何正確發布 PHP 代碼 - 李培剛的博客 - CSDN博客](https://blog.csdn.net/lipeigang1109/article/details/79495324)
> 先通過`ln`創建一個臨時的軟鏈接,再通過`mv`實現原子操作,此時如果使用`strace`監控,會發現`mv`的`「T」`選項實際上僅僅執行了一個`rename`操作,所以是原子的。
[如何正確發布PHP代碼 | 火丁筆記](https://blog.huoding.com/2016/05/27/515#comment-398297)
[php + Laravel 實現部署自動化](http://mp.weixin.qq.com/s/qZGVdNtCJOycR_sye9az6w)
[Facebook 如何實現大規模快速發布?](http://mp.weixin.qq.com/s/0GHf5_zfsqPuFYa4k-Um0A)
[Facebook 是如何做大規模代碼部署的?](http://mp.weixin.qq.com/s/BbfRQ3tHQqmAIzoQ7Sj_hA)
[容器技術演化史](http://mp.weixin.qq.com/s/wwwB8OHQmbwqmKKE8Lyv-w)
[少年,是時候換種更優雅的方式部署你的php代碼了 - 碼王信息 - 博客園](https://www.cnblogs.com/mawang/p/6749396.html)
[一般如何將開發測試服務器上的代碼部署到生產環境? - 知乎](https://www.zhihu.com/question/33411671)
[利用WebHook實現PHP自動部署Git代碼-蕭曄離](https://m.aoh.cc/149.html)
> `git pull` 能實現原子性替換嗎?
[php - 使用git在服務器上更新代碼,經常導致權限變了,日志沒有寫進去,怎么解決? - SegmentFault 思否](https://segmentfault.com/q/1010000019110432)
[Deployer — Deployment Tool for PHP](https://deployer.org/)
[在 2016 年做 PHP 開發是一種什么樣的體驗?(一) - SegmentFault 思否](https://segmentfault.com/p/1210000007170414?from=timeline&isappinstalled=1)
[簡單輕松部署你的項目 - Deployer - PHP 那些事 - SegmentFault 思否](https://segmentfault.com/a/1190000009000278)
[使用php部署工具deployer實現自動部署 - 二次元の技術宅](https://www.maoxuner.cn/2017/05/04/php-deployer.html)
[如何正確發布PHP代碼 - CSDN博客](https://blog.csdn.net/ivan820819/article/details/51719230)
>[danger] **一個正確實現的發布系統至少應該支持原子發布。如果說每一個版本都表示一個獨立的狀態的話,那么在發布期間,任何一次請求只能在單一狀態下被執行。如此稱之為支持原子發布**;反之如果在發布期間,一次請求跨越不同的狀態,那么就不能稱之為原子發布。我們不妨舉個例子來說明一下:**假設一次請求需要 include 兩個 PHP 文件,分別是 a.php 和 b.php,當 include a.php 完成后,發布代碼,接著 include b.php,如果處理不當的話,那么就可能會導致舊版本的 a.php 和新版本的 b.php 同時存在于同一個請求之中,換句話說就是沒有實現原子發布。** **(重要:非常非常重要卻又極其容易被忽視的問題)**
[PHP執行系統外部命令函數:exec()、passthru()、system()、shell_exec() - gaohj - 博客園](http://www.cnblogs.com/gaohj/p/3267692.html)
* * * * *
### 從nginx看 線上環境的熱部署和熱更新替換
[【開源組件】深入淺出Nginx](https://mp.weixin.qq.com/s/31DGDYpDHcYg-4qM4OczxA)
~~~
思考1:Nginx如何做到熱部署?
所謂熱部署,就是配置文件nginx.conf修改后,不需要stop Nginx,不需要中斷請求,就能讓配置文件生效!(nginx -s reload 重新加載/nginx -t檢查配置/nginx -s stop)
通過上文我們已經知道worker進程負責處理具體的請求,那么如果想達到熱部署的效果,可以想象:
方案一:修改配置文件nginx.conf后,主進程master負責推送給worker進程更新配置信息,worker進程收到信息后,更新進程內部的線程信息。
方案二:修改配置文件nginx.conf后,重新生成新的worker進程,當然會以新的配置進行處理,而且新的請求都必須交給新的worker進程,至于老worker進程,等把那些以前的請求處理完畢,kill掉即可。
Nginx采用的就是方案二來達到熱部署的!
~~~
[深入NGINX:nginx高性能的實現原理 - panda521 - 博客園](https://www.cnblogs.com/chenjfblog/p/8715580.html)
> …… **通知舊的工作進程安靜地退出。** 這些舊進程不會再接受新的連接了。只要它們處理的HTTP請求結束了,它們就會干凈地關閉連接。一旦所有的連接都被關閉,工作進程也就退出了。
> (優雅的退出,優雅的在不中斷服務的情況下更新配置,php-fpm也是這樣的哦,修改php.ini后,只需要 `service php-fpm reload` 也不需要重啟進程,直接就 再裝 應用新配置和加載新擴展了,原理也同理,新啟動的cli就更不用說了,但是注意已經運行的進程,已經在內存中的進程則無法獲得新配置)
*****
[代碼部署規范 - 個人文章 - SegmentFault 思否](https://segmentfault.com/a/1190000012042692#articleHeader1)
[為啥總在凌晨上線,如何無損發布](https://mp.weixin.qq.com/s/OirX0Q1ilXKqlQL8sI2utQ)
* * * * *
### 無服務器環境的安全部署
沒有服務器的網站怎么安全部署呢(只能FTP上傳文件的那種虛擬主機),網站需要增加一個站點開關,能夠關閉入口(用戶訪問時就顯示網站關閉升級中,多多返利程序升級時就是這樣的,需要在后臺關閉站點),并保證沒有后臺程序在運行時(開關關閉后等一會,檢查沒有隊列等后臺任務),再上傳新文件覆蓋就可以,等新文件上傳完畢后在打開站點開關,這樣才能確保安全。否則直接上傳文件覆蓋就不滿足原子發布。
* * * * *
### 如何制作升級補丁包
老版本升級時,怎么制作老版本的升級包呢,拉出兩個版本的commit,difference出所有變化/新增/刪除文件,建立更新文件包(變化文件直接替換,新增文件直接新增),然后還要生成diff文件(處理舊文件的刪除)。這就好了好?但這只是文件上的更新,如果涉及到數據庫上的更新,那么需要一個update.sql作為一個數據庫的升級文件。
所以升級補丁包至少包含:`更新文件包`,`update.diff`,`update.sql`
程序文件的升級,數據庫的升級。完成了這兩部分的處理,就可以在線拉取升級補丁包直接升級了。**不過升級時還是要以安全的原子升級為前提。**
>[danger] 有表結構變化的升級部署,升級時必須增加開關,停止服務才行。
* * * * *
原子發布,前端也有這個問題。
[大公司里怎樣開發和部署前端代碼? - 知乎](https://www.zhihu.com/question/20790576/answer/32602154)
[45分鐘搞垮一家上市公司,只因一次失敗的部署?](https://mp.weixin.qq.com/s/ylMi_ShSnmbE1DRJcGLiMg)
* * * * *
last update:2018-6-2 19:33:09
- 開始
- 公益
- 更好的使用看云
- 推薦書單
- 優秀資源整理
- 技術文章寫作規范
- SublimeText - 編碼利器
- PSR-0/PSR-4命名標準
- php的多進程實驗分析
- 高級PHP
- 進程
- 信號
- 事件
- IO模型
- 同步、異步
- socket
- Swoole
- PHP擴展
- Composer
- easyswoole
- php多線程
- 守護程序
- 文件鎖
- s-socket
- aphp
- 隊列&并發
- 隊列
- 講個故事
- 如何最大效率的問題
- 訪問式的web服務(一)
- 訪問式的web服務(二)
- 請求
- 瀏覽器訪問阻塞問題
- Swoole
- 你必須理解的計算機核心概念 - 碼農翻身
- CPU阿甘 - 碼農翻身
- 異步通知,那我要怎么通知你啊?
- 實時操作系統
- 深入實時 Linux
- Redis 實現隊列
- redis與隊列
- 定時-時鐘-阻塞
- 計算機的生命
- 多進程/多線程
- 進程通信
- 拜占庭將軍問題深入探討
- JAVA CAS原理深度分析
- 隊列的思考
- 走進并發的世界
- 鎖
- 事務筆記
- 并發問題帶來的后果
- 為什么說樂觀鎖是安全的
- 內存鎖與內存事務 - 劉小兵2014
- 加鎖還是不加鎖,這是一個問題 - 碼農翻身
- 編程世界的那把鎖 - 碼農翻身
- 如何保證萬無一失
- 傳統事務與柔性事務
- 大白話搞懂什么是同步/異步/阻塞/非阻塞
- redis實現鎖
- 淺談mysql事務
- PHP異常
- php錯誤
- 文件加載
- 路由與偽靜態
- URL模式之分析
- 字符串處理
- 正則表達式
- 數組合并與+
- 文件上傳
- 常用驗證與過濾
- 記錄
- 趣圖
- foreach需要注意的問題
- Discuz!筆記
- 程序設計思維
- 抽象與具體
- 配置
- 關于如何學習的思考
- 編程思維
- 談編程
- 如何安全的修改對象
- 臨時
- 臨時筆記
- 透過問題看本質
- 程序后門
- 邊界檢查
- session
- 安全
- 王垠
- 第三方數據接口
- 驗證碼問題
- 還是少不了虛擬機
- 程序員如何談戀愛
- 程序員為什么要一直改BUG,為什么不能一次性把代碼寫好?
- 碎碎念
- 算法
- 實用代碼
- 相對私密與絕對私密
- 學習目標
- 隨記
- 編程小知識
- foo
- 落盤
- URL編碼的思考
- 字符編碼
- Elasticsearch
- TCP-IP協議
- 碎碎念2
- Grafana
- EFK、ELK
- RPC
- 依賴注入
- 科目一
- 開發筆記
- 經緯度格式轉換
- php時區問題
- 解決本地開發時調用遠程AIP跨域問題
- 后期靜態綁定
- 談tp的跳轉提示頁面
- 無限分類問題
- 生成微縮圖
- MVC名詞
- MVC架構
- 也許模塊不是唯一的答案
- 哈希算法
- 開發后臺
- 軟件設計架構
- mysql表字段設計
- 上傳表如何設計
- 二開心得
- awesomes-tables
- 安全的代碼部署
- 微信開發筆記
- 賬戶授權相關
- 小程序獲取是否關注其公眾號
- 支付相關
- 提交訂單
- 微信支付筆記
- 支付接口筆記
- 支付中心開發
- 下單與支付
- 支付流程設計
- 訂單與支付設計
- 敏感操作驗證
- 排序設計
- 代碼的運行環境
- 搜索關鍵字的顯示處理
- 接口異步更新ip信息
- 圖片處理
- 項目搭建
- 閱讀文檔的新方式
- mysql_insert_id并發問題思考
- 行鎖注意事項
- 細節注意
- 如何處理用戶的輸入
- 不可見的字符
- 抽獎
- 時間處理
- 應用開發實戰
- python 學習記錄
- Scrapy 教程
- Playwright 教程
- stealth.min.js
- Selenium 教程
- requests 教程
- pyautogui 教程
- Flask 教程
- PyInstaller 教程
- 蜘蛛
- python 文檔相似度驗證
- thinkphp5.0數據庫與模型的研究
- workerman進程管理
- workerman網絡分析
- java學習記錄
- docker
- 筆記
- kubernetes
- Kubernetes
- PaddlePaddle
- composer
- oneinstack
- 人工智能 AI
- 京東
- pc_detailpage_wareBusiness
- doc
- 電商網站設計
- iwebshop
- 商品規格分析
- 商品屬性分析
- tpshop
- 商品規格分析
- 商品屬性分析
- 電商表設計
- 設計記錄
- 優惠券
- 生成唯一訂單號
- 購物車技術
- 分類與類型
- 微信登錄與綁定
- 京東到家庫存系統架構設計
- crmeb
- 命名規范
- Nginx https配置
- 關于人工智能
- 從人的思考方式到二叉樹
- 架構
- 今日有感
- 文章保存
- 安全背后: 瀏覽器是如何校驗證書的
- 避不開的分布式事務
- devops自動化運維、部署、測試的最后一公里 —— ApiFox 云時代的接口管理工具
- 找到自己今生要做的事
- 自動化生活
- 開源與漿果
- Apifox: API 接口自動化測試指南