> #### 本文由Zero小卒編寫
### Rsync介紹
> 是一款開源的、快速的、多功能的、可實現全量及增量的本地或遠程數據同步備份的優秀工具。軟件適用于unix、linux、windows等多種操作系統平臺。全稱為Remote Rynchronization。
ssh帶的scp,但優于scp命令的功能,scp每次都是全量拷貝,而rsync可以增量拷貝。
Rsync還可以在本地主機的不同分區或目錄之間全量及增量的復制數據,類型cp命令。
Rsync還可以實現刪除文件和目錄的功能。
一個rsync相當于scp,cp,rm,但是還優于他們每一個命令。
### Rsync同步
> 在同步備份數據時,默認情況下,Rsync通過其獨特的“quick check”算法,它僅同步大小或者最后修改時間發生變化的文件或目錄。也可以根據權限,屬主等屬性的變化同步,但需要制定相應的參數,甚至可以實現只同步一個文件里有變化的內容部分,所以能實現快速的同步備份數據。
版本區別:
version2版本會把要同步的文件加載和已有的文件比較,如果發生變化就同步過去。version3版本邊比較邊同步。
Rsync是文件系統之上,基于文件的同步;基于block的同步用drbd。
union雙機互相同步,csync2多機同步。
### Rsync特性
- 支持拷貝特殊文件如鏈接文件、設備等。
- 可以有排除指定文件或目錄同步的功能,相當于打包命令tar的排除功能。
- 可以做到保持源文件或目錄的權限、時間、軟硬鏈接、屬主、組等所有屬性均不改變-P。
- 可以實現增量同步,既只同步發生變化的數據,因此數據傳輸效率高。
- 可以使用rcp、rsh、ssh等方式來配合傳輸文件(rsync本身不對數據加密)
- 可以通過socket(進程方式)傳輸文件和數據。(服務端與客戶端)
- 支持匿名的或認證(無需系統用戶)的進程模式傳輸,可實現方便安全的進行數據備份及鏡像。
### Rsync企業應用
- 兩臺服務器之間的數據同步
- 集群服務器的數據同步
- 定時同步(cron+rsync)與實時同步(rsync+inotify、rsync+sersync)
### Rsync工作方式
- 單個主機本地之間的數據傳輸(此時類似于cp命令的功能)
- 借助rcp、ssh等通道來傳輸數據(此時類似于scp命令的功能)
- 以守護進程(socket)的方式傳輸數據(這個是rsync自身的重要功能)
### Rsync優缺點
- 優點:增量備份同步、支持socket(daemon)、集中備份
- 缺點:大量小文件同步的時候比對時間較長,有的時候rsync進程會停止。解決方式可以打包同步或者通過drbd方式。同步大文件(10G)這樣的大文件有時候也會有問題。(發生同步中斷)未完成同步前,是隱藏文件。
### 常用參數
```
語法: rsync [option...] src... [dest]
說明:
[option]為同步時的參數選項 -avz
-z --compress 傳輸時進行壓縮以提高傳輸效率,--compress-level=NUM可按級別壓縮。
-v --verbose 詳細模式輸出,傳輸時的進度等信息。
-a --archive歸檔模式,表示以遞歸方式傳輸文件,并保持所有文件屬性。等于-rtopgDl
-r --對子目錄以遞歸模式,及目錄下的所有目錄都同樣傳輸。
-t --保持文件時間信息。
-o --保持文件屬主信息。
-p --保持文件權限。
-g --保持文件屬組信息。
-P --顯示同步的過程及傳輸時的進度信息。
-D --保持設備文件信息。
-l --保留軟連接。
-e 使用的信道協議,指定替代rsh的shell。
--exclude=PATTERN 指定排除不需要傳輸的文件模式。
[src]為源,即需要拷貝的分區、文件或目錄等。
[dest]為目的分區、文件或目錄等。
```
### 常見使用方法
#### 單個主機本地之間的數據傳輸 本地傳輸模式(local-only mode)
```
rsync -avz /etc /tmp/ ---增量的拷貝方式
如果拷貝目錄不帶”/“,表示拷貝的內容包括本層目錄,如果帶"/"表示拷貝本層目錄以下的內容。
刪除(刪除性的復制)--- 就是讓/tmp和/data/null中的內容完全一致。
rsync -avz --delete /data/null/ /tmp/
rsync -r --delete /tmp/cc/ /tmp/data
```
#### 借助rsync命令,通過ssh通道來傳輸數據(此時類似于scp命令的功能)
```
推方式
rsync -avz /tools/httpd-2.2.27.tar.gz -e 'ssh -p 19527' root@192.168.119.20:/tools
/tools/libiconv-1.14.tar.gz ---本地文件
root@192.168.119.20:/tools ---遠程主機的系統用戶和地址、路徑
拉方式
rsync -avz -e 'ssh -p 19527' root@192.168.119.20:/tools/xy /tmp/
```
### 無差異的同步
>從客戶端推送內容時,客戶端內容與服務器端內容一致,如果服務器端有其他內容,直接被刪除與客戶端內容保持一致。
從服務端拉取內容時,服務端內容與客戶端內容一致,如果客戶端有其他內容,直接被刪除與服務端內容保持一致。
```shell
rsync -avz --delete /tmp/ rsync://rsync_backup@10.0.0.8/oldboy/ --password-file=/etc/rsync.password
```
本地目錄內容會被清除:
```shell
rsync -avz --delete rsync://rsync_backup@10.0.0.8/oldboy/ /tmp --password-file=/etc/rsync.password
```
### 排除命令(只需要在一端進行配置)
```
排除單個文件(客戶端)
rsync -avz --exclude=6.txt /tmp/ rsync://rsync_backup@192.168.106.135/backup --password-file=/etc/rsync.password
排除多個文件(客戶端)
rsync -avz --exclude={1..5}.txt /tmp/ rsync://rsync_backup@192.168.106.135/backup --password-file=/etc/rsync.password
rsync -avz --exclude={1,2,3,4,5}.txt /tmp/ rsync://rsync_backup@192.168.106.135/backup --password-file=/etc/rsync.password
通過排除文件進行排除(客戶端)
rsync -avz --exclude-from=paichu.log /tmp/ rsync://rsync_backup@192.168.106.135/backup --password-file=/etc/rsync.password
```
服務端排除(配置完成后,需要重啟服務)
服務端配置文件中增加
```
exclude=a b --通過空格隔開
```
### 多個模塊的配置(共享多個文件夾)
將相同性內容放在一起,創建不同的框
服務端配置文件中增加
```
[backup]
path = /oldboy/
ignore errors
[backup1]
path = /oldboy1/
```
- 獻給樂于奉獻的你
- 一、工作感悟
- 1.1 工作感悟
- 1.2 數據庫工作總結
- 二、運維專題(非技術)
- 2.1 公有云運維
- 2.1.1 阿里云采坑記.md
- 三、運維專題(技術類)
- 3.1 Linux(操作系統)
- 3.1.1 常見工作總結
- 3.1.2 常見服務使用和部署
- 3.1.3 操作系統優化
- 3.1.4 常用命令(Centos8)
- 3.2 Docker & K8s(容器技術)
- 3.2.1 Docker
- 1. Docker
- 1-1 容器基礎
- 1-2 部署和加速
- 1-3 常用命令
- 1-4 Dockerfile編寫
- 1-5 容器網絡
- 1-6 數據持久化
- 2. docker-compose
- 2-1 基礎
- 3.2.2 kubernetes
- 1. 導讀-請先看我
- 2. kubeadm部署集群
- 1-1 k8s-1.14-基于calico
- 1-2 k8s-1.17-基于flanne
- 3. 二進制部署集群
- 4. 日常工作及故障處理
- 4-1 常用命令
- 4-2 故障處理
- 3.2.3 依賴服務部署
- 1. Harbor(鏡像倉庫)
- 1-1 harbor-2.1.0(單節點)
- 3.3 CICD(持續集成/部署)
- 3.3.1 GitLab
- 1. 服務部署
- 1-1 Gitlab-CE-13.3.4(單節點)
- 2. Git基礎
- 3.3.2 Ansible
- 1. 服務部署
- 1-2 ansible-2.5(pip部署)
- 3. ansible-playbook
- 3-1 基于Roles的Playbook
- 3-3 循環語法
- 3.3.3 Jnekins
- 1. Jenkins部署
- 1-1 Jenkins-2.65部署
- 1-2 Jenkins-2.249部署
- 2. Jenkins項目初始化
- 3. Jenkins集成
- 3-1 Jenkins-2.65集成Sonar
- 3.4 LB/HA(負載均衡,反向代理)
- 3.4.1 LVS+Keepalive
- 1. LVS為MySQL讀提供負載均衡
- 3.4.2 Pacemaker(HA)
- 1. 常用命令(轉)
- 3.5 Runtime(代碼運行環境)
- 3.5.1 Tomcat(Web中間件)
- 1. Tomcat部署手冊
- 1-1 Tomcat-7.0.76部署
- 2. Tomcat常用腳本
- 3.6 NoSQL(非關系型數據庫)
- 3.6.1 redis(非關系數據庫)
- 1. Redis 基礎
- 2. Redis 4.0變化
- 3. Codis實現Redis的集群
- 4. Redis故障處理
- 5. redis安全第一步
- 6. Redis集群搭建
- 7. CacheCloud部署
- 3.6.1 Redis挑戰
- 3.6.2 MongoDB(文檔數據庫)
- 1. Mongodb基礎
- 1-1 Mongodb4.0新特性
- 1-2 支持多大數據量
- 2. Mongodb安裝
- 2-1 Mac OS安裝Mongodb
- 2-2 Yum安裝Mongodb
- 2-3 二進制安裝Mongodb
- 2-4 docker容器安裝Mongodb
- 2-5 Mongodb 配置文件詳解
- 2-6 Mongodb 生產安全清單
- 2-7 用戶身份認證和授權
- 3. Mongodb副本集
- 3-1 副本集搭建
- 3-2 用戶身份認證與授權
- 4. 日常維護工作
- 4-1 Mongodb磁盤回收
- 4-2 Mongodb備份恢復到任意時間點
- 4-3 Mongodb慢查詢分析
- 4-4 Mongodb版本升級
- 4-5 Mongodb副本集成員狀態
- 4-6 Mongodb備份恢復工具使用
- 4-7 Mongodb服務啟動和停止
- 4-8 修改副本集成員oplog大小
- 4-9 Mongodb 副本集Oplog
- 3.7 MQ(消息隊列)
- 3.7.1 Zookeeper(分布式協調系統)
- 1. ZooKeeper基礎
- 2. ZooKeeper集群搭建
- 2-1 ZK-3.4.10部署
- 3.2 RabbitMQ(消息隊列)
- 1. 服務部署
- 1-1 RabbitMQ-3.8部署
- 2. 常用命令
- 3.8 Monitor(數據收集,監控)
- 3.8.1 Zabbix(運維監控)
- 1. 服務部署
- 1-1 服務端部署
- 1-2 客戶端部署
- 2. 監控服務
- 2-1 監控Apache
- 2-2 監控IIS
- 2-3 監控Ningx
- 2-4 監控Tomcat(6/7/8)
- 2-5 監控WebSphere 7
- 2-6 監控MySQL
- 2-7 監控Oracle
- 2-8 監控SQL Servre
- 2-9 監控Weblogic
- 2-10 監控Windows
- 2-11 自定義監控項
- 3. 告警推送
- 3-1 郵件告警
- 3-2 短信告警
- 3-3 告警推到Syslog
- 4. 日常工作
- 4-1 數據庫優化(TokuDB)
- 4-2 數據庫優化(分區表)
- 4-3 前端定制(Grafana)
- 5. 與Grafana結合
- 3.8.2 ELKBstack(日志收集展示)
- 1. 服務部署
- 1-1 ELK 5.5部署及配置
- 1-1-1 ELKBstack介紹
- 1-1-2 Elasticsearch部署
- 1-1-3 Logstash部署
- 1-1-4 Kibana部署
- 1-1-5 X-pack部署
- 1-1-6 Filebeat部署
- 2. ELK高級配置
- 1. Elasticsearch實戰
- 2. Logstash實戰
- 3. Filebeat實戰
- 5. 引入隊列
- 3.9 Virtualization(虛擬化)
- 3.10 Basic(基礎服務)
- 3.10.1 Piwik-Matomo(用戶行為分析)
- 1. Piwik前期分析
- 2. Piwik介紹和部署
- 2-1 Piwik-3.x版本(早期)
- 3. Piwik 功能配置
- 4. Piwik 模擬數據和壓測
- 5. Piwik運轉原理
- 6. Piwik數據庫模式(一)
- 6-1 第一部分
- 6-2 第二部分
- 3.10.2 Cobbler(系統自動部署)
- 1. Cobbler 可以干什么?
- 2. Cobbler 基礎原理
- 3. Cobbler 安裝
- 3-1 Cobbler-2.8部署
- 4. Cobbler 基礎配置
- 5. Cobbler 配置文件
- 6. 一鍵優化腳本
- 3.10.3 Rsync(數據同步服務)
- 1. Rsync基礎
- 2. 案例:頁面部署(服務端拉取)
- 3.10.4 NFS(共享存儲)
- 1. NFS部署手冊
- 2. 客戶端NFS備份腳本
- 3.10.5 Grafana(可視化)
- 1. 安裝(8.2.x)
- 3.11 Tools(軟件工具)
- 3.11.1 基準測試
- 1. 基準測試方法論
- 2. 壓測工具 - Siege
- 3. 壓測工具 - http_load
- 3.12 DB(關系型數據庫)
- 3.12.1 MySQL(關系數據庫)
- 1. MySQL部署
- 1-1 MySQL-5.7部署
- 1-2 Percona-5.7 + TokuDB 部署
- 2. MySQL復制
- 2-1 MySQL異步復制
- 3. MySQL備份恢復
- 3-1 xtrabackup 備份恢復
- 4. MySQL 高可用
- 4-1 MHA(HA)
- 4-1-1 MHA 架構介紹和原理
- 4-1-2 MHA日常管理
- 4-1-3 MHA 自動Failover
- 4-1-4 MHA常用參數
- 4-1-5 MHA 報錯
- 4-1-6 MHA相關配置文件和腳本
- 4-2 MyCAT
- 4-2-1 MyCAT 介紹和部署
- 4-1-3 MyCAT讀寫分離案例解析
- 5. MySQL 常用腳本
- 5-1 MySQL常用統計語句
- 5-2 MySQL性能分析腳本
- 6. MySQL 日常及故障處理
- 6-1 MySQL死鎖排查
- 6-2 復制故障
- 6-3 MySQL 升級注意事項
- 6-3 MySQL授權
- 3.12.2 Oracle(關系數據庫)
- 1. Oracle部署
- 1-1 Oracle11g單實例部署
- 1-2 Oracle12c單實例部署
- 2. Oracle常用腳本
- 3. Oracle 知識點
- 六、Ansible開源項目
- 6.1 項目初始化手冊
- 6.1.1 Ansible錯誤處理
- 6.1.2 一種預先判斷是否操作的方法
- 6.2 System初始化
- 6.3 Nginx/Tnginx部署
- 6.4 Python部署
- 6.5 PHP部署
- 6.6 MySQL部署
- 6.7 Docker部署
- 6.8 Haproxy部署
- 6.9 Redis部署
- 1. 變量和tags信息
- 3. Redis主從部署
- 4. Redis集群部署
- 5. 清理數據
- 6.10 Software軟件部署
- 6.11 Zabbix部署
- 6.12 Elastic部署
- 6.13 Tomcat
- 6.14 Kafka部署
- 6.15 Zookeeper部署
- 6.16 Etcd集群部署
- 6.17 M3DB部署
- 6.18 Pormetheus部署
- 七、學習資源推薦
- 八、從瞎搞到放棄
- 8.1 CodeQL(語義代碼分析引擎)
- 8.1.1 背景及計劃
- 8.1.2 CodeQL概述
- 8.1.3 簡單部署和使用
- 8.1.4 后續
- 8.2 dbdeployer(輕松部署MySQL)
- 歸檔筆記
- 三、常用服務部署(遷移中)
- 3.4 Nginx & PHP(Web服務)
- 3.4.1 Nginx(Web)
- 1. Nginx基礎和部署
- 2. Nginx 我的一些思考
- 3. Nginx(Web)配置
- 4. Nginx(Proxy)配置
- 5. Nginx日常管理
- 3.4.3 PHP
- 1. PHP 7.1 部署
- 2. PHP5.6 部署
- 4. PHP原理
- 5. PHP 常用模塊
- 二、運維項目實戰(遷移中)
- 2.1 標準化 & 工具化項目
- 2.1.1 系統部署和優化
- 2.1.5 全網日志收集展示平臺項目
- 1. 項目需求
- 2. 整體方案規劃
- 3. 日志收集配置
- 4. 消息緩沖隊列
- 5. 日志處理轉發
- 6. 日志數據展示(待補充)
- 7. ELK安全配置(上)
- 8. ELK安全配置(下)
- 9. 項目總結
- 2.2 高性能Web項目
- 2.2.1 網站需求(完善中)