rsync

calendar 2022-11-08 · 4 分鐘 · Linux Command  ·
分享到: linkedin copy

遠程數據同步工具

補充說明

rsync命令 是一個遠程數據同步工具，可通過LAN/WAN快速同步多臺主機間的文件。rsync使用所謂的“rsync算法”來使本地和遠程兩個主機之間的文件達到同步，這個算法只傳送兩個文件的不同部分，而不是每次都整份傳送，因此速度相當快。 rsync是一個功能非常強大的工具，其命令也有很多功能特色選項，我們下面就對它的選項一一進行分析說明。

語法

1rsync [OPTION]... SRC DEST
2rsync [OPTION]... SRC [USER@]host:DEST
3rsync [OPTION]... [USER@]HOST:SRC DEST
4rsync [OPTION]... [USER@]HOST::SRC DEST
5rsync [OPTION]... SRC [USER@]HOST::DEST
6rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

對應於以上六種命令格式，rsync有六種不同的工作模式：

  1. 拷貝本地文件。當SRC和DES路徑信息都不包含有單個冒號":"分隔符時就啓動這種工作模式。如：rsync -a /data /backup
  2. 使用一個遠程shell程序(如rsh、ssh)來實現將本地機器的內容拷貝到遠程機器。當DST路徑地址包含單個冒號":"分隔符時啓動該模式。如：rsync -avz *.c foo:src
  3. 使用一個遠程shell程序(如rsh、ssh)來實現將遠程機器的內容拷貝到本地機器。當SRC地址路徑包含單個冒號":"分隔符時啓動該模式。如：rsync -avz foo:src/bar /data
  4. 從遠程rsync服務器中拷貝文件到本地機。當SRC路徑信息包含"::"分隔符時啓動該模式。如：rsync -av [email protected]::www /databack
  5. 從本地機器拷貝文件到遠程rsync服務器中。當DST路徑信息包含"::"分隔符時啓動該模式。如：rsync -av /databack [email protected]::www
  6. 列遠程機的文件列表。這類似於rsync傳輸，不過只要在命令中省略掉本地機信息即可。如：rsync -v rsync://192.168.78.192/www

選項

 1-v, --verbose 詳細模式輸出。
 2-q, --quiet 精簡輸出模式。
 3-c, --checksum 打開校驗開關，強制對文件傳輸進行校驗。
 4-a, --archive 歸檔模式，表示以遞歸方式傳輸文件，並保持所有文件屬性，等於-rlptgoD。
 5-r, --recursive 對子目錄以遞歸模式處理。
 6-R, --relative 使用相對路徑信息。
 7-b, --backup 創建備份，也就是對於目的已經存在有同樣的文件名時，將老的文件重新命名爲~filename。可以使用--suffix選項來指定不同的備份文件前綴。
 8--backup-dir 將備份文件(如~filename)存放在在目錄下。
 9-suffix=SUFFIX 定義備份文件前綴。
10-u, --update 僅僅進行更新，也就是跳過所有已經存在於DST，並且文件時間晚於要備份的文件，不覆蓋更新的文件。
11-l, --links 保留軟鏈結。
12-L, --copy-links 想對待常規文件一樣處理軟鏈結。
13--copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結。
14--safe-links 忽略指向SRC路徑目錄樹以外的鏈結。
15-H, --hard-links 保留硬鏈結。
16-p, --perms 保持文件權限。
17-o, --owner 保持文件屬主信息。
18-g, --group 保持文件屬組信息。
19-D, --devices 保持設備文件信息。
20-t, --times 保持文件時間信息。
21-S, --sparse 對稀疏文件進行特殊處理以節省DST的空間。
22-n, --dry-run 顯示哪些文件將被傳輸。
23-w, --whole-file 拷貝文件，不進行增量檢測。
24-x, --one-file-system 不要跨越文件系統邊界。
25-B, --block-size=SIZE 檢驗算法使用的塊尺寸，默認是700字節。
26-e, --rsh=command 指定使用rsh、ssh方式進行數據同步。
27--rsync-path=PATH 指定遠程服務器上的rsync命令所在路徑信息。
28-C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件，用來排除那些不希望傳輸的文件。
29--existing 僅僅更新那些已經存在於DST的文件，而不備份那些新創建的文件。
30--delete 刪除那些DST中SRC沒有的文件。
31--delete-excluded 同樣刪除接收端那些被該選項指定排除的文件。
32--delete-after 傳輸結束以後再刪除。
33--ignore-errors 及時出現IO錯誤也進行刪除。
34--max-delete=NUM 最多刪除NUM個文件。
35--partial 保留那些因故沒有完全傳輸的文件，以是加快隨後的再次傳輸。
36--force 強制刪除目錄，即使不爲空。
37--numeric-ids 不將數字的用戶和組id匹配爲用戶名和組名。
38--timeout=time ip超時時間，單位爲秒。
39-I, --ignore-times 不跳過那些有同樣的時間和長度的文件。
40--size-only 當決定是否要備份文件時，僅僅察看文件大小而不考慮文件時間。
41--modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口，默認爲0。
42-T --temp-dir=DIR 在DIR中創建臨時文件。
43--compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份。
44-P 等同於 --partial。
45--progress 顯示備份過程。
46-z, --compress 對備份的文件在傳輸時進行壓縮處理。
47--exclude=PATTERN 指定排除不需要傳輸的文件模式。
48--include=PATTERN 指定不排除而需要傳輸的文件模式。
49--exclude-from=FILE 排除FILE中指定模式的文件。
50--include-from=FILE 不排除FILE指定模式匹配的文件。
51--version 打印版本信息。
52--address 綁定到特定的地址。
53--config=FILE 指定其他的配置文件，不使用默認的rsyncd.conf文件。
54--port=PORT 指定其他的rsync服務端口。
55--blocking-io 對遠程shell使用阻塞IO。
56-stats 給出某些文件的傳輸狀態。
57--progress 在傳輸時顯示傳輸過程。
58--log-format=formAT 指定日誌文件格式。
59--password-file=FILE 從FILE中得到密碼。
60--bwlimit=KBPS 限制I/O帶寬，KBytes per second。
61-h, --help 顯示幫助信息。

實例

SSH方式

首先在服務端啓動ssh服務：

1service sshd start
2啓動 sshd： [確定]

使用rsync進行同步

接下來就可以在客戶端使用rsync命令來備份服務端上的數據了，SSH方式是通過系統用戶來進行備份的，如下：

 1rsync -vzrtopg --progress -e ssh --delete [email protected]:/www/* /databack/experiment/rsync
 2[email protected]'s password:
 3receiving file list ...
 45 files to consider
 5test/
 6a
 70 100% 0.00kB/s 527:35:41 (1, 20.0% of 5)
 8b
 967 100% 65.43kB/s 0:00:00 (2, 40.0% of 5)
10c
110 100% 0.00kB/s 527:35:41 (3, 60.0% of 5)
12dd
13100663296 100% 42.22MB/s 0:00:02 (4, 80.0% of 5)
14sent 96 bytes received 98190 bytes 11563.06 bytes/sec
15total size is 100663363 speedup is 1024.19

上面的信息描述了整個的備份過程，以及總共備份數據的大小。

後臺服務方式

啓動rsync服務，編輯/etc/xinetd.d/rsync文件，將其中的disable=yes改爲disable=no，並重啓xinetd服務，如下：

 1vi /etc/xinetd.d/rsync
 2
 3#default: off
 4# description: The rsync server is a good addition to an ftp server, as it \
 5# allows crc checksumming etc.
 6service rsync {
 7disable = no
 8socket_type = stream
 9wait = no
10user = root
11server = /usr/bin/rsync
12server_args = --daemon
13log_on_failure += USERID
14}

1/etc/init.d/xinetd restart
2停止 xinetd： [確定]
3啓動 xinetd： [確定]

創建配置文件，默認安裝好rsync程序後，並不會自動創建rsync的主配置文件，需要手工來創建，其主配置文件爲“/etc/rsyncd.conf”，創建該文件並插入如下內容：

 1vi /etc/rsyncd.conf
 2
 3uid=root
 4gid=root
 5max connections=4
 6log file=/var/log/rsyncd.log
 7pid file=/var/run/rsyncd.pid
 8lock file=/var/run/rsyncd.lock
 9secrets file=/etc/rsyncd.passwd
10hosts deny=172.16.78.0/22
11
12[www]
13comment= backup web
14path=/www
15read only = no
16exclude=test
17auth users=work

創建密碼文件，採用這種方式不能使用系統用戶對客戶端進行認證，所以需要創建一個密碼文件，其格式爲“username:password”，用戶名可以和密碼可以隨便定義，最好不要和系統帳戶一致，同時要把創建的密碼文件權限設置爲600，這在前面的模塊參數做了詳細介紹。

1echo "work:abc123" > /etc/rsyncd.passwd
2chmod 600 /etc/rsyncd.passwd

備份，完成以上工作，現在就可以對數據進行備份了，如下：

 1rsync -avz --progress --delete [email protected]::www /databack/experiment/rsync
 2
 3Password:
 4receiving file list ...
 56 files to consider
 6./ files...
 7a
 80 100% 0.00kB/s 528:20:41 (1, 50.0% of 6)
 9b
1067 100% 65.43kB/s 0:00:00 (2, 66.7% of 6)
11c
120 100% 0.00kB/s 528:20:41 (3, 83.3% of 6)
13dd
14100663296 100% 37.49MB/s 0:00:02 (4, 100.0% of 6)
15sent 172 bytes received 98276 bytes 17899.64 bytes/sec
16total size is 150995011 speedup is 1533.75

恢復，當服務器的數據出現問題時，那麼這時就需要通過客戶端的數據對服務端進行恢復，但前提是服務端允許客戶端有寫入權限，否則也不能在客戶端直接對服務端進行恢復，使用rsync對數據進行恢復的方法如下：

 1rsync -avz --progress /databack/experiment/rsync/ [email protected]::www
 2
 3Password:
 4building file list ...
 56 files to consider
 6./
 7a
 8b
 967 100% 0.00kB/s 0:00:00 (2, 66.7% of 6)
10c
11sent 258 bytes received 76 bytes 95.43 bytes/sec
12total size is 150995011 speedup is 452080.87

將源目錄同步到目標目錄

1$ rsync -r source destination

上面命令中，-r 表示遞歸，即包含子目錄。注意，-r是必須的，否則 rsync 運行不會成功。source 目錄表示源目錄，destination 表示目標目錄。

多個文件或目錄同步

1$ rsync -r source1 source2 destination

上面命令中，source1、source2 都會被同步到 destination 目錄。

同步元信息

-a 參數可以替代 -r，除了可以遞歸同步以外，還可以同步元信息（比如修改時間、權限等）。由於 rsync 默認使用文件大小和修改時間決定文件是否需要更新，所以 -a 比 -r 更有用。下面的用法纔是常見的寫法。

1$ rsync -a source destination

目標目錄 destination 如果不存在，rsync 會自動創建。執行上面的命令後，源目錄 source 被完整地複製到了目標目錄 destination 下面，即形成了 destination/source 的目錄結構。

如果只想同步源目錄 source 裏面的內容到目標目錄 destination ，則需要在源目錄後面加上斜槓。

1$ rsync -a source/ destination

上面命令執行後，source 目錄裏面的內容，就都被複制到了 destination 目錄裏面，並不會在 destination 下面創建一個 source 子目錄。

模擬執行的結果

如果不確定 rsync 執行後會產生什麼結果，可以先用 -n 或 --dry-run 參數模擬執行的結果。

1$ rsync -anv source/ destination

上面命令中，-n 參數模擬命令執行的結果，並不真的執行命令。-v 參數則是將結果輸出到終端，這樣就可以看到哪些內容會被同步。

目標目錄成爲源目錄的鏡像副本

默認情況下，rsync 只確保源目錄的所有內容（明確排除的文件除外）都複製到目標目錄。它不會使兩個目錄保持相同，並且不會刪除文件。如果要使得目標目錄成爲源目錄的鏡像副本，則必須使用 --delete 參數，這將刪除只存在於目標目錄、不存在於源目錄的文件。

1$ rsync -av --delete source/ destination

上面命令中，--delete 參數會使得 destination 成爲 source 的一個鏡像。

排除文件

有時，我們希望同步時排除某些文件或目錄，這時可以用--exclude參數指定排除模式。

1$ rsync -av --exclude='*.txt' source/ destination
2# 或者
3$ rsync -av --exclude '*.txt' source/ destination

上面命令排除了所有 TXT 文件。

注意，rsync 會同步以"點"開頭的隱藏文件，如果要排除隱藏文件，可以這樣寫 --exclude=".*"。

如果要排除某個目錄裏面的所有文件，但不希望排除目錄本身，可以寫成下面這樣。

1$ rsync -av --exclude 'dir1/*' source/ destination

多個排除模式，可以用多個 --exclude 參數。

1$ rsync -av --exclude 'file1.txt' --exclude 'dir1/*' source/ destination

多個排除模式也可以利用 Bash 的大擴號的擴展功能，只用一個 --exclude 參數。

1$ rsync -av --exclude={'file1.txt','dir1/*'} source/ destination

如果排除模式很多，可以將它們寫入一個文件，每個模式一行，然後用 --exclude-from 參數指定這個文件。

1$ rsync -av --exclude-from='exclude-file.txt' source/ destination

指定必須同步的文件模式

--include 參數用來指定必須同步的文件模式，往往與 --exclude 結合使用。

1$ rsync -av --include="*.txt" --exclude='*' source/ destination

上面命令指定同步時，排除所有文件，但是會包括 TXT 文件。

來源：https://github.com/jaywcjlove/linux-command

最後修改於： Wednesday, January 31, 2024

版權申明:

  • 未標註來源的內容皆為原創，未經授權請勿轉載（因轉載後排版往往錯亂、內容不可控、無法持續更新等）;
  • 非營利為目的，演繹本博客任何內容，請以'原文出處'或者'參考鏈接'等方式給出本站相關網頁地址(方便讀者)。

相關文章:

翻譯: