濮阳杆衣贸易有限公司

主頁 > 知識庫 > MongoDB實現(xiàn)備份壓縮的方法教程

MongoDB實現(xiàn)備份壓縮的方法教程

熱門標(biāo)簽:云南外呼系統(tǒng) 怎么投訴地圖標(biāo)注 濟南電銷機器人加盟公司 呼和浩特電銷外呼系統(tǒng)加盟 電銷機器人是什么軟件 老虎洗衣店地圖標(biāo)注 廣州長安公司怎樣申請400電話 杭州人工電銷機器人價格 蘋果汽車租賃店地圖標(biāo)注

背景及原理                                        

數(shù)據(jù)庫的備份是災(zāi)難恢復(fù)的最后一道屏障,不管什么類型的數(shù)據(jù)庫都需要設(shè)置數(shù)據(jù)庫備份,MongoDB也不例外。MongoDB 3.0 后 ,數(shù)據(jù)庫可以采用Wiredtiger存儲引擎后(3.2 版本默認),在此環(huán)境下通過mongodump 備份后,產(chǎn)生的備份文件要遠大于數(shù)據(jù)存儲文件的大小。此外,一般MongoDB存儲的數(shù)據(jù)量比較大,備份文件也比較大,占用了很多磁盤空間。所以,研究如何實現(xiàn)MongoDB備份壓縮很有必要。

上圖是執(zhí)行命令 db.stats() 查看某數(shù)據(jù)庫的信息。

備份文件的大小一般為dataSize的大小,所以我們希望壓縮備份,可以達到storageSize 或者更小。

一般的備份思路是先備份,后對備份文件進行壓縮。之前,我們采用的就是這種方式,例如主要壓縮命令如下

tar -cf - ${targetpath}/${nowtime} | pigz -p 10 > ${targetpath}/${nowtime}.tgz

(命令解釋: targetpath}/${nowtime 為待壓縮的備份文件;pigz 是Linux壓縮神器,可并行壓縮;-p是指定cpu的核數(shù)。)

但是這種方式,生成備份文件的過程中還是容易形成磁盤性能壓力和空間壓力。下圖為我們某臺Server 采用先備份后壓縮方式,形成的磁盤可用空間變化。

真正希望的是在備份的同時進行壓縮,這樣可用空間就比較平穩(wěn)了。在MongoDB 3.2 中 引入了一種壓縮式備份【此mongodb版本必須不低于3.2】。可以使用gzip進行壓縮。這是通過在mongodump和mongorestore中引入一個新的指令行選項“- -gzip”實現(xiàn)的。

壓縮可用于目錄以及歸檔模型下創(chuàng)建的備份,壓縮還可以減少磁盤空間使用。

測試

測試環(huán)境:

測試服務(wù)器

測試數(shù)據(jù)庫

端口

文件路徑

172.X.X.245

實例全備

17219

/data/mongodb_back

172.X.X.246

QQ_DingDing

17218

/data/mongodb_back/QQ_DingDing

Step 1 壓縮式備份的命令:

./mongodump --host 172.X.X.245 --port 17219 -u 用戶名 -p "密碼" --gzip --authenticationDatabase "admin" --out /data/mongodb_back

備份后文件的大小,97M

這時候,查看備份文件的格式都變成了.gz的格式

Step 2 將備份文件copy至遠程機器上,進行還原:

以下命令是將在172.X.X.246,要求是將文件從X.245 copy至本地

scp -r root@172.X.X.245:/data/mongodb_back/QQ_DingDing

step 3 執(zhí)行還原的命令

執(zhí)行的命令

./mongorestore --host 172.X.X.246 --port 17218 -d QQ_DingDing -u 用戶名 -p "密碼" --gzip --authenticationDatabase "admin" /data/mongodb_back/QQ_DingDing

還原后登錄MongoDB,執(zhí)行show dbs,查看此時 數(shù)據(jù)大小為500M。

補充說明 

(1)    如果不采用壓縮式的備份,備份后的文件會是多大呢?備份命令 :

./mongodump --host 172.X.X.245 --port 17219 -u 用戶名 -p "密碼" --authenticationDatabase "admin" --out /data/mongodb_back2

查看此種方法備份后的文件大小--1.5G。

以此QQ_DingDing數(shù)據(jù)庫為例,其壓縮率為(文件壓縮后的大小與壓縮前的大小之比):97M/1.5G=97/1536=6.3%

(2)   這種壓縮備份的方式的會不會帶來一些弊端:例如備份時間增長?(恢復(fù)時間增加?,請自測一下試試,嘻嘻 @@@)

以 某歸檔備份庫所在實例為例(storageSize 150G,dataSize 600G )

采用 先備份后壓縮的方式耗時1小時55分鐘

 

采用壓縮式備份(指定--gzip參數(shù))的方式耗時 2小時33分鐘

  

產(chǎn)生的備份文件大小基本相等,壓縮式備份方式產(chǎn)生的備份文件略小

所以 壓縮式備份會導(dǎo)致備份時間增長。

但從空間使用的角度來講,我們?nèi)匀唤ㄗh大家使用壓縮式備份,其壓縮比非常高(測試案例的壓縮比6.3%)。

附:定時清除,保留7天的紀(jì)錄

#!/bin/bash
targetpath='/backup/mongobak'
nowtime=$(date -d '-7 days' "+%Y%m%d")
if [ -d "${targetpath}/${nowtime}/" ]
then
rm -rf "${targetpath}/${nowtime}/"
echo "=======${targetpath}/${nowtime}/===刪除完畢=="
fi
echo "===$nowtime ==="

總結(jié)

以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,如果有疑問大家可以留言交流,謝謝大家對腳本之家的支持。

您可能感興趣的文章:
  • mongodb 數(shù)據(jù)庫操作--備份 還原 導(dǎo)出 導(dǎo)入
  • MongoDB整庫備份與還原以及單個collection備份、恢復(fù)方法
  • MongoDB備份、還原、導(dǎo)出、導(dǎo)入、克隆操作示例
  • Windows下自動備份MongoDB的批處理腳本
  • Mongodb實現(xiàn)定時備份與恢復(fù)的方法教程
  • Windows或Linux系統(tǒng)中備份和恢復(fù)MongoDB數(shù)據(jù)的教程
  • Linux下MongoDB數(shù)據(jù)庫實現(xiàn)自動備份詳解
  • 淺談MongoDB的備份方式
  • MongoDB使用自帶的命令行工具進行備份和恢復(fù)的教程
  • MongoDB 導(dǎo)出導(dǎo)入備份恢復(fù)數(shù)據(jù)詳解及實例

標(biāo)簽:自貢 雞西 玉林 興安盟 無錫 廈門 遼陽 泰安

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《MongoDB實現(xiàn)備份壓縮的方法教程》,本文關(guān)鍵詞  MongoDB,實現(xiàn),備份,壓縮,的,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《MongoDB實現(xiàn)備份壓縮的方法教程》相關(guān)的同類信息!
  • 本頁收集關(guān)于MongoDB實現(xiàn)備份壓縮的方法教程的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章
    夏河县| 封丘县| 洛浦县| 博乐市| 绥江县| 富宁县| 乡城县| 敦化市| 安徽省| 陇川县| 宁国市| 探索| 丽水市| 且末县| 馆陶县| 东海县| 弋阳县| 平塘县| 资阳市| 太保市| 怀柔区| 万年县| 洪湖市| 来凤县| 鄄城县| 江安县| 安丘市| 古田县| 宁城县| 偏关县| 鸡西市| 普安县| 加查县| 灯塔市| 旅游| 延津县| 奎屯市| 宝清县| 上饶市| 如东县| 白城市|