分享（1）一个 MySQL Shell 备份数据库的脚本

雨点打透心脏的1/2处 2024-03-25 20:05 51阅读 0赞

### 编写目的 ###

使用 mysql shell 对 MySQL 数据库进行在线备份，并指定轮转次数

### 说明 ###

因为个人原因，有点强迫症， 喜欢编写能够复用且使用简单的脚本，提供简单的功能， 先是写的oracle备份脚本， 后来陆续写了其他数据库和操作系统的脚本  
MySQL 备份先是用的 mysqldump 备份, 后来又写了xtrabackup, mysqlbackup, mysql shell的一共4个 shell 脚本和一个windows bat的脚本， 基本流程大同小异  
能看懂脚本的花几分钟基本上也就明白了， 也都在测试环境和生产环境用过，但还是建议根据你的环境测试一下 也许有bug我没测出来，哈哈  
为了节省大家时间，也能放心使用，把大概功能略述一下

### 一 使用时只需要提供备份目的地和轮转次数 ###

1.  备份目的地就不说了
2.  轮转次数. 有点像logrotate，每次备份会在备份目的地生成一个序号命名的子文件夹， 到指定的轮转次数再从头开始

### 二 临时文件 ###

记录上次备份状态的文件， 主要用于防止上一次备份未结束，定时任务又启动了下一次任务。  
记录轮转序号的隐藏文件， 决定下次备份到哪儿，每次备份结束+1, 到最大了再从0开始  
日志文件，记录了备份的开始时间，每个库的开始备份时间，结束时间  
数据库列表文件，先查询数据库名称并记录于这个文件， 然后挨个备份。 不喜欢整个实例一起备份， 还是分数据库一个一个的好， 个人习惯。

### 三 执行顺序 ###

先查询数据库， 再挨个备份数据库， 备份完成了，再删除或覆盖废弃的备份(删除写死的15天，可以自己改，覆盖则根据轮转次数)。

### 四 备份时间 ###

后台备份的话可以看日志文件减一下， 前台执行的话脚本运行结束也会计算运行了多久(开始，结束时间减了一下)

### 速度比较 ###

测试数据库 73G :  
mysqldump: 花了 34 分钟 备份输出10G  
myshell dump 默认压缩 线程4(默认): 花了 30 分钟 备份输出 10G  
myshell dump 默认压缩 线程8: 花了 5 分钟 输出 备份输出10G  
myshell dump 默认压缩 线程12: 花了 5 分钟 输出 备份输出10G  
xtrabackup 默认并行度1: 花了 34 分钟输出73G

### 合集地址 ###

[分享（1）一个 MySQL Shell 备份数据库的脚本][1_ MySQL Shell]  
[分享（2）一个 mysqldump 备份 MySQL 数据库的脚本][2_ mysqldump _ MySQL]  
[分享（3）一个 xtrabackup 备份MySQL数据库的脚本][3_ xtrabackup _MySQL]  
[分享（4）一个 mysqlbackup 备份MySQL数据库的脚本][4_ mysqlbackup _MySQL]  
[分享（5） 一个windows平台 mysqldump 备份MySQL数据库的脚本][5_ _windows_ mysqldump _MySQL]

#!/bin/bash
    
    # =========================================================================
    # (C) Copyright 2003-2033 hoplite
    # =========================================================================
    # Script Purpose : backup mysql database by mysql shell
    # -------------------------------------------------------------------------
    # instructions
    # 1.setup url
    #   save credentials: run mysqlsh to connect database and save password. the password will save in .mylogin.cnf with the server URL
    #   list login-path: mysql_config_editor print --all
    # 2.setup cron job
    #   example: dump databases one by one every night
    #   0 3 * * * /u01/backup/mysql_shelldump.sh root@127.0.0.1:3308/mysql /u01/backup/shelldump 7
    
    # -------------------------------------------------------------------------
    # Version Date      Description
    # -------------------------------------------------------------------------
    # V1.0              Initial version
    # =========================================================================
    # note
    # MySQL Shell's dump utility util.dumpInstance() and util.dumpSchemas() introduced in MySQL Shell 8.0.21
    
    [ -f ~/.bash_profile ] && . ~/.bash_profile
    set -e -u -o pipefail
    
    show_usage ()
    {
        
      echo "usage: `basename $0` uri target-basedir rotate"
      echo "eg.    `basename $0` root@127.0.0.1:3308/mysql /u01/backup/shelldump 7"
    }
    
    if [ $# -lt 3 ] || [ $# -gt 3 ]; then
       show_usage
       exit 0
    else
      start_time=`date +%F" "%T`
    
      p_uri=$1
      p_targetbasedir=$2
      p_rotate_factor=$3
    
      v_id=`date +%Y%m%d%H%M%S`
      v_hash=`echo -n ${
         p_uri}|md5sum|cut -f1 -d" "`
      [ -d ${p_targetbasedir} ] || mkdir -p ${p_targetbasedir}
    
      stusfile=${p_targetbasedir}/.status.${v_hash} #file to record last backup status
      rotafile=${p_targetbasedir}/.rotate.${v_hash} #file to record rotate number
      log_file=${p_targetbasedir}/backup.log
      vdbsfile=${p_targetbasedir}/.vdbs.${v_hash}.${v_id} #file to record databases
    
      #check last backup result
      if [ -f ${stusfile} ]; then
        if [ `cat ${
         stusfile}` = "running" ]; then
          loginfo="`date +%F" "%T` ...ERROR:last backup fail, check it,then drop status file and rerun." ; echo ${loginfo} ; echo ${loginfo} >> ${log_file}
          exit 1
        fi
      else
        echo "running" > ${stusfile}
      fi
    
      #rotate number,+1 every time
      if [ -f ${rotafile} ]; then
        v_last_id=`cat ${
         rotafile}`
        v_incr_id=`expr ${
         v_last_id} + 1`
        v_curr_id=$(( ${v_incr_id} % ${p_rotate_factor} ))
      else
        v_curr_id=0
      fi
      echo ${v_curr_id} > ${rotafile}
      
      v_targetdir=${p_targetbasedir}/${v_curr_id}
      [ -d ${v_targetdir} ] && mv ${v_targetdir} ${p_targetbasedir}/obsolete.${v_id}
      [ -d ${v_targetdir} ] || mkdir -p ${v_targetdir}
      cd ${v_targetdir}
      loginfo="`date +%F" "%T` ...start backup to ${v_targetdir}" ; echo ${loginfo} ; echo ${loginfo} >> ${log_file}
    
    mysqlsh --uri ${p_uri} --sql > ${vdbsfile}<<EOF
    SELECT schema_name FROM information_schema.SCHEMATA;
    EOF
    
      filtered_dbs=("SCHEMA_NAME" "TABLE_SCHEMA" "mysql" "sys" "information_schema" "performance_schema" "the_database_you_do_not_want_to_dump")
      while read v_db
      do
        is_in_filtered_db="N"
        for fd in ${filtered_dbs[*]} ; do
          if [ "${fd}" == "${v_db}" ]; then
            is_in_filtered_db="Y"
            break
          fi
        done
    
        if [[ "${is_in_filtered_db}" == "N" ]]; then
          loginfo="`date +%F" "%T` ...backup database ${v_db}" ; echo ${loginfo} ; echo ${loginfo} >> ${log_file}
          mysqlsh --uri ${p_uri} -e "util.dumpSchemas(['${v_db}'],'${v_targetdir}/${v_db}',{threads:8})"
        fi
      done < ${vdbsfile}
      loginfo="`date +%F" "%T` ...end backup to ${v_targetdir}" ; echo ${loginfo} ; echo ${loginfo} >> ${log_file}
      rm "${vdbsfile:-unset}"
      echo "completed" > ${stusfile}
      
      tmpfile=/tmp/.tmpfile.`basename $0`.${v_hash}.${v_id}
      find ${p_targetbasedir} -mtime +15 -name "obsolete.20????????????" -type d > ${tmpfile}
      #eg. /u01/backup/shelldump/obsolete.20230317100025
      while read foldername
      do
        echo "${foldername:-unset}"
        rm -rf "${foldername:-unset}"
        echo "deleted backup folder : ${foldername}"
      done < ${tmpfile}
    
      end_time=`date +%F" "%T`
      t_start_time=`date -d "${start_time}" +%s`
      t_end_time=`date -d "${end_time}" +%s`
      t_diff_secs=$((${t_end_time} - ${t_start_time}))
      t_hours=$((${t_diff_secs}/3600))
      t_mins=$(($((${t_diff_secs}-${t_hours}*3600))/60))
      t_secs=$((${t_diff_secs}%60))
    
      echo
      echo ==================================================
      echo "File Name:`basename $0`    Start Time:${start_time}    End Time:${end_time}    Total Cost:${t_hours}:${t_mins}:${t_secs}"
      echo ==================================================
      echo
    fi```

[1_ MySQL Shell]: https://blog.csdn.net/weixin_44496870/article/details/129623027
[2_ mysqldump _ MySQL]: https://blog.csdn.net/weixin_44496870/article/details/129706015
[3_ xtrabackup _MySQL]: https://blog.csdn.net/weixin_44496870/article/details/129706119
[4_ mysqlbackup _MySQL]: https://blog.csdn.net/weixin_44496870/article/details/129706340
[5_ _windows_ mysqldump _MySQL]: https://blog.csdn.net/weixin_44496870/article/details/129706421