使用 BR 备份 TiDB 集群到 GCS

    本文使用的备份方式基于 TiDB Operator 的 Custom Resource Definition (CRD) 实现,底层使用 BR 获取集群数据,然后再将数据上传到远端 GCS。BR 全称为 Backup & Restore,是 TiDB 分布式备份恢复的命令行工具,用于对 TiDB 集群进行数据备份和恢复。

    如果你对数据备份有以下要求,可考虑使用 BR 将 TiDB 集群数据以 或定时全量备份的方式备份到 GCS 上:

    • 需要备份的数据量较大,而且要求备份速度较快
    • 需要直接备份数据的 SST 文件(键值对)

    如有其他备份需求,请参考选择合适的备份方式。

    注意

    • BR 只支持 TiDB v3.1 及以上版本。
    • 使用 BR 备份出的数据只能恢复到 TiDB 数据库中,无法恢复到其他数据库中。

    Ad-hoc 备份支持全量备份与增量备份。

    要进行 Ad-hoc 备份,你需要创建一个自定义的 custom resource (CR) 对象来描述本次备份。创建好 Backup 对象后,TiDB Operator 根据这个对象自动完成具体的备份过程。如果备份过程中出现错误,程序不会自动重试,此时需要手动处理。

    本文档假设对部署在 Kubernetes test1 这个 namespace 中的 TiDB 集群 demo1 进行数据备份。下面是具体的操作过程。

    1. 下载文件 backup-rbac.yaml,并执行以下命令在 test1 这个 namespace 中创建备份需要的 RBAC 相关资源:

    2. 授予远程存储访问权限。

      参考 ,授权访问 GCS 远程存储。

      1. 确保你拥有备份数据库 mysql.tidb 表的 SELECTUPDATE 权限,用于备份前后调整 GC 时间。

      2. 创建 backup-demo1-tidb-secret secret 用于存放访问 TiDB 集群的 root 账号和密钥。

        1. kubectl create secret generic backup-demo1-tidb-secret --from-literal=password=<password> --namespace=test1
    1. 创建 Backup CR,将数据备份到 GCS:

      1. kubectl apply -f backup-gcs.yaml

      backup-gcs.yaml 文件内容如下:

      1. ---
      2. apiVersion: pingcap.com/v1alpha1
      3. kind: Backup
      4. metadata:
      5. name: demo1-backup-gcs
      6. namespace: test1
      7. spec:
      8. # backupType: full
      9. # Only needed for TiDB Operator < v1.1.10 or TiDB < v4.0.8
      10. from:
      11. host: ${tidb-host}
      12. port: ${tidb-port}
      13. user: ${tidb-user}
      14. secretName: backup-demo1-tidb-secret
      15. br:
      16. cluster: demo1
      17. clusterNamespace: test1
      18. # logLevel: info
      19. # statusAddr: ${status-addr}
      20. # concurrency: 4
      21. # rateLimit: 0
      22. # checksum: true
      23. # sendCredToTikv: true
      24. # options:
      25. # - --lastbackupts=420134118382108673
      26. gcs:
      27. projectId: ${project_id}
      28. secretName: gcs-secret
      29. bucket: ${bucket}
      30. prefix: ${prefix}
      31. # location: us-east1
      32. # storageClass: STANDARD_IA
      33. # objectAcl: private

      在配置 backup-gcs.yaml 文件时,请参考以下信息:

      • 自 v1.1.6 版本起,如果需要增量备份,只需要在 spec.br.options 中指定上一次的备份时间戳 --lastbackupts 即可。有关增量备份的限制,可参考使用 BR 进行备份与恢复
      • .spec.br 中的一些参数是可选的,例如 logLevelstatusAddr 等。完整的 .spec.br 字段的详细解释,请参考 。
      • spec.gcs 中的一些参数为可选项,如 locationobjectAclstorageClass。GCS 存储相关配置参考 GCS 存储字段介绍
      • 如果你使用的 TiDB 为 v4.0.8 及以上版本, BR 会自动调整 tikv_gc_life_time 参数,不需要配置 spec.tikvGCLifeTimespec.from 字段。
    2. 创建好 Backup CR 后,TiDB Operator 会根据 Backup CR 自动开始备份。你可以通过以下命令查看备份状态:

    备份全部集群数据

    1. ---
    2. kind: Backup
    3. metadata:
    4. name: demo1-backup-gcs
    5. namespace: test1
    6. spec:
    7. # backupType: full
    8. # Only needed for TiDB Operator < v1.1.10 or TiDB < v4.0.8
    9. # from:
    10. # host: ${tidb-host}
    11. # port: ${tidb-port}
    12. # user: ${tidb-user}
    13. # secretName: backup-demo1-tidb-secret
    14. br:
    15. cluster: demo1
    16. clusterNamespace: test1
    17. gcs:
    18. projectId: ${project_id}
    19. secretName: gcs-secret
    20. bucket: ${bucket}
    21. prefix: ${prefix}
    22. # location: us-east1
    23. # storageClass: STANDARD_IA
    24. # objectAcl: private

    备份单个数据库的数据

    以下示例中,备份 db1 数据库的数据。

    1. ---
    2. apiVersion: pingcap.com/v1alpha1
    3. kind: Backup
    4. metadata:
    5. name: demo1-backup-gcs
    6. namespace: test1
    7. spec:
    8. # backupType: full
    9. # Only needed for TiDB Operator < v1.1.10 or TiDB < v4.0.8
    10. # from:
    11. # host: ${tidb-host}
    12. # port: ${tidb-port}
    13. # user: ${tidb-user}
    14. # secretName: backup-demo1-tidb-secret
    15. tableFilter:
    16. - "db1.*"
    17. br:
    18. cluster: demo1
    19. clusterNamespace: test1
    20. gcs:
    21. projectId: ${project_id}
    22. secretName: gcs-secret
    23. bucket: ${bucket}
    24. prefix: ${prefix}
    25. # location: us-east1
    26. # storageClass: STANDARD_IA
    27. # objectAcl: private

    备份单张表的数据

    1. ---
    2. apiVersion: pingcap.com/v1alpha1
    3. kind: Backup
    4. metadata:
    5. name: demo1-backup-gcs
    6. namespace: test1
    7. # backupType: full
    8. # Only needed for TiDB Operator < v1.1.10 or TiDB < v4.0.8
    9. # from:
    10. # host: ${tidb-host}
    11. # user: ${tidb-user}
    12. # secretName: backup-demo1-tidb-secret
    13. tableFilter:
    14. - "db1.table1"
    15. br:
    16. cluster: demo1
    17. clusterNamespace: test1
    18. gcs:
    19. projectId: ${project_id}
    20. secretName: gcs-secret
    21. bucket: ${bucket}
    22. prefix: ${prefix}
    23. # location: us-east1
    24. # storageClass: STANDARD_IA
    25. # objectAcl: private

    使用表库过滤功能备份多张表的数据

    以下示例中,备份 db1.table1 表 和 db1.table2 表的数据。

    用户通过设置备份策略来对 TiDB 集群进行定时备份,同时设置备份的保留策略以避免产生过多的备份。定时全量备份通过自定义的 BackupSchedule CR 对象来描述。每到备份时间点会触发一次全量备份,定时全量备份底层通过 Ad-hoc 全量备份来实现。下面是创建定时全量备份的具体步骤:

    同 。

    1. 创建 BackupSchedule CR,开启 TiDB 集群的定时全量备份,将数据备份到 GCS:

      1. kubectl apply -f backup-schedule-gcs.yaml

      backup-schedule-gcs.yaml 文件内容如下:

      1. ---
      2. apiVersion: pingcap.com/v1alpha1
      3. kind: BackupSchedule
      4. metadata:
      5. name: demo1-backup-schedule-gcs
      6. namespace: test1
      7. spec:
      8. #maxBackups: 5
      9. #pause: true
      10. maxReservedTime: "3h"
      11. schedule: "*/2 * * * *"
      12. backupTemplate:
      13. # Only needed for TiDB Operator < v1.1.10 or TiDB < v4.0.8
      14. from:
      15. host: ${tidb_host}
      16. port: ${tidb_port}
      17. user: ${tidb_user}
      18. secretName: backup-demo1-tidb-secret
      19. br:
      20. cluster: demo1
      21. clusterNamespace: test1
      22. # logLevel: info
      23. # statusAddr: ${status-addr}
      24. # concurrency: 4
      25. # rateLimit: 0
      26. # checksum: true
      27. # sendCredToTikv: true
      28. gcs:
      29. secretName: gcs-secret
      30. projectId: ${project_id}
      31. bucket: ${bucket}
      32. prefix: ${prefix}
      33. # location: us-east1
      34. # storageClass: STANDARD_IA
      35. # objectAcl: private

      从以上 backup-schedule-gcs.yaml 文件配置示例可知,backupSchedule 的配置由两部分组成。一部分是 backupSchedule 独有的配置,另一部分是 backupTemplate

      • 关于 backupSchedule 独有的配置项具体介绍,请参考 BackupSchedule CR 字段介绍
      • backupTemplate 用于指定集群及远程存储相关的配置,字段和 Backup CR 中的 spec 一样,详细介绍可参考 。

    如果你不再需要已备份的 Backup CR,请参考删除备份的 Backup CR