1.2.6 在 Kubernetes 集群上使用 Lightning 导入数据

    TiDB Lightning 整体架构：

    TiDB Lightning 主要包含两个部分：

    • （“前端”）： 主要完成适配工作，通过读取数据源，在下游 TiDB 集群建表、将数据转换成键值对（KV 对）发送到 tikv-importer、检查数据完整性等。
    • tikv-importer（“后端”）： 主要完成将数据导入 TiKV 集群的工作，对 tidb-lightning 写入的键值对进行缓存、排序、切分操作并导入到 TiKV 集群。

    在 Kubernetes 上，tikv-importer 位于 TiDB 集群的 Helm chart 内，被部署为一个副本数为 1 (replicas=1) 的 StatefulSet；tidb-lightning 位于单独的 Helm chart 内，被部署为一个 Job。

    为了使用 TiDB Lightning 恢复数据，tikv-importer 和 tidb-lightning 都必须分别部署。

    tikv-importer 可以在一个现有的 TiDB 集群上启用，或者在新建 TiDB 集群时启用。

    • 在新建一个 TiDB 集群时启用 tikv-importer：

      (1) 在 tidb-cluster 的 values.yaml 文件中将 importer.create 设置为 true。

      (2) 部署该集群。

    • (1) 在该 TiDB 集群的 values.yaml 文件中将 importer.create 设置为 true。

      (2) 升级该 TiDB 集群。

      1.   helm upgrade <tidb-cluster-release-name> pingcap/tidb-cluster -f values.yaml --version=<chart-version>

    (1) 配置 TiDB Lightning

    使用如下命令获得 TiDB Lightning 的默认配置。

    1. helm inspect values pingcap/tidb-lightning --version=<chart-version> > tidb-lightning-values.yaml

    tidb-lightning Helm chart 支持恢复本地或远程的备份数据。

    • 本地模式

      本地模式要求 Mydumper 备份数据位于其中一个 Kubernetes 节点上。要启用该模式，你需要将 dataSource.local.nodeName 设置为该节点名称，将 dataSource.local.hostPath 设置为 Mydumper 备份数据目录路径，该路径中需要包含名为 metadata 的文件。

    • PVC 模式

      PVC 模式要求 Mydumper 备份数据位于和要恢复到的目标 TiDB 集群在同一 namespace 下的一个 PVC 上。要启用该模式，你需要将 dataSource.adhoc.pvcName 设置为 Mydumper 备份数据所在的 PVC。

    • 与本地模式不同，远程模式需要使用 将 Mydumper 备份 tarball 文件从网络存储中下载到 PV 中。远程模式能在 rclone 支持的任何云存储下工作，目前已经有以下存储进行了相关测试：Google Cloud Storage (GCS)、 和 Ceph Object Storage。

      • 确保 values.yaml 中的 dataSource.local.nodeName 和 dataSource.local.hostPath 被注释掉。

      • 新建一个包含 rclone 配置的 Secret。rclone 配置示例如下。一般只需要配置一种云存储。有关其他的云存储，请参考 。

        1.   ```yaml
        2.   apiVersion: v1
        3.   kind: Secret
        4.   metadata:
        5.     name: cloud-storage-secret
        6.   type: Opaque
        7.   stringData:
        8.     rclone.conf: |
        9.     [s3]
        10.     type = s3
        11.     provider = AWS
        13.     access_key_id = <my-access-key>
        14.     secret_access_key = <my-secret-key>
        15.     region = us-east-1
        16.     [ceph]
        17.     provider = Ceph
        18.     env_auth = false
        19.     access_key_id = <my-access-key>
        20.     secret_access_key = <my-secret-key>
        21.     endpoint = <ceph-object-store-endpoint>
        22.     region = :default-placement
        23.     [gcs]
        24.     type = google cloud storage
        25.     # 该服务账号必须被授予 Storage Object Viewer 角色。
        26.     # 该内容可以通过 `cat <service-account-file.json> | jq -c .` 命令获取。
        27.     service_account_credentials = <service-account-json-file-content>
        28.   ```

        使用你的实际配置替换上述配置中的占位符，并将该文件存储为 secret.yaml。然后通过 kubectl apply -f secret.yaml -n <namespace> 命令创建该 Secret。

      • 将 dataSource.remote.storageClassName 设置为 Kubernetes 集群中现有的一个存储类型。

    (2) 部署 TiDB Lightning

    1. helm install pingcap/tidb-lightning --name=<tidb-lightning-release-name> --namespace=<namespace> --set failFast=true -f tidb-lightning-values.yaml --version=<chart-version>
    • 环境信息：

    在 namespace test-cluster 下有两套集群：cluster-1、cluster-2。

    查看 cluster-1 集群 Mysql 数据：

    • 创建备份所需的 secret：
    1. kubectl create secret generic backup-secret --namespace=test-backup --from-literal=user=root --from-literal=password=<root_password>
    1. helm install pingcap/tidb-backup --version=v1.1.0-beta.2 --name backup-cluster-1 --namespace test-backup --set-string clusterName=cluster-1,storage.size=500Gi
    • 确认备份任务完成：
    1. kubectl -n test-backup get job -l app.kubernetes.io/instance=backup-cluster-1
    2. NAME                            COMPLETIONS   DURATION   AGE
    3. basic-fullbackup-202003080800   1/1           3s         3m32s
    • 检查备份文件：

    查找备份 PV 挂载路径。

    1. kubectl -n test-cluster get pvc -l app.kubernetes.io/instance=backup-cluster-1
    3. NAME               STATUS   VOLUME       CAPACITY   ACCESS MODES   STORAGECLASS    AGE
    4. fullbackup-202003080800   Bound    local-pv-2a2853fb   77Gi      RWO  local-storage  62m
    6. kubectl describe pv local-pv-2a2853fb
    9. Labels:            kubernetes.io/hostname=tidb-operator-worker2
    10. Annotations:       pv.kubernetes.io/bound-by-controller: yes
    11. Finalizers:        [kubernetes.io/pv-protection]
    12. StorageClass:      local-storage
    13. Status:            Bound
    14. Claim:             test-cluster/fullbackup-202003080800
    15. Reclaim Policy:    Delete
    16. Access Modes:      RWO
    17. VolumeMode:        Filesystem
    18. Capacity:          500Gi
    19. Node Affinity:
    20.   Required Terms:
    21.     Term 0:        kubernetes.io/hostname in [tidb-operator-worker2]
    22. Message:
    23. Source:
    24.     Type:  LocalVolume (a persistent volume backed by local storage on a node)
    25.     Path:  /mnt/disks/20
    26. Events:    <none>

    使用 Lightning 恢复数据

    • 在 cluster-2 开启 importer
    1. helm upgrade cluster-2 --set-string importer.create=true pingcap/tidb-cluster
    • 部署 lightning 开始恢复数据
    1. helm install pingcap/tidb-lightning --version=v1.1.0-beta.2 --name restore-cluster-1 --namespace test-cluster --set-string dataSource.adhoc.pvcName='fullbackup-202003080800',targetTidbCluster.name='cluster-2'
    • 检查恢复任务状态
    1. kubectl -n test-cluster get job -l app.kubernetes.io/name='restore-cluster-1-tidb-lightning'
    3. NAME                               COMPLETIONS   DURATION   AGE
    4. restore-cluster-1-tidb-lightning   1/1           3s         9m3s
    • 访问 cluster-2 TiDB 服务，确认数据恢复情况
    1. MySQL [(none)]> select * from cloud.test_tbl;
    2. +----+------------+--------+------------+
    3. | id | title      | author | date       |
    4. +----+------------+--------+------------+
    5. |  1 | K8s        | shonge | 2020-03-07 |
    6. |  2 | operator   | shonge | 2020-03-07 |
    7. |  3 | kubernetes | shonge | 2020-03-07 |