手动扩缩容 Kubernetes 上的 TiDB 集群
TiDB 水平扩缩容操作指的是通过增加或减少 Pod 的数量,来达到集群扩缩容的目的。扩缩容 TiDB 集群时,会按照填入的 值,对 PD、TiKV、TiDB 按顺序进行扩缩容操作。
- 如果要进行扩容操作,可将某个组件的
replicas
值调大。扩容操作会按照 Pod 编号由小到大增加组件 Pod,直到 Pod 数量与replicas
值相等。 - 如果要进行缩容操作,可将某个组件的
replicas
值调小。缩容操作会按照 Pod 编号由大到小删除组件 Pod,直到 Pod 数量与replicas
值相等。
如果要对 PD、TiKV、TiDB 进行水平扩缩容,可以使用 kubectl 修改集群所对应的 TidbCluster
对象中的 spec.pd.replicas
、spec.tikv.replicas
、spec.tidb.replicas
至期望值。
按需修改 TiDB 集群组件的
replicas
值。例如,执行以下命令可将 PD 的replicas
值设置为 3:观察
TidbCluster
Pod 是否新增或者减少。PD 和 TiDB 通常需要 10 到 30 秒左右的时间进行扩容或者缩容。
TiKV 组件由于涉及到数据搬迁,通常需要 3 到 5 分钟来进行扩容或者缩容。
水平扩缩容 TiFlash
如果你部署了 TiFlash,想对 TiFlash 进行水平扩缩容,请参照本小节的步骤进行操作。
水平扩容 TiFlash
如果要对 TiFlash 进行水平扩容,可以通过修改 spec.tiflash.replicas
来实现。例如,执行以下命令可将 TiFlash 的 replicas
值设置为 3:
kubectl patch -n ${namespace} tc ${cluster_name} --type merge --patch '{"spec":{"tiflash":{"replicas":3}}}'
水平缩容 TiFlash
如果要对 TiFlash 进行水平缩容,执行以下步骤:
打开一个新终端标签或窗口,通过如下命令确认开启 TiFlash 的所有数据表的最大副本数 N:
curl 127.0.0.1:2379/pd/api/v1/config/rules/group/tiflash | grep count
输出结果中
count
的最大值就是所有数据表的最大副本数 N。回到
port-forward
命令所在窗口,按 Ctrl+C 停止port-forward
。如果缩容 TiFlash 后,TiFlash 集群剩余 Pod 数大于等于所有数据表的最大副本数 N,则直接进行下面第 6 步。如果缩容 TiFlash 后,TiFlash 集群剩余 Pod 数小于所有数据表的最大副本数 N,则执行以下步骤:
参考的步骤连接到 TiDB 服务。
针对所有副本数大于集群剩余 TiFlash Pod 数的表执行如下命令:
alter table <db_name>.<table_name> set tiflash replica ${pod_number};
${pod_number}
为缩容 TiFlash 后,TiFlash 集群的剩余 Pod 数。
等待并确认相关表的 TiFlash 副本数更新。
连接到 TiDB 服务,执行如下命令,查询相关表的 TiFlash 副本数:
SELECT * FROM information_schema.tiflash_replica WHERE TABLE_SCHEMA = '<db_name>' and TABLE_NAME = '<table_name>';
kubectl patch -n ${namespace} tc ${cluster_name} --type merge --patch '{"spec":{"ticdc":{"replicas":3}}}'
查看集群水平扩缩容状态
当所有组件的 Pod 数量都达到了预设值,并且都进入 Running
状态后,水平扩缩容完成。
注意
- PD、TiKV、TiFlash 组件在扩缩容的过程中不会触发滚动升级操作。
- TiKV 组件在缩容过程中,TiDB Operator 会调用 PD 接口将对应 TiKV 标记为下线,然后将其上数据迁移到其它 TiKV 节点,在数据迁移期间 TiKV Pod 依然是
Running
状态,数据迁移完成后对应 Pod 才会被删除,缩容时间与待缩容的 TiKV 上的数据量有关,可以通过kubectl get -n ${namespace} tidbcluster ${cluster_name} -o json | jq '.status.tikv.stores'
查看 TiKV 是否处于下线Offline
状态。 - 当 TiKV UP 状态的 store 数量 <= PD 配置中
MaxReplicas
的参数值时,无法缩容 TiKV 组件。 - TiKV 组件不支持在缩容过程中进行扩容操作,强制执行此操作可能导致集群状态异常。假如异常已经发生,可以参考 TiKV Store 异常进入 Tombstone 状态 进行解决。
- TiFlash 组件缩容处理逻辑和 TiKV 组件相同。
- PD、TiKV、TiFlash 组件在缩容过程中被删除的节点的 PVC 会保留,并且由于 PV 的
Reclaim Policy
设置为Retain
,即使 PVC 被删除,数据依然可以找回。
垂直扩缩容操作指的是通过增加或减少 Pod 的资源限制,来达到集群扩缩容的目的。垂直扩缩容本质上是 Pod 滚动升级的过程。
本小节介绍如何对 PD、TiKV、TiDB、TiFlash、TiCDC 进行垂直扩缩容。
如果要对 PD、TiKV、TiDB 进行垂直扩缩容,通过 kubectl 修改集群所对应的
TidbCluster
对象的spec.pd.resources
、spec.tikv.resources
、spec.tidb.resources
至期望值。如果要对 TiFlash 进行垂直扩缩容,修改
spec.tiflash.resources
至期望值。如果要对 TiCDC 进行垂直扩缩容,修改
spec.ticdc.resources
至期望值。
查看垂直扩缩容进度
watch kubectl -n ${namespace} get pod -o wide
当所有 Pod 都重建完毕进入 Running
状态后,垂直扩缩容完成。
注意
- 如果在垂直扩容时修改了资源的
requests
字段,并且 PD、TiKV、TiFlash 使用了 ,那升级后 Pod 还会调度回原节点,如果原节点资源不够,则会导致 Pod 一直处于Pending
状态而影响服务。 - TiDB 是一个可水平扩展的数据库,推荐通过增加节点个数发挥 TiDB 集群可水平扩展的优势,而不是类似传统数据库升级节点硬件配置来实现垂直扩容。