将 Pod 指派给节点

    你可以使用下列方法中的任何一种来选择 Kubernetes 对特定 Pod 的调度:

    与很多其他 Kubernetes 对象类似,节点也有标签。 你可以。 Kubernetes 也会为集群中所有节点添加一些标准的标签。 参见常用的标签、注解和污点以了解常见的节点标签。

    说明:

    这些标签的取值是取决于云提供商的,并且是无法在可靠性上给出承诺的。 例如, 的取值在某些环境中可能与节点名称相同, 而在其他环境中会取不同的值。

    节点隔离/限制

    通过为节点添加标签,你可以准备让 Pod 调度到特定节点或节点组上。 你可以使用这个功能来确保特定的 Pod 只能运行在具有一定隔离性,安全性或监管属性的节点上。

    如果使用标签来实现节点隔离,建议选择节点上的 kubelet 无法修改的标签键。 这可以防止受感染的节点在自身上设置这些标签,进而影响调度器将工作负载调度到受感染的节点。

    防止 kubelet 使用 node-restriction.kubernetes.io/ 前缀设置或修改标签。

    要使用该标签前缀进行节点隔离:

    1. 确保你在使用节点鉴权机制并且已经启用了 。
    2. 将带有 node-restriction.kubernetes.io/ 前缀的标签添加到 Node 对象, 然后在节点选择器中使用这些标签。 例如,example.com.node-restriction.kubernetes.io/fips=trueexample.com.node-restriction.kubernetes.io/pci-dss=true

    nodeSelector 是节点选择约束的最简单推荐形式。你可以将 nodeSelector 字段添加到 Pod 的规约中设置你希望目标节点所具有的节点标签。 Kubernetes 只会将 Pod 调度到拥有你所指定的每个标签的节点上。

    进一步的信息可参见。

    亲和性与反亲和性

    nodeSelector 提供了一种最简单的方法来将 Pod 约束到具有特定标签的节点上。 亲和性和反亲和性扩展了你可以定义的约束类型。使用亲和性与反亲和性的一些好处有:

    • 亲和性、反亲和性语言的表达能力更强。nodeSelector 只能选择拥有所有指定标签的节点。 亲和性、反亲和性为你提供对选择逻辑的更强控制能力。
    • 你可以标明某规则是“软需求”或者“偏好”,这样调度器在无法找到匹配节点时仍然调度该 Pod。
    • 你可以使用节点上(或其他拓扑域中)运行的其他 Pod 的标签来实施调度约束, 而不是只能使用节点本身的标签。这个能力让你能够定义规则允许哪些 Pod 可以被放置在一起。

    亲和性功能由两种类型的亲和性组成:

    • 节点亲和性功能类似于 nodeSelector 字段,但它的表达能力更强,并且允许你指定软规则。
    • Pod 间亲和性/反亲和性允许你根据其他 Pod 的标签来约束 Pod。

    节点亲和性概念上类似于 nodeSelector, 它使你可以根据节点上的标签来约束 Pod 可以调度到哪些节点上。 节点亲和性有两种:

    • requiredDuringSchedulingIgnoredDuringExecution: 调度器只有在规则被满足的时候才能执行调度。此功能类似于 nodeSelector, 但其语法表达能力更强。
    • preferredDuringSchedulingIgnoredDuringExecution: 调度器会尝试寻找满足对应规则的节点。如果找不到匹配的节点,调度器仍然会调度该 Pod。

    说明:

    在上述类型中,IgnoredDuringExecution 意味着如果节点标签在 Kubernetes 调度 Pod 后发生了变更,Pod 仍将继续运行。

    你可以使用 Pod 规约中的 .spec.affinity.nodeAffinity 字段来设置节点亲和性。 例如,考虑下面的 Pod 规约:

    pods/pod-with-node-affinity.yaml

    在这一示例中,所应用的规则如下:

    • 节点必须包含一个键名为 topology.kubernetes.io/zone 的标签, 并且该标签的取值必须antarctica-east1antarctica-west1
    • 节点最好具有一个键名为 another-node-label-key 且取值为 another-node-label-value 的标签。

    你可以使用 operator 字段来为 Kubernetes 设置在解释规则时要使用的逻辑操作符。 你可以使用 InNotInExistsDoesNotExistGtLt 之一作为操作符。

    NotInDoesNotExist 可用来实现节点反亲和性行为。 你也可以使用 将 Pod 从特定节点上驱逐。

    说明:

    如果你同时指定了 nodeSelectornodeAffinity两者 必须都要满足, 才能将 Pod 调度到候选节点上。

    如果你在与 nodeAffinity 类型关联的 nodeSelectorTerms 中指定多个条件, 只要其中一个 nodeSelectorTerms 满足(各个条件按逻辑或操作组合)的话,Pod 就可以被调度到节点上。

    参阅使用节点亲和性来为 Pod 指派节点, 以了解进一步的信息。

    节点亲和性权重

    你可以为 preferredDuringSchedulingIgnoredDuringExecution 亲和性类型的每个实例设置 weight 字段,其取值范围是 1 到 100。 当调度器找到能够满足 Pod 的其他调度请求的节点时,调度器会遍历节点满足的所有的偏好性规则, 并将对应表达式的 weight 值加和。

    最终的加和值会添加到该节点的其他优先级函数的评分之上。 在调度器为 Pod 作出调度决定时,总分最高的节点的优先级也最高。

    例如,考虑下面的 Pod 规约:

    pods/pod-with-affinity-anti-affinity.yaml 将 Pod 指派给节点 - 图2

    1. apiVersion: v1
    2. kind: Pod
    3. metadata:
    4. name: with-affinity-anti-affinity
    5. spec:
    6. affinity:
    7. nodeAffinity:
    8. requiredDuringSchedulingIgnoredDuringExecution:
    9. nodeSelectorTerms:
    10. - matchExpressions:
    11. - key: kubernetes.io/os
    12. operator: In
    13. values:
    14. - linux
    15. preferredDuringSchedulingIgnoredDuringExecution:
    16. preference:
    17. matchExpressions:
    18. - key: label-1
    19. operator: In
    20. values:
    21. - key-1
    22. - weight: 50
    23. preference:
    24. matchExpressions:
    25. - key: label-2
    26. operator: In
    27. values:
    28. - key-2
    29. containers:
    30. - name: with-node-affinity
    31. image: registry.k8s.io/pause:2.0

    如果存在两个候选节点,都满足 规则, 其中一个节点具有标签 label-1:key-1,另一个节点具有标签 label-2:key-2, 调度器会考察各个节点的 weight 取值,并将该权重值添加到节点的其他得分值之上,

    说明:

    如果你希望 Kubernetes 能够成功地调度此例中的 Pod,你必须拥有打了 kubernetes.io/os=linux 标签的节点。

    逐个调度方案中设置节点亲和性

    特性状态: Kubernetes v1.20 [beta]

    在配置多个调度方案时, 你可以将某个方案与节点亲和性关联起来,如果某个调度方案仅适用于某组特殊的节点时, 这样做是很有用的。 要实现这点,可以在中为 NodeAffinity 插件args 字段添加 addedAffinity。例如:

    这里的 addedAffinity 除遵从 Pod 规约中设置的节点亲和性之外, 还适用于将 .spec.schedulerName 设置为 foo-scheduler。 换言之,为了匹配 Pod,节点需要满足 addedAffinity 和 Pod 的 .spec.NodeAffinity

    由于 addedAffinity 对最终用户不可见,其行为可能对用户而言是出乎意料的。 应该使用与调度方案名称有明确关联的节点标签。

    说明:

    DaemonSet 控制器, 但该控制器不理会调度方案。 DaemonSet 控制器创建 Pod 时,默认的 Kubernetes 调度器负责放置 Pod, 并遵从 DaemonSet 控制器中奢侈的 nodeAffinity 规则。

    Pod 间亲和性与反亲和性

    Pod 间亲和性与反亲和性使你可以基于已经在节点上运行的 Pod 的标签来约束 Pod 可以调度到的节点,而不是基于节点上的标签。

    Pod 间亲和性与反亲和性的规则格式为“如果 X 上已经运行了一个或多个满足规则 Y 的 Pod, 则这个 Pod 应该(或者在反亲和性的情况下不应该)运行在 X 上”。 这里的 X 可以是节点、机架、云提供商可用区或地理区域或类似的拓扑域, Y 则是 Kubernetes 尝试满足的规则。

    你通过 的形式来表达规则(Y),并可根据需要指定选关联的名字空间列表。 Pod 在 Kubernetes 中是名字空间作用域的对象,因此 Pod 的标签也隐式地具有名字空间属性。 针对 Pod 标签的所有标签选择算符都要指定名字空间,Kubernetes 会在指定的名字空间内寻找标签。

    你会通过 topologyKey 来表达拓扑域(X)的概念,其取值是系统用来标示域的节点标签键。 相关示例可参见常用标签、注解和污点

    说明:

    Pod 间亲和性和反亲和性都需要相当的计算量,因此会在大规模集群中显著降低调度速度。 我们不建议在包含数百个节点的集群中使用这类设置。

    说明:

    Pod 反亲和性需要节点上存在一致性的标签。换言之, 集群中每个节点都必须拥有与 topologyKey 匹配的标签。 如果某些或者所有节点上不存在所指定的 topologyKey 标签,调度行为可能与预期的不同。

    Pod 间亲和性与反亲和性的类型

    节点亲和性类似,Pod 的亲和性与反亲和性也有两种类型:

    • requiredDuringSchedulingIgnoredDuringExecution
    • preferredDuringSchedulingIgnoredDuringExecution

    要使用 Pod 间亲和性,可以使用 Pod 规约中的 .affinity.podAffinity 字段。 对于 Pod 间反亲和性,可以使用 Pod 规约中的 .affinity.podAntiAffinity 字段。

    Pod 亲和性示例

    考虑下面的 Pod 规约:

    pods/pod-with-pod-affinity.yaml

    1. apiVersion: v1
    2. kind: Pod
    3. metadata:
    4. name: with-pod-affinity
    5. spec:
    6. affinity:
    7. podAffinity:
    8. requiredDuringSchedulingIgnoredDuringExecution:
    9. - labelSelector:
    10. matchExpressions:
    11. - key: security
    12. operator: In
    13. values:
    14. - S1
    15. topologyKey: topology.kubernetes.io/zone
    16. podAntiAffinity:
    17. preferredDuringSchedulingIgnoredDuringExecution:
    18. - weight: 100
    19. podAffinityTerm:
    20. labelSelector:
    21. matchExpressions:
    22. - key: security
    23. operator: In
    24. values:
    25. - S2
    26. topologyKey: topology.kubernetes.io/zone
    27. containers:
    28. image: registry.k8s.io/pause:2.0

    本示例定义了一条 Pod 亲和性规则和一条 Pod 反亲和性规则。Pod 亲和性规则配置为 requiredDuringSchedulingIgnoredDuringExecution,而 Pod 反亲和性配置为 preferredDuringSchedulingIgnoredDuringExecution

    亲和性规则表示,仅当节点和至少一个已运行且有 security=S1 的标签的 Pod 处于同一区域时,才可以将该 Pod 调度到节点上。 更确切的说,调度器必须将 Pod 调度到具有 topology.kubernetes.io/zone=V 标签的节点上,并且集群中至少有一个位于该可用区的节点上运行着带有 security=S1 标签的 Pod。

    反亲和性规则表示,如果节点处于 Pod 所在的同一可用区且至少一个 Pod 具有 security=S2 标签,则该 Pod 不应被调度到该节点上。 更确切地说, 如果同一可用区中存在其他运行着带有 security=S2 标签的 Pod 节点, 并且节点具有标签 topology.kubernetes.io/zone=R,Pod 不能被调度到该节点上。

    查阅 以进一步熟悉 Pod 亲和性与反亲和性的示例。

    你可以针对 Pod 间亲和性与反亲和性为其 operator 字段使用 InNotInExistsDoesNotExist 等值。

    原则上,topologyKey 可以是任何合法的标签键。出于性能和安全原因,topologyKey 有一些限制:

    • 对于 Pod 亲和性而言,在 requiredDuringSchedulingIgnoredDuringExecutionpreferredDuringSchedulingIgnoredDuringExecution 中, 不允许为空。
    • 对于 requiredDuringSchedulingIgnoredDuringExecution 要求的 Pod 反亲和性, 准入控制器 LimitPodHardAntiAffinityTopology 要求 topologyKey 只能是 kubernetes.io/hostname。如果你希望使用其他定制拓扑逻辑, 你可以更改准入控制器或者禁用之。

    除了 labelSelectortopologyKey,你也可以指定 labelSelector 要匹配的命名空间列表,方法是在 labelSelectortopologyKey 所在层同一层次上设置 namespaces。 如果 namespaces 被忽略或者为空,则默认为 Pod 亲和性/反亲和性的定义所在的命名空间。

    名字空间选择算符

    特性状态: Kubernetes v1.24 [stable]

    用户也可以使用 namespaceSelector 选择匹配的名字空间,namespaceSelector 是对名字空间集合进行标签查询的机制。 亲和性条件会应用到 namespaceSelector 所选择的名字空间和 namespaces 字段中所列举的名字空间之上。 注意,空的 namespaceSelector{})会匹配所有名字空间,而 null 或者空的 namespaces 列表以及 null 值 namespaceSelector 意味着“当前 Pod 的名字空间”。

    更实际的用例

    Pod 间亲和性与反亲和性在与更高级别的集合(例如 ReplicaSet、StatefulSet、 Deployment 等)一起使用时,它们可能更加有用。 这些规则使得你可以配置一组工作负载,使其位于所定义的同一拓扑中; 例如优先将两个相关的 Pod 置于相同的节点上。

    以一个三节点的集群为例。你使用该集群运行一个带有内存缓存(例如 Redis)的 Web 应用程序。 在此例中,还假设 Web 应用程序和内存缓存之间的延迟应尽可能低。 你可以使用 Pod 间的亲和性和反亲和性来尽可能地将该 Web 服务器与缓存并置。

    在下面的 Redis 缓存 Deployment 示例中,副本上设置了标签 app=storepodAntiAffinity 规则告诉调度器避免将多个带有 app=store 标签的副本部署到同一节点上。 因此,每个独立节点上会创建一个缓存实例。

    下例的 Deployment 为 Web 服务器创建带有标签 app=web-store 的副本。 Pod 亲和性规则告诉调度器将每个副本放到存在标签为 app=store 的 Pod 的节点上。 Pod 反亲和性规则告诉调度器决不要在单个节点上放置多个 app=web-store 服务器。

    1. apiVersion: apps/v1
    2. kind: Deployment
    3. metadata:
    4. name: web-server
    5. spec:
    6. selector:
    7. matchLabels:
    8. app: web-store
    9. replicas: 3
    10. template:
    11. metadata:
    12. labels:
    13. app: web-store
    14. spec:
    15. affinity:
    16. podAntiAffinity:
    17. requiredDuringSchedulingIgnoredDuringExecution:
    18. - labelSelector:
    19. matchExpressions:
    20. - key: app
    21. operator: In
    22. values:
    23. - web-store
    24. topologyKey: "kubernetes.io/hostname"
    25. podAffinity:
    26. requiredDuringSchedulingIgnoredDuringExecution:
    27. - labelSelector:
    28. matchExpressions:
    29. - key: app
    30. operator: In
    31. values:
    32. - store
    33. topologyKey: "kubernetes.io/hostname"
    34. containers:
    35. - name: web-app
    36. image: nginx:1.16-alpine

    创建前面两个 Deployment 会产生如下的集群布局,每个 Web 服务器与一个缓存实例并置, 并分别运行在三个独立的节点上。

    总体效果是每个缓存实例都非常可能被在同一个节点上运行的某个客户端访问。 这种方法旨在最大限度地减少偏差(负载不平衡)和延迟。

    你可能还有使用 Pod 反亲和性的一些其他原因。 参阅 ZooKeeper 教程 了解一个 StatefulSet 的示例,该 StatefulSet 配置了反亲和性以实现高可用, 所使用的是与此例相同的技术。

    nodeName 是比亲和性或者 nodeSelector 更为直接的形式。nodeName 是 Pod 规约中的一个字段。如果 nodeName 字段不为空,调度器会忽略该 Pod, 而指定节点上的 kubelet 会尝试将 Pod 放到该节点上。 使用 nodeName 规则的优先级会高于使用 nodeSelector 或亲和性与非亲和性的规则。

    使用 nodeName 来选择节点的方式有一些局限性:

    • 如果所指代的节点不存在,则 Pod 无法运行,而且在某些情况下可能会被自动删除。
    • 如果所指代的节点无法提供用来运行 Pod 所需的资源,Pod 会失败, 而其失败原因中会给出是否因为内存或 CPU 不足而造成无法运行。
    • 在云环境中的节点名称并不总是可预测的,也不总是稳定的。

    下面是一个使用 字段的 Pod 规约示例:

    上面的 Pod 只能运行在节点 kube-01 之上。

    Pod 拓扑分布约束

    阅读 以进一步了解这些约束的工作方式。

    • 进一步阅读文档。
    • 阅读节点亲和性 和 的设计文档。
    • 了解拓扑管理器如何参与节点层面资源分配决定。
    • 了解如何使用。