外部服务发现之 ingress

    其实就是从 kuberenets 集群外部访问集群的一个入口，将外部的请求转发到集群内不同的 Service 上，其实就相当于 nginx、haproxy 等负载均衡代理服务器，有的同学可能觉得我们直接使用 nginx 就实现了，但是只使用 nginx 这种方式有很大缺陷，每次有新服务加入的时候怎么改 Nginx 配置？不可能让我们去手动更改或者滚动更新前端的 Nginx Pod 吧？那我们再加上一个服务发现的工具比如 consul 如何？貌似是可以，对吧？而且在之前单独使用 docker 的时候，这种方式已经使用得很普遍了，Ingress 实际上就是这样实现的，只是服务发现的功能自己实现了，不需要使用第三方的服务了，然后再加上一个域名规则定义，路由信息的刷新需要一个靠 Ingress controller 来提供。

    Ingress controller 可以理解为一个监听器，通过不断地与 kube-apiserver 打交道，实时的感知后端 service、pod 的变化，当得到这些变化信息后，Ingress controller 再结合 Ingress 的配置，更新反向代理负载均衡器，达到服务发现的作用。其实这点和服务发现工具 consul consul-template 非常类似。

    现在可以供大家使用的 Ingress controller 有很多，比如 traefik、、Kubernetes Ingress Controller for Kong、，当然你也可以自己实现一个 Ingress Controller，现在普遍用得较多的是 traefik 和 nginx-controller，traefik 的性能较 nginx-controller 差，但是配置使用要简单许多，我们这里会以更简单的 traefik 为例给大家介绍 ingress 的使用。

    Traefik 是一款开源的反向代理与负载均衡工具。它最大的优点是能够与常见的微服务系统直接整合，可以实现自动化动态配置。目前支持 Docker、Swarm、Mesos/Marathon、 Mesos、Kubernetes、Consul、Etcd、Zookeeper、BoltDB、Rest API 等等后端模型。

    要使用 traefik，我们同样需要部署 traefik 的 Pod，由于我们演示的集群中只有 master 节点有外网网卡，所以我们这里只有 master 这一个边缘节点，我们将 traefik 部署到该节点上即可。

    首先，为安全起见我们这里使用 RBAC 安全认证方式：(rbac.yaml)：

    直接在集群中创建即可：

    1. $ kubectl create -f rbac.yaml
    2. serviceaccount "traefik-ingress-controller" created
    3. clusterrole.rbac.authorization.k8s.io "traefik-ingress-controller" created
    4. clusterrolebinding.rbac.authorization.k8s.io "traefik-ingress-controller" created
    1. ---
    2. kind: Deployment
    3. apiVersion: extensions/v1beta1
    4. metadata:
    5.   name: traefik-ingress-controller
    6.   namespace: kube-system
    7.   labels:
    8.     k8s-app: traefik-ingress-lb
    9. spec:
    10.   replicas: 1
    11.   selector:
    12.     matchLabels:
    13.       k8s-app: traefik-ingress-lb
    14.   template:
    15.     metadata:
    16.       labels:
    17.         k8s-app: traefik-ingress-lb
    18.         name: traefik-ingress-lb
    19.     spec:
    20.       serviceAccountName: traefik-ingress-controller
    21.       terminationGracePeriodSeconds: 60
    22.       - operator: "Exists"
    24.         kubernetes.io/hostname: master
    25.       containers:
    26.       - image: traefik
    27.         name: traefik-ingress-lb
    28.         ports:
    29.         - name: http
    30.           containerPort: 80
    31.         - name: admin
    32.           containerPort: 8080
    33.         args:
    34.         - --api
    35.         - --kubernetes
    36.         - --logLevel=INFO
    37. ---
    38. kind: Service
    39. apiVersion: v1
    40. metadata:
    41.   name: traefik-ingress-service
    42.   namespace: kube-system
    43. spec:
    44.   selector:
    45.     k8s-app: traefik-ingress-lb
    46.   ports:
    47.     - protocol: TCP
    48.       port: 80
    49.       name: web
    51.       name: admin
    52.   type: NodePort

    直接创建上面的资源对象即可：

    要注意上面 yaml 文件：

    1. tolerations:
    2. - operator: "Exists"
    3. nodeSelector:
    4.   kubernetes.io/hostname: master

    由于我们这里的特殊性，只有 master 节点有外网访问权限，所以我们使用nodeSelector标签将traefik的固定调度到master这个节点上，那么上面的tolerations是干什么的呢？这个是因为我们集群使用的 kubeadm 安装的，master 节点默认是不能被普通应用调度的，要被调度的话就需要添加这里的 tolerations 属性，当然如果你的集群和我们的不太一样，直接去掉这里的调度策略就行。

    traefik 还提供了一个 web ui 工具，就是上面的 8080 端口对应的服务，为了能够访问到该服务，我们这里将服务设置成的 NodePort：

    1. $ kubectl get pods -n kube-system -l k8s-app=traefik-ingress-lb -o wide
    2. NAME                                          READY     STATUS    RESTARTS   AGE       IP            NODE
    3. traefik-ingress-controller-57c4f787d9-bfhnl   1/1       Running   0          8m        10.244.0.18   master
    4. $ kubectl get svc -n kube-system
    5. NAME                      TYPE        CLUSTER-IP       EXTERNAL-IP   PORT(S)                       AGE
    6. ...
    7. traefik-ingress-service   NodePort    10.102.183.112   <none>        80:30539/TCP,8080:30486/TCP   8m
    8. ...

    现在在浏览器中输入 master_node_ip:30486 就可以访问到 traefik 的 dashboard 了：
    traefik dashboard

    现在我们是通过 NodePort 来访问 traefik 的 Dashboard 的，那怎样通过 ingress 来访问呢？
    首先，需要创建一个 ingress 对象：(ingress.yaml)

    1. $ kubectl create -f ingress.yaml
    2. ingress.extensions "traefik-web-ui" created

    要注意上面的 ingress 对象的规则，特别是 rules 区域，我们这里是要为 traefik 的 dashboard 建立一个 ingress 对象，所以这里的 serviceName 对应的是上面我们创建的 traefik-ingress-service，端口也要注意对应 8080 端口，为了避免端口更改，这里的 servicePort 的值也可以替换成上面定义的 port 的名字：admin

    创建完成后，我们应该怎么来测试呢？

    • 第一步，在本地的/etc/hosts里面添加上 traefik.haimaxy.com 与 master 节点外网 IP 的映射关系

    • 第二步，在浏览器中访问：http://traefik.haimaxy.com，我们会发现并没有得到我们期望的 dashboard 界面，这是因为我们上面部署 traefik 的时候使用的是 NodePort 这种 Service 对象，所以我们只能通过上面的 30539 端口访问到我们的目标对象：

      加上端口后我们发现可以访问到 dashboard 了，而且在 dashboard 当中多了一条记录，正是上面我们创建的 ingress 对象的数据，我们还可以切换到 HEALTH 界面中，可以查看当前 traefik 代理的服务的整体的健康状态
      traefik health

    • 第三步，上面我们可以通过自定义域名加上端口可以访问我们的服务了，但是我们平时服务别人的服务是不是都是直接用的域名啊，http 或者 https 的，几乎很少有在域名后面加上端口访问的吧？为什么？太麻烦啊，端口也记不住，要解决这个问题，怎么办，我们只需要把我们上面的 traefik 的核心应用的端口隐射到 master 节点上的 80 端口，是不是就可以了，因为 http 默认就是访问 80 端口，但是我们在 Service 里面是添加的一个 NodePort 类型的服务，没办法隐射 80 端口，怎么办？这里就可以直接在 Pod 中指定一个 hostPort 即可，更改上面的 traefik.yaml 文件中的容器端口：

    1. containers:
    2. - image: traefik
    3. name: traefik-ingress-lb
    4. ports:
    5. - name: http
    6.   containerPort: 80
    7.   hostPort: 80
    8. - name: admin

    添加以后hostPort: 80，然后更新应用：

    更新完成后，这个时候我们在浏览器中直接使用域名方法测试下：

    • 第四步，正常来说，我们如果有自己的域名，我们可以将我们的域名添加一条 DNS 记录，解析到 master 的外网 IP 上面，这样任何人都可以通过域名来访问我的暴露的服务了。

    如果你有多个边缘节点的话，可以在每个边缘节点上部署一个 ingress-controller 服务，然后在边缘节点前面挂一个负载均衡器，比如 nginx，将所有的边缘节点均作为这个负载均衡器的后端，这样就可以实现 ingress-controller 的高可用和负载均衡了。