k8s如何添加双master

在Kubernetes（k8s）集群中添加双master节点，可以通过增加系统的高可用性、分担负载和提高故障恢复能力来实现。首先要确保集群的etcd数据库和API服务器等核心组件有多副本部署。详细步骤包括配置etcd集群、安装和配置kubeadm、配置高可用API服务器和负载均衡器。

一、配置etcd集群

为了在k8s中添加双master节点，需要首先配置etcd集群，因为etcd是Kubernetes的核心数据存储。要确保etcd在多个master节点之间同步运行，可以通过以下步骤实现：

安装etcd：在每个master节点上安装etcd。可以使用官方提供的二进制包或者容器镜像来安装etcd。
生成etcd证书：etcd集群需要使用TLS证书进行通信。可以使用cfssl工具生成证书。
配置etcd服务：在每个master节点上配置etcd服务，指定集群中的其他etcd节点地址。
启动etcd服务：在每个master节点上启动etcd服务，并验证它们能够正常通信。

通过配置etcd集群，可以确保etcd数据在多个master节点之间同步，提高系统的可靠性和可用性。

二、安装和配置kubeadm

使用kubeadm工具可以简化Kubernetes集群的安装和配置过程。以下是安装和配置kubeadm的步骤：

安装kubeadm：在每个master节点上安装kubeadm工具。可以使用包管理器（如apt或yum）进行安装。
初始化第一个master节点：在第一个master节点上使用kubeadm init命令初始化集群。这个命令会生成一个kubeadm join命令，用于在其他节点上加入集群。
配置网络插件：在第一个master节点上安装网络插件（如Calico或Flannel），以便集群内的Pod可以正常通信。
加入第二个master节点：在第二个master节点上使用kubeadm join命令加入集群，并指定第一个master节点的API服务器地址和token。
配置高可用性：在第二个master节点上安装并配置高可用性组件（如keepalived和haproxy），确保在任何一个master节点故障时，集群仍然能够正常运行。

通过安装和配置kubeadm工具，可以简化Kubernetes集群的安装和配置过程，提高集群的可用性和可靠性。

三、配置高可用API服务器

高可用API服务器是确保Kubernetes集群在多个master节点之间正常运行的关键组件。可以通过以下步骤配置高可用API服务器：

安装haproxy：在每个master节点上安装haproxy工具。haproxy是一个高性能的负载均衡器，可以用于分发API服务器的请求。
配置haproxy：在每个master节点上配置haproxy，指定集群中的其他API服务器地址。可以使用以下配置文件示例：

frontend k8s-api bind *:6443 mode tcp option tcplog default_backend k8s-api-backend backend k8s-api-backend mode tcp balance roundrobin server master1 <master1-ip>:6443 check server master2 <master2-ip>:6443 check

启动haproxy服务：在每个master节点上启动haproxy服务，并验证它们能够正常工作。
配置kube-apiserver：在每个master节点上配置kube-apiserver，指定haproxy的地址作为API服务器的endpoint。可以使用以下配置文件示例：

apiVersion: v1 kind: Pod metadata: name: kube-apiserver namespace: kube-system spec: containers: - name: kube-apiserver image: k8s.gcr.io/kube-apiserver:v1.20.0 command: - kube-apiserver - --advertise-address=<haproxy-ip> - --etcd-servers=https://<etcd1-ip>:2379,https://<etcd2-ip>:2379 - --tls-cert-file=/etc/kubernetes/pki/apiserver.crt - --tls-private-key-file=/etc/kubernetes/pki/apiserver.key - --client-ca-file=/etc/kubernetes/pki/ca.crt - --service-cluster-ip-range=10.96.0.0/12 - --authorization-mode=Node,RBAC

通过配置高可用API服务器，可以确保Kubernetes集群在任何一个master节点故障时，仍然能够正常运行。

四、配置高可用负载均衡器

高可用负载均衡器是确保Kubernetes集群在多个master节点之间正常分发请求的关键组件。可以通过以下步骤配置高可用负载均衡器：

安装keepalived：在每个master节点上安装keepalived工具。keepalived是一个高可用性工具，可以用于管理虚拟IP地址。
配置keepalived：在每个master节点上配置keepalived，指定虚拟IP地址和优先级。可以使用以下配置文件示例：

vrrp_instance VI_1 {
    state MASTER
    interface eth0
    virtual_router_id 51
    priority 100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1234
    }
    virtual_ipaddress {
        192.168.0.100
    }
    track_script {
        chk_haproxy
    }
}
vrrp_script chk_haproxy {
    script "killall -0 haproxy"
    interval 2
    weight 2
}

启动keepalived服务：在每个master节点上启动keepalived服务，并验证它们能够正常工作。
配置负载均衡器：在每个master节点上配置负载均衡器，指定haproxy的地址作为负载均衡器的backend。可以使用以下配置文件示例：

通过配置高可用负载均衡器，可以确保Kubernetes集群在任何一个master节点故障时，仍然能够正常分发请求。

五、配置高可用控制平面

高可用控制平面是确保Kubernetes集群在多个master节点之间正常运行的关键组件。可以通过以下步骤配置高可用控制平面：

安装kube-controller-manager：在每个master节点上安装kube-controller-manager工具。kube-controller-manager是Kubernetes的控制平面组件之一，负责管理集群的状态。
配置kube-controller-manager：在每个master节点上配置kube-controller-manager，指定API服务器的地址和证书文件。可以使用以下配置文件示例：

apiVersion: v1 kind: Pod metadata: name: kube-controller-manager namespace: kube-system spec: containers: - name: kube-controller-manager image: k8s.gcr.io/kube-controller-manager:v1.20.0 command: - kube-controller-manager - --master=https://<haproxy-ip>:6443 - --cluster-signing-cert-file=/etc/kubernetes/pki/ca.crt - --cluster-signing-key-file=/etc/kubernetes/pki/ca.key - --root-ca-file=/etc/kubernetes/pki/ca.crt - --service-account-private-key-file=/etc/kubernetes/pki/sa.key - --use-service-account-credentials=true - --kubeconfig=/etc/kubernetes/controller-manager.conf - --leader-elect=true

启动kube-controller-manager服务：在每个master节点上启动kube-controller-manager服务，并验证它们能够正常工作。
安装kube-scheduler：在每个master节点上安装kube-scheduler工具。kube-scheduler是Kubernetes的控制平面组件之一，负责调度Pod。
配置kube-scheduler：在每个master节点上配置kube-scheduler，指定API服务器的地址和证书文件。可以使用以下配置文件示例：

apiVersion: v1 kind: Pod metadata: name: kube-scheduler namespace: kube-system spec: containers: - name: kube-scheduler image: k8s.gcr.io/kube-scheduler:v1.20.0 command: - kube-scheduler - --master=https://<haproxy-ip>:6443 - --kubeconfig=/etc/kubernetes/scheduler.conf - --leader-elect=true

启动kube-scheduler服务：在每个master节点上启动kube-scheduler服务，并验证它们能够正常工作。

通过配置高可用控制平面，可以确保Kubernetes集群在任何一个master节点故障时，仍然能够正常运行。

六、测试和验证

在完成上述步骤后，需要对Kubernetes集群进行测试和验证，确保其高可用性和可靠性。可以通过以下步骤进行测试和验证：

检查etcd集群状态：使用etcdctl工具检查etcd集群的状态，确保所有etcd节点正常运行并同步数据。可以使用以下命令：

etcdctl --endpoints=https://<etcd1-ip>:2379,https://<etcd2-ip>:2379 endpoint status

检查kube-apiserver状态：使用kubectl工具检查kube-apiserver的状态，确保所有API服务器正常运行并响应请求。可以使用以下命令：

kubectl get componentstatuses

检查kube-controller-manager状态：使用kubectl工具检查kube-controller-manager的状态，确保所有控制器正常运行并管理集群的状态。可以使用以下命令：

kubectl get pods -n kube-system -l component=kube-controller-manager

检查kube-scheduler状态：使用kubectl工具检查kube-scheduler的状态，确保所有调度器正常运行并调度Pod。可以使用以下命令：

kubectl get pods -n kube-system -l component=kube-scheduler

模拟故障测试：通过关闭某个master节点的服务，模拟故障场景，验证集群的高可用性和故障恢复能力。可以使用以下命令：

sudo systemctl stop kubelet

通过测试和验证，可以确保Kubernetes集群在多个master节点之间正常运行，提高集群的高可用性和可靠性。

七、维护和监控

在Kubernetes集群运行过程中，需要进行日常的维护和监控，确保集群的高可用性和可靠性。可以通过以下步骤进行维护和监控：

定期备份etcd数据：使用etcdctl工具定期备份etcd数据，防止数据丢失。可以使用以下命令：

etcdctl --endpoints=https://<etcd1-ip>:2379,https://<etcd2-ip>:2379 snapshot save /path/to/backup.db

监控集群状态：使用Prometheus和Grafana等监控工具监控集群的状态，及时发现和处理故障。可以使用以下命令：

kubectl apply -f https://raw.githubusercontent.com/coreos/prometheus-operator/master/bundle.yaml

定期更新集群组件：定期更新Kubernetes集群的组件，确保其安全性和稳定性。可以使用以下命令：

kubectl apply -f https://raw.githubusercontent.com/kubernetes/kubernetes/master/CHANGELOG-1.20.md

定期检查集群日志：定期检查Kubernetes集群的日志，发现和处理潜在的问题。可以使用以下命令：

kubectl logs -n kube-system -l component=kube-apiserver

配置告警机制：配置告警机制，在发生故障时及时通知管理员。可以使用以下配置文件示例：

apiVersion: monitoring.coreos.com/v1 kind: AlertmanagerConfig metadata: name: alertmanager-config namespace: monitoring spec: receivers: - name: 'default' emailConfigs: - to: 'admin@example.com'

通过日常的维护和监控，可以确保Kubernetes集群的高可用性和可靠性，及时发现和处理故障，提高系统的稳定性和安全性。

通过以上步骤，可以在Kubernetes集群中添加双master节点，提高集群的高可用性和可靠性。