K8S集群环境的搭建
# K8S集群环境的搭建
# 1.环境规划
# 1.1 集群类型
Kubernetes集群大致分为两类:一主多从和多主多从
- 一主多从:一个Master节点和多台Node节点,搭建简单,但是有单机故障风险,适合用于测试环境
- 多主多从:多台Master和多台Node节点,搭建麻烦,安全性高,适合用于生产环境

为了测试方便,本次搭建的是一主多从类型的集群
# 1.2 安装方式
kubernetes有多种部署方式,目前主流的方式有kubeadm、minikube、二进制包
- minikube:一个用于快速搭建单节点的kubernetes工具
- kubeadm:一个用于快速搭建kubernetes集群的工具
- 二进制包:从官网上下载每个组件的二进制包,依次去安装,此方式对于理解kubernetes组件更加有效
我们需要安装kubernetes的集群环境,但是又不想过于麻烦,所以选择kubeadm方式
# 1.3 主机规划
角色 | IP地址 | 操作系统 | 配置 |
---|---|---|---|
Master | 10.0.0.50 | CentOS7.8+,基础设施服务器 | 2核CPU,2G内存,50G硬盘 |
Node1 | 10.0.0.51 | CentOS7.8+,基础设施服务器 | 2核CPU,2G内存,50G硬盘 |
Node2 | 10.0.0.52 | CentOS7.8+,基础设施服务器 | 2核CPU,2G内存,50G硬盘 |
# 2.环境搭建
# 2.1 前言
本次环境搭建需要三台CentOS服务器(一主二从),然后在每台服务器中分别安装Docker(18.06.3)、kubeadm(1.18.0)、kubectl(1.18.0)和kubelet(1.18.0)
没有特殊说明,就是三台机器都需要执行
# 2.2 环境初始化
#1.检查操作系统的版本(要求操作系统的版本至少在7.5以上)
cat /etc/redhat-release
#2.关闭防火墙和禁止防火墙开机启动
systemctl stop firewalld
systemctl disable firewalld
#3.设置主机名,三台机器依次设置
hostnamectl set-hostname <hostname>
hostnamectl set-hostname master
hostnamectl set-hostname node1
hostnamectl set-hostname node2
#4.主机名解析
cat >> /etc/hosts << EOF
10.0.0.50 master
10.0.0.51 node1
10.0.0.52 node2
EOF
#5.时间同步
yum install chrony -y
systemctl start chronyd
chronyc makestep
#6.关闭selinux
sed -i 's/enforcing/disabled/' /etc/selinux/config
#7.关闭swap分区
sed -ri 's/.*swap.*/#&/' /etc/fstab
#8.将桥接的IPv4流量传递到iptables的链
cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1
vm.swappiness = 0
EOF
# 加载br_netfilter模块
modprobe br_netfilter
# 查看是否加载
lsmod | grep br_netfilter
# 生效
sysctl --system
#9.开启ipvs
#在kubernetes中service有两种代理模型,一种是基于iptables,另一种是基于ipvs的。ipvs的性能要高于iptables的,但是如果要使用它,需要手动载入ipvs模块
#在每个节点安装ipset和ipvsadm
yum -y install ipset ipvsadm
cat > /etc/sysconfig/modules/ipvs.modules <<EOF
#!/bin/bash
modprobe -- ip_vs
modprobe -- ip_vs_rr
modprobe -- ip_vs_wrr
modprobe -- ip_vs_sh
modprobe -- nf_conntrack_ipv4
EOF
#授权、运行、检查是否加载
chmod 755 /etc/sysconfig/modules/ipvs.modules && bash /etc/sysconfig/modules/ipvs.modules && lsmod | grep -e ip_vs -e nf_conntrack_ipv4
#检查是否加载
lsmod | grep -e ipvs -e nf_conntrack_ipv4
#10.重启三台机器
reboot
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
# 3.节点上组件安装
每个节点安装Docker、kubeadm、kubelet和kubectl
# 3.1 安装Docker
wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo
yum -y install docker-ce-18.06.3.ce-3.el7
systemctl enable docker && systemctl start docker
docker version
2
3
4
# 3.2 设置Docker镜像加速器
sudo mkdir -p /etc/docker
-------------------------
sudo tee /etc/docker/daemon.json <<-'EOF'
{
"exec-opts": ["native.cgroupdriver=systemd"],
"registry-mirrors": ["https://hub.atomgit.com"],
"live-restore": true,
"log-driver":"json-file",
"log-opts": {"max-size":"500m", "max-file":"3"},
"storage-driver": "overlay2"
}
EOF
-------------------------
sudo systemctl daemon-reload
sudo systemctl restart docker
2
3
4
5
6
7
8
9
10
11
12
13
14
15
# 3.3 添加阿里云的YUM软件源
由于kubernetes的镜像源在国外,非常慢,这里切换成国内的阿里云镜像源
cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF
2
3
4
5
6
7
8
9
# 3.4 安装kubeadm、kubelet和kubectl
由于版本更新频繁,这里指定版本号部署
yum install -y kubelet-1.18.0 kubeadm-1.18.0 kubectl-1.18.0
为了实现Docker使用的cgroup drvier和kubelet使用的cgroup drver一致,建议修改"/etc/sysconfig/kubelet"文件的内容
vim /etc/sysconfig/kubelet
-------------------------
# 修改
KUBELET_EXTRA_ARGS="--cgroup-driver=systemd"
KUBE_PROXY_MODE="ipvs"
-------------------------
2
3
4
5
6
设置为开机自启动即可,由于没有生成配置文件,集群初始化后自动启动
systemctl enable kubelet
# 3.5 查看k8s所需镜像
kubeadm config images list

# 3.6 部署k8s的Master节点
部署k8s的Master节点(10.0.0.50):
# 由于默认拉取镜像地址k8s.gcr.io国内无法访问,这里需要指定阿里云镜像仓库地址
kubeadm init \
--apiserver-advertise-address=10.0.0.50 \
--image-repository registry.aliyuncs.com/google_containers \
--kubernetes-version v1.18.0 \
--service-cidr=10.96.0.0/12 \
--pod-network-cidr=10.244.0.0/16
2
3
4
5
6
7

根据提示消息,在Master节点上使用kubectl工具
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config
2
3
# 3.7 部署k8s的Node节点
kubeadm join 192.168.18.100:6443 --token jv039y.bh8yetcpo6zeqfyj \
--discovery-token-ca-cert-hash sha256:3c81e535fd4f8ff1752617d7a2d56c3b23779cf9545e530828c0ff6b507e0e26
2

默认的token有效期为2小时,当过期之后,该token就不能用了,这时可以使用如下的命令创建token:
kubeadm token create --print-join-command
# 生成一个永不过期的token
kubeadm token create --ttl 0 --print-join-command
2
3
# 3.8 部署CNI网络插件
根据提示,在Master节点上使用kubectl工具查看节点状态

kubernetes支持多种网络插件,比如flannel、calico、canal等,任选一种即可
在Master节点上获取flannel配置文件(可能会失败,如果失败,请下载到本地,然后安装)
wget https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
使用配置文件启动flannel
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
查看部署CNI网络插件进度
kubectl get pods -n kube-system

再次在Master节点使用kubectl工具查看节点状态
kubectl get nodes

查看集群健康状况
kubectl get cs
kubectl cluster-info
2


# 3.9 服务部署
在Kubernetes集群中部署一个Nginx程序,测试下集群是否正常工作
#说明:在Kubernetes中,当 Service 的类型为NodePort时,所有节点的IP + NodePort端口都可以访问该服务
#1.NodePort会在集群的每个节点上打开一个静态端口(如 31091)
#2.任何发送到任意节点IP:NodePort的流量都会被转发到Service对应的后端Pod
#3.无论请求到达哪个节点,Kubernetes的kube-proxy组件会通过iptables/IPVS规则将流量负载均衡到后端Pod(即使Pod不在请求到达的节点#上)
-------------------------
#部署nginx
kubectl create deployment nginx --image=nginx:1.14-alpine
#暴露端口
kubectl expose deployment nginx --port=80 --type=NodePort
#查看服务状态
kubectl get pods,svc
2
3
4
5
6
7
8
9
10
11

