PATHpilotのブログ

Masterノードの作り方を間違えていた。

kubeadm init時に--pod-network-cidr を指定していなかった。あとkube-flannel.ymlのnet-conf.jsonのNetwork IP設定を間違えていた。

kubeadm resetを実行したけれどもエラーが出てしまってどこまできれいになったか怪しい。後から変なところでハマると悲しいので、masterノードを再インストールした。で、実際に実行した手順。

1. masterノード上で、workerノードを全部deleteした。
2. masterノードの再インストール
3. kubeadm initの実行
4. workerノードでkubeadm resetの実行。workerノードはmasterノードでDeleteすればMasterとの関係を忘れてくれるかと思ったらそうではなかった。でresetが必要となった。
5. workerノードでjoinの実行

以上で、スタートにもどった感じ。
では、なかった。

教訓：Resetの後にflannel.1とcni0をDeteleせよ！

このあと以下のエラーの連打に遭遇した。

[root@localhost yaml]# kubectl describe pod csi-scale-staticdemo-pod

・・・省略・・・

Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Normal Scheduled 47m default-scheduler Successfully assigned ibm-spectrum-scale-csi-driver/ibm-spectrum-scale-csi-operator-55555c45c5-mwv9v to worker2.pathpilot.local
Warning FailedCreatePodSandBox 47m kubelet, worker2.pathpilot.local Failed to create pod sandbox: rpc error: code = Unknown desc = failed to set up sandbox container "91c235921db5fe2273132e115cb4c071bbdccb1980815c4a4049c7009c01a13e" network for pod "ibm-spectrum-scale-csi-operator-55555c45c5-mwv9v": networkPlugin cni failed to set up pod "ibm-spectrum-scale-csi-operator-55555c45c5-mwv9v_ibm-spectrum-scale-csi-driver" network: failed to set bridge addr: "cni0" already has an IP address different from 10.244.1.1/24

どうやらcni0がすでに構成されているよ！と言っているようだ。確かにflannel.1とcni0が既に存在している、というかReset前のが残ったままになっている。

[root@localhost work]# ip link
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN mode DEFAULT group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP mode DEFAULT group default qlen 1000
link/ether 00:0c:29:c2:be:18 brd ff:ff:ff:ff:ff:ff
3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN mode DEFAULT group default qlen 1000
link/ether 52:54:00:bf:38:1d brd ff:ff:ff:ff:ff:ff
4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc pfifo_fast master virbr0 state DOWN mode DEFAULT group default qlen 1000
link/ether 52:54:00:bf:38:1d brd ff:ff:ff:ff:ff:ff
5: docker0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN mode DEFAULT group default
link/ether 02:42:e8:9b:ec:01 brd ff:ff:ff:ff:ff:ff
6: flannel.1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1450 qdisc noqueue state UNKNOWN mode DEFAULT group default
link/ether 6e:fd:57:be:69:71 brd ff:ff:ff:ff:ff:ff
7: cni0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1450 qdisc noqueue state UP mode DEFAULT group default qlen 1000
link/ether b2:ab:34:6e:29:22 brd ff:ff:ff:ff:ff:ff
8: veth159ba468@if3: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1450 qdisc noqueue master cni0 state UP mode DEFAULT group default
link/ether 5e:c4:42:45:ec:34 brd ff:ff:ff:ff:ff:ff link-netnsid 0

で、以下を実行。

[root@localhost work]# ip link delete flannel.1
[root@localhost work]# ip link delete cni0
[root@localhost work]# ip link
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN mode DEFAULT group default qlen 1000
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP mode DEFAULT group default qlen 1000
link/ether 00:0c:29:c2:be:18 brd ff:ff:ff:ff:ff:ff
3: virbr0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN mode DEFAULT group default qlen 1000
link/ether 52:54:00:bf:38:1d brd ff:ff:ff:ff:ff:ff
4: virbr0-nic: <BROADCAST,MULTICAST> mtu 1500 qdisc pfifo_fast master virbr0 state DOWN mode DEFAULT group default qlen 1000
link/ether 52:54:00:bf:38:1d brd ff:ff:ff:ff:ff:ff
5: docker0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc noqueue state DOWN mode DEFAULT group default
link/ether 02:42:e8:9b:ec:01 brd ff:ff:ff:ff:ff:ff

これで過去をわすれさせて、
[root@localhost yaml]# kubectl describe pod csi-scale-staticdemo-pod はエラー連打がなくなった。

以上