Kubernetes 的 NameSpace 无法删除应该怎么办?

打印 上一主题 下一主题

主题 1031|帖子 1031|积分 3093

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
概述

有时候我们操作不规范,或者删除的先后顺序有问题,或者某项关键服务没有启动,导致 Kubernetes 经常会出现无法删除 NameSpace 的情况。这种情况下我们应该怎么办?
规范删除流程

其实,很多时候出现这种情况,主要是因为我们的删除操作不规范,典型的有下面几种情况:

  • 删除的先后顺序有问题,如:

    • 先删除了 Traefik 的关键组件,再尝试删除包含 Traefik Ingress 或 EdgeIngress 的 CRD

  • 某项关键服务没有启动,如:

    • 对于安装了 Prometheus Operator + custom adapter 的 Kubernetes 集群,在 Prometheus 的一些关键组件 scale down 的情况下,删除包含这些监控 CRD 或 HPA custom metric 的 NameSpace

...
综上,根源上,大部分情况下 NameSpace 无法删除,都是我们操作有错在先。
为了避免此类错误再犯,推荐搭建删除按照如下流程:

  • 保证所有基础服务组件都是正常运行的状态(如前面提到的,ingress 组件,监控组件,servicemesh 组件。..)
  • 检查要删除的 NameSpace 下的所有资源,特别是 CRD, 这里推荐使用 Krew - Kubernetes 的 CLI 插件管理器 安装 get-all真正地获取该 NameSpace 下的所有资源,如后面的代码块所示:
  • 针对其中的一些 CRD 或特殊资源,最好先明确指定删除并确保可以成功删除掉
  • 最后,再删除该 NameSpace
第 2 步的代码块:(有如此多的 CRD)
  1. ❯ kubectl get-all -n cert-manager
  2. NAME                                                                              NAMESPACE     AGE
  3. configmap/cert-manager-webhook                                                    cert-manager  277d
  4. configmap/kube-root-ca.crt                                                        cert-manager  277d
  5. endpoints/cert-manager                                                            cert-manager  277d
  6. endpoints/cert-manager-webhook                                                    cert-manager  277d
  7. endpoints/cert-manager-webhook-dnspod                                             cert-manager  277d
  8. pod/cert-manager-6d6bb4f487-hkwpn                                                 cert-manager  85d
  9. pod/cert-manager-6d6bb4f487-wgtd8                                                 cert-manager  85d
  10. pod/cert-manager-cainjector-7d55bf8f78-5797c                                      cert-manager  277d
  11. pod/cert-manager-webhook-577f77586f-txlcx                                         cert-manager  85d
  12. pod/cert-manager-webhook-577f77586f-xh4st                                         cert-manager  85d
  13. pod/cert-manager-webhook-dnspod-5d5566c7bc-5cj4s                                  cert-manager  211d
  14. secret/cert-manager-cainjector-token-h8cqq                                        cert-manager  277d
  15. secret/cert-manager-token-28knj                                                   cert-manager  277d
  16. secret/cert-manager-webhook-ca                                                    cert-manager  277d
  17. secret/cert-manager-webhook-dnspod-ca                                             cert-manager  277d
  18. secret/cert-manager-webhook-dnspod-letsencrypt                                    cert-manager  277d
  19. secret/cert-manager-webhook-dnspod-secret                                         cert-manager  277d
  20. secret/cert-manager-webhook-dnspod-token-jsjrn                                    cert-manager  277d
  21. secret/cert-manager-webhook-dnspod-webhook-tls                                    cert-manager  277d
  22. secret/cert-manager-webhook-token-qxq44                                           cert-manager  277d
  23. secret/default-token-mkpmt                                                        cert-manager  277d
  24. secret/ewhisper-crt-secret                                                        cert-manager  277d
  25. secret/sh.helm.release.v1.cert-manager-webhook-dnspod.v1                          cert-manager  277d
  26. secret/sh.helm.release.v1.cert-manager.v1                                         cert-manager  277d
  27. serviceaccount/cert-manager                                                       cert-manager  277d
  28. serviceaccount/cert-manager-cainjector                                            cert-manager  277d
  29. serviceaccount/cert-manager-webhook                                               cert-manager  277d
  30. serviceaccount/cert-manager-webhook-dnspod                                        cert-manager  277d
  31. serviceaccount/default                                                            cert-manager  277d
  32. service/cert-manager                                                              cert-manager  277d
  33. service/cert-manager-webhook                                                      cert-manager  277d
  34. service/cert-manager-webhook-dnspod                                               cert-manager  277d
  35. order.acme.cert-manager.io/ewhisper-crt-6v6s4-2449993249                          cert-manager  209d
  36. order.acme.cert-manager.io/ewhisper-crt-89n7g-2449993249                          cert-manager  23d
  37. order.acme.cert-manager.io/ewhisper-crt-8g496-2449993249                          cert-manager  277d
  38. order.acme.cert-manager.io/ewhisper-crt-jj24l-2449993249                          cert-manager  83d
  39. order.acme.cert-manager.io/ewhisper-crt-q8pvw-2449993249                          cert-manager  149d
  40. deployment.apps/cert-manager                                                      cert-manager  277d
  41. deployment.apps/cert-manager-cainjector                                           cert-manager  277d
  42. deployment.apps/cert-manager-webhook                                              cert-manager  277d
  43. deployment.apps/cert-manager-webhook-dnspod                                       cert-manager  277d
  44. replicaset.apps/cert-manager-6d6bb4f487                                           cert-manager  277d
  45. replicaset.apps/cert-manager-cainjector-7d55bf8f78                                cert-manager  277d
  46. replicaset.apps/cert-manager-webhook-577f77586f                                   cert-manager  277d
  47. replicaset.apps/cert-manager-webhook-dnspod-5d5566c7bc                            cert-manager  211d
  48. replicaset.apps/cert-manager-webhook-dnspod-5d78f9bfcb                            cert-manager  217d
  49. replicaset.apps/cert-manager-webhook-dnspod-7c5cd575fc                            cert-manager  277d
  50. app.catalog.cattle.io/cert-manager                                                cert-manager  270d
  51. app.catalog.cattle.io/cert-manager-webhook-dnspod                                 cert-manager  270d
  52. certificaterequest.cert-manager.io/cert-manager-webhook-dnspod-ca-l57hl           cert-manager  277d
  53. certificaterequest.cert-manager.io/cert-manager-webhook-dnspod-webhook-tls-7zwdh  cert-manager  277d
  54. certificaterequest.cert-manager.io/cert-manager-webhook-dnspod-webhook-tls-gs57f  cert-manager  34d
  55. certificaterequest.cert-manager.io/ewhisper-crt-6v6s4                             cert-manager  209d
  56. certificaterequest.cert-manager.io/ewhisper-crt-89n7g                             cert-manager  23d
  57. certificaterequest.cert-manager.io/ewhisper-crt-8g496                             cert-manager  277d
  58. certificaterequest.cert-manager.io/ewhisper-crt-jj24l                             cert-manager  83d
  59. certificaterequest.cert-manager.io/ewhisper-crt-q8pvw                             cert-manager  149d
  60. certificate.cert-manager.io/cert-manager-webhook-dnspod-ca                        cert-manager  277d
  61. certificate.cert-manager.io/cert-manager-webhook-dnspod-webhook-tls               cert-manager  277d
  62. certificate.cert-manager.io/ewhisper-crt                                          cert-manager  277d
  63. issuer.cert-manager.io/cert-manager-webhook-dnspod-ca                             cert-manager  277d
  64. issuer.cert-manager.io/cert-manager-webhook-dnspod-selfsign                       cert-manager  277d
  65. endpointslice.discovery.k8s.io/cert-manager-9lm6j                                 cert-manager  277d
  66. endpointslice.discovery.k8s.io/cert-manager-webhook-dnspod-q7f8n                  cert-manager  277d
  67. endpointslice.discovery.k8s.io/cert-manager-webhook-z6qdd                         cert-manager  277d
  68. rolebinding.rbac.authorization.k8s.io/cert-manager-webhook:dynamic-serving        cert-manager  277d
  69. role.rbac.authorization.k8s.io/cert-manager-webhook:dynamic-serving               cert-manager  277d
  70. ingressroute.traefik.containo.us/alertmanager                                     cert-manager  244d
  71. ingressroute.traefik.containo.us/grafana                                          cert-manager  255d
  72. ingressroute.traefik.containo.us/grafana-rancher                                  cert-manager  238d
  73. ingressroute.traefik.containo.us/prometheus                                       cert-manager  244d
  74. ingressroute.traefik.containo.us/rsshub                                           cert-manager  268d
  75. ingressroute.traefik.containo.us/ttrss                                            cert-manager  257d
  76. tlsstore.traefik.containo.us/default                                              cert-manager  268d
复制代码
试试强制删除

如果 NameSpace 已经处于 terminating 的状态,且久久无法删除,可以试试加上这 2 个参数强制删除:

  • --force
  • --grace-period=0
  1. kubectl delete ns ${NAMESPACE} --force --grace-period=0
复制代码
强制删除失败?再来试试这种办法

强制删除失败?再来试试这种办法:调用 Kubernetes API 删除
Hard Way 步骤

首先,获取要删除 NameSpace 的 JSON 文件:
  1. NAMESPACE=cert-manager
  2. kubectl get ns ${NAMESPACE} -o json > namespace.json
复制代码
然后,编辑 namespace.json, 从 finalizers 字段中删除 kubernetes 的值并保存,示例如下:
  1. {
  2.     "apiVersion": "v1",
  3.     "kind": "Namespace",
  4.     "metadata": {
  5.         ...: ...
  6.     },
  7.     "spec": {
  8.         "finalizers": []
  9.     },
  10.     "status": {
  11.         "phase": "Terminating"
  12.     }
  13. }
复制代码
之后,可以通过 kubectl proxy 设置 APIServer 的临时 IP 和端口
  1. kubectl proxy --port=6880 &
复制代码
最后,进行 API 调用来强制删除:
  1. curl -k -H "Content-Type: application/json" -X  PUT --data-binary @namespace.json http://127.0.0.1:6880/api/v1/namespaces/${NAMESPACE}/finalize
复制代码
验证是否已经成功删除:
  1. kubectl get ns ${NAMESPACE}
复制代码
编排成脚本

<blockquote>

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

道家人

论坛元老
这个人很懒什么都没写!
快速回复 返回顶部 返回列表