五個冷門但非常實用的 Kubectl 使用技巧，99% 的人都不知道
kubectl 是 K8s 官方附帶的命令行工具，可以方便的操作 K8s 集群。這篇文章主要介紹一些 kubectl 的別樣用法，希望讀者有一定基礎(chǔ)的 K8s 使用經(jīng)驗。
有一篇文章也介紹了一些技巧，寫博客的時候正好搜到了，正好也分享出來吧。
Ready-to-use commands and tips for kubectl
打印當(dāng)前使用的API
- # kubectl 的主要作用就是與 ApiServer 進(jìn)行交互, 而交互的過程, 我們可以通過下面的方式來打印,
- # 這個命令尤其適合調(diào)試自己的api接口時使用.
- $ kubectl get ns -v=9
按狀態(tài)篩選容器以及刪除
這是我在這里學(xué)到的命令：Force Delete Evicted / Terminated Pods in Kubernetes
- kubectl get pods --all-namespaces --field-selector status.phase=Pending -o json | \
- jq '.items[] | "kubectl delete pods \(.metadata.name) -n \(.metadata.namespace)"' | \
- xargs -n 1 bash -c
- # 這個命令要拆開來看
- # 首先, 獲取所有ns中狀態(tài)為Pending的pods, 并以json形式輸出
- # 這個語句其實由很多變體, 比如,我想查找Failed的狀態(tài), 或是某個deployment
- kubectl get pods --all-namespaces --field-selector status.phase=Pending -o json
- # 針對json變量進(jìn)行處理, 生成可用的腳本
- # 這里是我想介紹的重點, 利用jq以及kubectl的輸出, 構(gòu)建出可用的命令
- jq '.items[] | "kubectl delete pods \(.metadata.name) -n \(.metadata.namespace)"'
- # 執(zhí)行每一條命令
- # 注意, 這種命令一定要好好調(diào)試, 刪掉預(yù)期之外的pod就不好了.
- xargs -n 1 bash -c
- # 例如, 下面的語句可以找到所有的Pods并打印可以執(zhí)行的語句
- kubectl get pods --all-namespaces --field-selector status.phase=Running -o json | \
- jq '.items[] | "kubectl get pods \(.metadata.name) -o wide -n \(.metadata.namespace)"'
- "kubectl get pods metrics-server-6d684c7b5-gtd6q -o wide -n kube-system"
- "kubectl get pods local-path-provisioner-58fb86bdfd-98frc -o wide -n kube-system"
- "kubectl get pods nginx-deployment-574b87c764-xppmx -o wide -n default"
- # 當(dāng)然, 如果只是刪除單個NS下面的一些pods, 我會選擇下面的方法, 但是它操作多個NS就很不方便了.
- kubectl -n default get pods | grep Completed | awk '{print $1}' | xargs kubectl -n default delete pods
統(tǒng)計具體某臺機(jī)器上運(yùn)行的所有pod
kubectl可以使用兩種選擇器, 一種是label, 一種是field, 可以看官網(wǎng)的介紹:
Labels and Selectors
Field Selectors
- # 它是一種選擇器, 可以與上面的awk或者xargs配合使用.
- # 我個人平時都不喜歡用這個, 直接get全部pods, 然后grep查找感覺更快
- kubectl get pods --all-namespaces -o wide --field-selector spec.nodeName=pve-node1
統(tǒng)計 Pod 在不同機(jī)器的具體數(shù)量分布
不知道有讀者看過我的這篇文章: 基于kubernetes的PaaS平臺中細(xì)力度控制pods方案的實現(xiàn)。均衡分布的工作前提是得知pod在各個機(jī)器的分布情況。最好的辦法就是我們得到pod信息之后進(jìn)行簡單的統(tǒng)計，這個工作可以使用awk實現(xiàn)。
- kubectl -n default get pods -o wide -l app="nginx" | awk '{print $7}'|\
- awk '{ count[$0]++ }
- END {
- printf("%-35s: %s\n","Word","Count");
- for(ind in count){
- printf("%-35s: %d\n",ind,count[ind]);
- }
- }'
- # 執(zhí)行結(jié)果如下
- Word : Count
- NODE : 1
- pve-node1 : 1
- pve-node2 : 1
- # awk的語法我沒深入了解, 有興趣的讀者可以研究看看, 這里我就不求甚解了.
kubectl proxy的使用
你可以理解為這個命令為 K8s 的 ApiServer 做了一層代理，使用該代理，你可以直接調(diào)用 API 而不需要經(jīng)過鑒權(quán)。啟動之后，甚至可以實現(xiàn) kubectl 套娃，下面是一個例子：
- # 當(dāng)你沒有設(shè)置kubeconfig而直接調(diào)用kubectl時
- kubectl get ns -v=9
- # 可以打印出下面類似的錯誤
- curl -k -v -XGET -H "Accept: application/json, */*" -H "User-Agent: kubectl/v1.21.3 (linux/amd64) kubernetes/ca643a4" 'http://localhost:8080/api?timeout=32s'
- skipped caching discovery info due to Get "http://localhost:8080/api?timeout=32s": dial tcp 127.0.0.1:8080: connect: connection refused
- # 也就是說當(dāng)你不指定kubeconfig文件時, kubectl會默認(rèn)訪問本機(jī)的8080端口
- # 那么我們先啟動一個kubectl proxy, 然后指定監(jiān)聽8080, 再使用kubectl直接訪問, 是不是就可行了呢,
- # 事實證明, 安全與預(yù)想一致.
- KUBECONFIG=~/.kube/config-symv3 kubectl proxy -p 8080
- kubectl get ns
- NAME STATUS AGE
- default Active 127d
默認(rèn)啟動的 proxy 是屏蔽了某些 api 的，并且有一些限制，例如無法使用 exec 進(jìn)入 pod 之中可以使用 kubectl proxy —help 來看，例如：
- # 僅允許本機(jī)訪問
- --accept-hosts='^localhost$,^127\.0\.0\.1$,^\[::1\]$': Regular expression for hosts that the proxy should accept.
- # 不允許訪問下面的api, 也就是說默認(rèn)沒法exec進(jìn)入容器
- --reject-paths='^/api/.*/pods/.*/exec,^/api/.*/pods/.*/attach': Regular expression for paths that the proxy should reject. Paths specified here will be rejected even accepted by --accept-paths.
- # 想跳過exec的限制也很簡單, 把reject-paths去掉就可以了
- kubectl proxy -p 8080 --keepalive 3600s --reject-paths='' -v=9
有人說這個kubectl proxy可能沒什么作用，那可能僅僅是你還沒有實際的應(yīng)用場景。例如當(dāng)我想要調(diào)試K8s dashboard代碼的時候。如果直接使用kubeconfig文件，我沒法看到具體的請求過程，如果你加上一層proxy轉(zhuǎn)發(fā)，并且設(shè)置-v=9的時候，你就自動獲得了一個日志記錄工具，在調(diào)試時相當(dāng)有用。
總結(jié)
kubectl 是一個強(qiáng)大的命令行工具，上面我只是介紹了我工作中對其用法的一點探索，也并不鼓勵大家非要記住這些命令，只是希望當(dāng)讀者需要的時候，能夠想起來kubectl可以有類似的功能，就不需要針對幾個臨時需求去研讀client-api了。
