輕松搞定對容器實例日志設置定期清理和回卷
引言
Kubernetes對于容器實例的日志收集,并沒有提供原生的解決方案。但提供使用kubectl logs命令查看容器實例運行時的日志。kubectl logs命令實現的基本原理為:容器運行時默認將標準輸出和標準錯誤中的日志輸出到磁盤上保存。保存至主機目錄:/var/lib/docker/containers/container_id/目錄。用戶調用kubectl logs命令時,kubelet讀取對應的日志文件中的數據,將數據回傳給master,再由master返回到用戶。從而實現用戶對日志的查看。
騰訊云容器服務利用kubectl logs命令,實現在控制臺即可查看對應容器實例的日志,并且提供查看某個特定時間段的日志的功能,這極大的方便了用戶對容器實例中的程序進行定位和跟蹤。但是,由于在容器實例日志保存在本地,當程序中大量打印日志時,很容易造成主機上的磁盤空間大量被占用。在日志服務上線一段時間后,發現用戶遇到這種情況時,一般是手動去清理日志。我們就考慮是不是有比較簡單的方式,在集群節點對日志進行定期清理和回卷。
通過logrotate服務實現日志定期清理和回卷
logrotate是個十分有用的工具,它可以自動對日志進行截斷(或輪循)、壓縮以及刪除舊的日志文件。例如,你可以設置logrotate,讓/var/log/foo日志文件每30天輪循,并刪除超過6個月的日志。配置完后,logrotate的運作完全自動化,不必進行任何進一步的人為干預。
但如果按照之前的部署方式,需要手動在每個節點上都安裝和配置對應logrotate工具。如果通過Kubernetes容器服務編排的能力,將logrotate通過Kubernetes中服務的方式部署到各個節點上,這樣既可以實現只需要一次部署,部署到所有節點。并且通過容器的方式保證了logrotate配置的一致性。
具體的實施方案如下圖所示:

方案的具體實現是在Kubernetes集群中,創建DaemonSet資源實現。DaemonSet資源會在每個Node節點上都部署一個logrotate的容器實例,并且在容器實例中設置映射主機的log日志目錄,從而實現日志的定時清理和回卷。
創建DaemonSet的示例如下:
- apiVersion: extensions/v1beta1
- kind: DaemonSet
- metadata:
- name: logrotate
- spec:
- template:
- metadata:
- labels:
- app: logging
- id: logrotate
- name: logrotate
- spec:
- containers:
- - name: logrotate-es
- image: blacklabelops/logrotate
- securityContext:
- privileged: true
- volumeMounts:
- - name: containers
- mountPath: /var/lib/docker/containers
- - name: varlog
- mountPath: /var/log/docker
- - name: logs
- mountPath: /logs
- env:
- - name: LOGS_DIRECTORIES
- value: "/var/lib/docker/containers /var/log/docker"
- - name: LOGROTATE_INTERVAL
- value: "hourly"
- - name: LOGROTATE_OLDDIR
- value: "/logs"
- volumes:
- - hostPath:
- path: /var/lib/docker/containers
- name: containers
- - hostPath:
- path: /var/log/docker
- name: varlog
- - hostPath:
- path: /var/log/containers/
- name: logs
使用這個yaml文件,可以直接在Kubernetes中進行部署。
- # kubectl create -f logrotate_ds.yaml
- daemonset "logrotate" created
在示例的yaml文件中,logrotate服務將按照定時(1小時)的對日志進行回卷,回卷超過5個副本后則會對日志進行清理。如果有需要,可以修改相應的參數,設置不同的回卷規則和清理規則。詳細的參數說明可以參考:https://github.com/blacklabelops/logrotate。
通過修改dockerd參數進行回卷和清理
由于Kubernetes的日志收集,底層是通過docker來實現。而docker提供了一定的日志回卷和清理功能。可以通過在dockerd的啟動參數中,增加log-opts()參數實現對日志的回卷和清理,其中max-size參數設置日志一個副本的***值,max-file設置日志的***的副本數。超過這個副本數則會對日志進行刪除。
具體的修改過程包括三個步驟:
1、創建/etc/dockerd/daemon.json
- {
- "log-driver":"json-file",
- "log-opts":{
- "max-size" :"10m","max-file":"3"
- }
- }
參數說明: 設置單個容器日志超過10M則進行回卷,回卷的副本數超過3個就進行清理。
2、修改dockerd 服務配置文件
在 /etc/systemd/system/multi-user.target.wants/dockerd.serviced文件中
添加dockerd啟動參數--config-file=/etc/docker/daemon.json
3、重新啟動dockerd服務
systemctl daemon-reload
service dockerd restart
原文鏈接:https://cloud.tencent.com/community/article/579587
【本文是51CTO專欄作者“騰訊云技術社區”的原創稿件,轉載請通過51CTO聯系原作者獲取授權】