使用Nagios監視企業集群
Nagios 簡介
該部分演示如何安裝 Nagios 并綁定 Ganglia。我們將向 Nagios 添加兩個特性，幫助您監視標準集群、網格、云(以及任何擴展計算的功能)。這兩個特性的作用是：
•監視網絡交換機
•監視資源管理器
在本例中，我們將監視 TORQUE。完成之后，您將擁有一個控制監視整個數據中心系統的框架。
Nagios 與 Ganglia 一樣，常用于 HPC 和其他環境，但是 Nagios 更加關注警告機制，Ganglia 則更加關注收集和跟蹤指標。Nagios 以前只是從目標主機收集信息，但最近開發了可以在主機上運行代理的插件。Nagios 內置了一個通知系統。
現在我們安裝 Nagios 并安裝基本的 HPC Linux® 監視系統集群以滿足不同的監視需求：
•應用程序開發人員現在可以看到隊列的飽和程度和運行作業的可用節點。
•系統失敗時會警告 NOC，并在 Nagios Web 界面看到閃爍的紅點。如果節點異常或者溫度太高，NOC 還將收到電子郵件通知。
•系統工程師可以繪制數據，報告集群利用率，制定未來采購硬件的決策。
--------------------------------------------------------------------------------
安裝 Nagios
在機器上安裝 Nagios 的方法可以從 Internet 查詢。因為我經常需要在不同的環境中安裝，所以為此編寫了一個腳本。
首先需要 下載兩個包：
•Nagios(測試了 3.0.6 版本)
•Nagios-plugins(測試了 1.4.13 版本)
插件包括：
•Nagios Event Log，可以監視 Windows 事件日志
•NRPE，提供了許多 Ganglia 功能
獲取源代碼并放在目錄中。為了演示，我在 /tmp 中放置了三個文件：
•nagios-3.0.6.tar.gz
•nagios-plugins-1.4.13.tar.gz
•naginstall.sh
清單 1 展示了 naginstall.sh 安裝腳本：
清單 1. naginstall.sh 腳本
- #!/bin/ksh
- NAGIOSSRC=nagios-3.0.6
- NAGIOSPLUGINSRC=nagios-plugins-1.4.13
- NAGIOSCONTACTSCFG=/usr/local/nagios/etc/objects/contacts.cfg
- NAGIOSPASSWD=/usr/local/nagios/etc/htpasswd.users
- PASSWD=cluster
- OS=foo
- function buildNagiosPlug {
- if [ -e $NAGIOSPLUGINSRC.tar.gz ]
- then
- echo "found $NAGIOSPLUGINSRC.tar.gz building and installing Nagios"
- else
- echo "could not find $NAGIOSPLUGINSRC.tar.gz in current directory."
- echo "Please run $0 in the same directory as the source files."
- exit 1
- fi
- echo "Extracting Nagios Plugins..."
- tar zxf $NAGIOSPLUGINSRC.tar.gz
- cd $NAGIOSPLUGINSRC
- echo "Configuring Nagios Plugins..."
- if ./configure --with-nagios-user=nagios --with-nagios-group=nagios
- -prefix=/usr/local/nagios > config.LOG.$$ 2>&1
- then
- echo "Making Nagios Plugins..."
- if make -j8 > make.LOG.$$ 2>&1
- then
- make install > make.LOG.$$ 2>&1
- else
- echo "Make failed of Nagios plugins. See $NAGIOSPLUGINSRC/make.LOG.$$"
- exit 1
- fi
- else
- echo "configure of Nagios plugins failed. See config.LOG.$$"
- exit 1
- fi
- echo "Successfully built and installed Nagios Plugins!"
- cd ..
- }
- function buildNagios {
- if [ -e $NAGIOSSRC.tar.gz ]
- then
- echo "found $NAGIOSSRC.tar.gz building and installing Nagios"
- else
- echo "could not find $NAGIOSSRC.tar.gz in current directory."
- echo "Please run $0 in the same directory as the source files."
- exit 1
- fi
- echo "Extracting Nagios..."
- tar zxf $NAGIOSSRC.tar.gz
- cd $NAGIOSSRC
- echo "Configuring Nagios..."
- if ./configure --with-command-group=nagcmd > config.LOG.$$ 2>&1
- then
- echo "Making Nagios..."
- if make all -j8 > make.LOG.$$ 2>&1
- then
- make install > make.LOG.$$ 2>&1
- make install-init > make.LOG.$$ 2>&1
- make install-config > make.LOG.$$ 2>&1
- make install-commandmode > make.LOG.$$ 2>&1
- make install-webconf > make.LOG.$$ 2>&1
- else
- echo "make all failed. See log:"
- echo "$NAGIOSSRC/make.LOG.$$"
- exit 1
- fi
- else
- echo "configure of Nagios failed. Please read $NAGIOSSRC/config.LOG.$$ for details."
- exit 1
- fi
- echo "Done Making Nagios!"
- cd ..
- }
- function configNagios {
- echo "We'll now configure Nagios."
- LOOP=1
- while [[ $LOOP -eq 1 ]]
- do
- echo "You'll need to put in a user name. This should be the person"
- echo "who will be receiving alerts. This person should have an account"
- echo "on this server. "
- print "Type in the userid of the person who will receive alerts (e.g. bob)> \c"
- read NAME
- print "What is ${NAME}'s email?> \c"
- read EMAIL
- echo
- echo
- echo "Nagios alerts will be sent to $NAME at $EMAIL"
- print "Is this correct? [y/N] \c"
- read YN
- if [[ "$YN" = "y" ]]
- then
- LOOP=0
- fi
- done
- if [ -r $NAGIOSCONTACTSCFG ]
- then
- perl -pi -e "s/nagiosadmin/$NAME/g" $NAGIOSCONTACTSCFG
- EMAIL=$(echo $EMAIL | sed s/\@/\\\\@/g)
- perl -pi -e "s/nagios\@localhost/$EMAIL/g" $NAGIOSCONTACTSCFG
- else
- echo "$NAGIOSCONTACTSCFG does not exist"
- exit 1
- fi
- echo "setting ${NAME}'s password to be 'cluster' in Nagios"
- echo " you can change this later by running: "
- echo " htpasswd -c $NAGIOSPASSWD $Name)'"
- htpasswd -bc $NAGIOSPASSWD $NAME cluster
- if [ "$OS" = "rh" ]
- then
- service httpd restart
- fi
- }
- function preNagios {
- if [ "$OS" = "rh" ]
- then
- echo "making sure prereqs are installed"
- yum -y install httpd gcc glibc glibc-common gd gd-devel perl-TimeDate
- /usr/sbin/useradd -m nagios
- echo $PASSWD | passwd --stdin nagios
- /usr/sbin/groupadd nagcmd
- /usr/sbin/usermod -a -G nagcmd nagios
- /usr/sbin/usermod -a -G nagcmd apache
- fi
- }
- function postNagios {
- if [ "$OS" = "rh" ]
- then
- chkconfig --add nagios
- chkconfig nagios on
- # touch this file so that if it doesn't exist we won't get errors
- touch /var/www/html/index.html
- service nagios start
- fi
- echo "You may now be able to access Nagios at the URL below:"
- echo "http://localhost/nagios"
- }
- if [ -e /etc/redhat-release ]
- then
- echo "installing monitoring on Red Hat system"
- OS=rh
- fi
- # make sure you're root:
- ID=$(id -u)
- if [ "$ID" != "0" ]
- then
- echo "Must run this as root!"
- exit
fi
preNagios
buildNagios
buildNagiosPlug
configNagios
postNagios
運行腳本 ./naginstall.sh
該代碼在 Red Hat 系統上能正常運行，如果您安裝了本系列 Ganglia 和 Nagios，第 1 部分：用 Ganglia 監視企業集群 中提到的所有依賴關系，那么應該也能正常運行。運行 naginstall.sh 時，提示 Nagios 應該發送警告的用戶。稍后可以添加其他用戶。大部分組織都有一個郵件別名以組的形式發送郵件。
如果安裝時出現問題，可以查看 Nagios 網頁(鏈接見 參考資料)并將其添加到郵件列表。以我的經驗看來，像 Nagios 和 Ganglia 這樣成功的大部分包都很容易安裝。
#p#
配置 Nagios
假設腳本運行正常并且已經安裝了所有內容。那么在腳本成功退出時，您應該能夠打開 Web 瀏覽器并看到 localhost 已經被監視了(如圖 1 所示)：
通過單擊 Service Detail，您可以看到我們監視本地機器上的哪些服務(比如 Ping、HTTP、加載、用戶等等)，這是默認配置的。
讓我們看看名為 Root Partition 的服務。該服務在根分區滿時發出警告。通過查看安裝時生成的配置文件，您可以完全理解該檢查的工作方式。
主配置文件
如果使用 naginstall.sh 腳本，則主配置文件是 /usr/local/nagios/etc/nagios.cfg。該腳本展示幾個帶有其他定義的 cfg_files。其中的行如下：
- cfg_file=/usr/local/nagios/etc/objects/localhost.cfg
如果查看該文件，您將看到所有用于 Web 視圖中出現的 localhost 的服務。這就是配置默認服務的地方。根分區定義見第 77 行。
根分區檢查方式的體系結構
首先要注意 Nagios 對象的繼承模式。根分區 的定義使用本地服務定義，本地服務定義則使用通用服務定義。這定義了調用服務的方式、頻率以及其他可調試參數等等。
接下來重要的定義部分是使用的檢查命令。首先它使用名為 check_local_disk 的命令定義。傳遞的參數是 !20%!10%!/。表示當 check_local_disk 命令定義報告 20% 時，它將發出警告。當它到達 10% 時，您將得到一個嚴重錯誤。/ 表示它檢查 "/" 分區。check_local_disk 隱式調用 check_disk 命令，該命令位于 /usr/local/nagios/libexec 目錄中。
這是設置這些配置的基本思路。您可以按照該思路創建自己的服務來監視所需的參數。有關更深入的內容，請閱讀文檔并嘗試自己設置一些參數。
注冊以收到警告
所有配置完成后，注冊以收到警告。我們開始時已經完成了該操作，但是如果希望更改或添加用戶，則可以修改 /usr/local/nagios/etc/objects/contacts.cfg 文件。將聯系人名稱改為您的名字，將電子郵件改為您的電子郵件地址。大部分基本的 Linux 服務器應該已經設置好，可以處理郵件了。
現在配置其他節點。
在 grid/cloud/cluster 中配置其他節點
我在 Dallas 數據中心有一組節點。我將創建一個目錄放置所有配置文件：
- mkdir -p /usr/local/nagios/etc/dallas
我需要通知 Nagios 我的配置文件將放在哪里。為此我修改 nagios.cfg 文件，添加以下行：
cfg_dir=/usr/local/nagios/etc/dallas
我將在此創建一組文件(很容易讓人糊涂)。
根據該圖繼續進行其他設置和安裝。
在 /usr/local/nagios/etc/dallas/nodes.cfg 文件中，我定義所有節點和節點組。我需要監視三種機器：
•網絡服務器(本例中是運行 Ganglia 的 Linux 服務器)
•網絡交換機(我的交換機包括高速交換機和 Gigabit Ethernet)
•管理設備(比如刀片式管理模塊、老 IBM RSA 卡、BMC、可能的智能 PDU 等等)。
我創建三個相應的組，如下所示：
- define hostgroup {
- hostgroup_name dallas-cloud-servers
- alias Dallas Cloud Servers
- }
- define hostgroup
- hostgroup_name dallas-cloud-network
- alias Dallas Cloud Network Infrastructure
- }
- define hostgroup
- hostgroup_name dallas-cloud-management
- alias Dallas Cloud Management Devides
- }
接下來我創建三個模板文件，三個節點組的節點共享通用特征：
- define host {
- name dallas-management
- use linux-server
- hostgroups dallas-cloud-management
- # TEMPLATE!
- register 0
- }
- define host {
- name dallas-server
- use linux-server
- hostgroups dallas-cloud-servers
- # TEMPLATE!
- register 0
- }
- define host {
- name dallas-network
- use generic-switch
- hostgroups dallas-cloud-network
- # TEMPLATE!
- register 0
- }
現在我的每個節點定義為 dallas-management、dallas-server 或 dallas-network。各自的示例如下：
- define host {
- use dallas-server
- host_name x336001
- address 172.10.11.1
- }
- define host {
- use dallas-network
- host_name smc001
- address 172.10.0.254
- }
- define host {
- use dallas-management
- host_name x346002-rsa
- address 172.10.11.12
- }
我生成了一個遍歷節點列表的腳本，并使用我的 Dallas 實驗室中的節點完全填充這個文件。當我重啟 Nagios 時，將檢查這些節點是否可以到達。但是我還有其他一些服務!
您應該首先重啟 Nagios 保證設置完成。如果已經完成，則應該在 HostGroup Overview 視圖下看到一些組。如果有錯誤，則運行：
- /usr/local/nagios/bin/nagios -v /usr/local/nagios/etc/nagios.cfg
這將驗證文件并幫助您發現錯誤。
現在可以添加一些基本的服務了。根據 localhost 中的模板，較容易完成的是查看 dallas-cloud-servers 組上的 SSH。讓我們啟動另一個文件：/usr/local/nagios/etc/dallas/host-services.cfg。最簡單的是將配置從希望監視的 localhost 中復制出來。我就是這樣做的，并添加了一個依賴關系：
- define service{
- use generic-service
- hostgroup_name dallas-cloud-servers
- service_description SSH
- check_command check_ssh
- }
- define service{
- use generic-service
- hostgroup_name dallas-cloud-servers
- service_description PING
- check_command check_ping!100.0,20%!500.0,60%
- }
- define servicedependency{
- hostgroup_name dallas-cloud-servers
- service_description PING
- dependent_hostgroup_name dallas-cloud-servers
- dependent_service_description SSH
- }
如果 PING 無法正常工作，我不會考慮測試 SSH。現在開始可以添加各種內容了，但我們再看看其他東西。重啟 Nagios 并測試菜單，以確保看到 ping 和 ssh 檢查了節點：
- service nagios reload
如果一切正常，我們將開始進入有趣的部分 —— 集成 Ganglia。
#p#
集成 Nagios 報告 Ganglia 指標
Nagios Exchange 是另一個獲取 Nagios 插件的好地方。但是對于我們的 Ganglia 插件，只要從 Ganglia 和 Nagios，第 1 部分：用 Ganglia 監視企業集群 中下載的源代碼中查找。假設您將源代碼解壓到 /tmp 目錄中，剩下的只需要復制 contrib 目錄中的 check_ganglia.py 腳本即可：
- cp /tmp/ganglia-3.1.1/contrib/check_ganglia.py \
- /usr/local/nagios/libexec/
check_ganglia 是一個很棒的 Python 腳本，可以運行于 gmetad 運行的服務器上(在我的示例中是 Nagios 運行的管理服務器)。讓我們在端口 8649 上查詢 localhost。使用這種方法，您可以通過遠程命令擴展網絡通訊：可以使用 Ganglia 的擴展技術實現!
如果運行 telnet localhost 8649，您將看到從節點收集的數據中生成大量輸出(假設按照第 1 部分安裝了 Ganglia 并能正常運行)。讓我們監視一些 Ganglia 提供的內容。
進入 /var/lib/ganglia/rrds 目錄，您可以看到每個主機的度量指標。生成了易于查看的圖形，您可以一直分析指標。我們將度量 load_one 和 disk_free，由于在第 1 部分中我們啟用了 IPMI 溫度度量，我們將同樣添加該度量。
創建 /usr/local/nagios/etc/dallas/ganglia-services.cfg 文件并添加服務：
- define servicegroup {
- servicegroup_name ganglia-metrics
- alias Ganglia Metrics
- }
- define command {
- command_name check_ganglia
- command_line $USER1$/check_ganglia.py -h $HOSTNAME$ -m $ARG1$ -w $ARG2$ -c $ARG3$
- }
- define service {
- use generic-service
- name ganglia-service
- hostgroup_name dallas-cloud-servers
- service_groups ganglia-metrics
- notifications_enabled 0
- }
- define service {
- use ganglia-service
- service_description load_one
- check_command check_ganglia!load_one!4!5
- }
- define service {
- use ganglia-service
- service_description ambient_temp
- check_command check_ganglia!AmbientTemp!20!30
- }
- define service {
- use ganglia-service
- service_description disk_free
- check_command check_ganglia!disk_free!10!5
- }
重啟 Nagios 時，現在可以根據 Ganglia 指標發出警告!
提醒：check_ganglia.py 命令僅在閾值過高時發出警告。如果希望在閾值過低時發出警告(在 disk_free 中是這樣)，則需要修改代碼。我更改了文件的最后部分，如下所示：
- if critical > warning:
- if value >= critical:
- print "CHECKGANGLIA CRITICAL: %s is %.2f" % (metric, value)
- sys.exit(2)
- elif value >= warning:
- print "CHECKGANGLIA WARNING: %s is %.2f" % (metric, value)
- sys.exit(1)
- else:
- print "CHECKGANGLIA OK: %s is %.2f" % (metric, value)
- sys.exit(0)
- else:
- if critical >= value:
- print "CHECKGANGLIA CRITICAL: %s is %.2f" % (metric, value)
- sys.exit(2)
- elif warning >= value:
- print "CHECKGANGLIA WARNING: %s is %.2f" % (metric, value)
- sys.exit(1)
- else:
- print "CHECKGANGLIA OK: %s is %.2f" % (metric, value)
- sys.exit(0)
現在重新加載 Nagios：
- service nagios restart
如果一切正常，您應該看到 Ganglia 數據現在已經在 Nagios 的監視之下!
結合使用 Ganglia 和 Nagios，您可以監視任何內容。您可以控制整個云!
#p#
擴展 Nagios：監視網絡交換機
隨著云和虛擬化的流程，原來的 “網絡管理員” 和 “系統管理員” 之間的界線更加模糊起來。忽視配置網絡交換機和理解網絡技術的系統管理員將面臨過時的風險。
不用再擔心完整性，我將展示如何擴展 Nagios 來監視網絡交換機。使用 Nagios(而不是網絡交換機供應商的解決方案)監視網絡交換機的優點很簡單 —— 使用 Nagios 您可以監視任何 供應商的交換機。看到 ping 成功后，我們將探討交換機上的 SNMP。
有些交換機默認啟用 SNMP。您可以根據供應商的說明設置。要在 Cisco Switch 上設置 SNMP，請參考以下示例，我的交換機的主機名為 c2960g：
- telnet c2960g
- c2960g>enable
- c2960g#configure terminal
- c2960g(config)#snmp-server host 192.168.15.1 traps SNMPv1
- c2960g(config)#snmp-server community public
- c2960g(config)#exit
- c2960g#copy running-config startup-config
現在看看能夠監視的內容，運行 snmpwalk 并將其導出到文件：
- snmpwalk -v 1 -c public c2960g
如果一切正常，您將看到許多內容傳遞回來。然后可以捕獲輸出并查看各種要監視的位置。
我還有一個交換機示例。當我運行 snmpwalk 命令時，我看到端口以及做標記的方式。我對以下信息很感興趣：
•MTU(IF-MIB::ifMtu.)。
•端口運行速度(IF-MIB::ifSpeed.)。
•端口是否正常(IF-MIB::ifOperStatus.)。
為了監視這些內容我創建了一個新文件，/usr/local/nagios/etc/dallas/switch-services.cfg。我將網絡主機映射到交換機，因此我對所有事情了如指掌。建議您也這樣做。如果想體驗真正的云計算，就應該了解所有資源的狀態。
我將使用節點 x336001 作為示例。我知道它位于端口 5。我的文件如下所示：
- define servicegroup {
- servicegroup_name switch-snmp
- alias Switch SNMP Services
- }
- define service {
- use generic-service
- name switch-service
- host_name smc001
- service_groups switch-snmp
- }
- define service {
- use switch-service
- service_description Port5-MTU-x336001
- check_command check_snmp!-o IF-MIB::ifMtu.5
- }
- define service {
- use switch-service
- service_description Port5-Speed-x336001
- check_command check_snmp!-o IF-MIB::ifSpeed.5
- }
- define service {
- use switch-service
- service_description Port5-Status-x336001
- check_command check_snmp!-o IF-MIB::ifOperStatus.5
- }
完成后，重啟 Nagios，您會發現現在我可以查看交換機了：
這只是如何監視交換機的一個示例。注意，我沒有設置警告，也沒有指出關鍵動作。您可能還注意到了，在 libexec 目錄中還有一些選項可以完成類似的功能。check_ifoperstatus 以及其他內容也需要技巧。使用 Nagios 時，可以使用多種方式完成一個任務。
#p#
擴展 Nagios：報告監視 TORQUE 的作業
可以根據 TORQUE 編寫許多腳本來確定該隊列系統的運行方式。在該擴展中，假設您已經安裝了 TORQUE。TORQUE 是一個可以與 Moab 和 Maui 結合使用的資源管理器。可以參考 Colin Morey 編寫的 開源 Nagios 插件。
下載并將其放在 /usr/local/nagios/libexec 目錄，確定它可以執行。我必須稍微修改代碼，將安裝 Nagios 的目錄從 use lib "/usr/nagios/libexec"; 更改為 use lib "/usr/local/nagios/libexec";。我還必須將 my $qstat = '/usr/bin/qstat' ; 更改為 qstat 命令。我的命令如下所示：my $qstat = '/opt/torque/x86_64/bin/qstat' ;。
驗證它能運行(我使用的隊列名為 dque)：
- [root@redhouse libexec]# ./check_pbs.pl -Q dque -tw 20 -tm 50
- check_pbs.pl Critical: dque on localhost checked, Total number of jobs
- higher than 50. Total jobs:518, Jobs Queued:518, Jobs Waiting:0, Jobs
- Halted:0 |exectime=9340us
您可以使用 -h 選項顯示更多要監視的內容。現在將它放置到配置文件 /usr/local/nagios/etc/dallas/torque.cfg：
- define service {
- use generic-service
- host_name localhost
- service_description TORQUE Queues
- check_command check_pbs!20!50
- }
- define command {
- command_name check_pbs
- command_line $USER1$/check_pbs.pl -Q dque
- -tw $ARG1$ -tm $ARG2$
- }
重啟 Nagios 之后，將在 localhost 下顯示該服務。
在我的例子中，我收到了一個嚴重警告，因為我的隊列中有 518 個作業!
顯然，跟蹤 TORQUE 和腳本有很多方式。您可以使用 pbsnodes 通知節點狀態。人們應該更關心節點的運行位置以及運行的作業。這個小示例將展示各種可能性，以及如何在很短的時間內完成監視解決方案。
結束語
閱讀了該系列之后，系統管理員應該能夠輕松運行 Ganglia 和 Nagios，以前所未有的方式監視其數據中心。這兩個包的范圍非常廣泛。我們在這里接觸的只是與集群、網格和云基礎結構相關的內容。
設置該監視解決方案的大部分時間都用于配置要監視的服務。許多現有的替代解決方案都是平臺而不是成品。換句話說，它們提供框架來支持插件，但很少有預先建好的插件。大部分插件的工作由管理員和用戶完成，這些工作往往非常繁瑣。實際上，這就是大部分數據中心監視的內容。
【編輯推薦】
