成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

HadoopOnDemand配置新手指南

開發 架構 Hadoop
Hadoop相信大家應該有所了解,那么HadoopOnDemand你是否熟悉,這里向大家介紹一下HadoopOnDemand的配置問題,相信通過本文的介紹大家對HadoopOnDemand的配置有一定的認識。

本節和大家一起學習一下HadoopOnDemand的配置,本節主要介紹HadoopOnDemand的幾種配置項,歡迎大家一起來學習,希望通過本節的節的介紹大家對HadoopOnDemand有一定的理解。

HadoopOnDemand:配置指南

1.簡介

這個文檔講述了一些最重要和常用的HadoopOnDemand(HOD)的配置項。這些配置項可通過兩種方式指定:INI風格的配置文件,通過--section.option[=value]格式指定的HODshell的命令行選項。如果兩個地方都指定了同一個選項,命令行中的值覆蓋配置文件中的值。

你可以通過以下命令獲得所有配置項的簡要描述:
$hod--verbose-help

2.段

HOD配置文件分成以下幾個配置段:
hod:HOD客戶端的配置項
resource_manager:指定要使用的資源管理器的配置項,以及使用該資源管理器時需要的一些其他參數。
ringmaster:RingMaster進程的配置項
hodring:HodRing進程的配置項
gridservice-mapred:Map/Reduce守護進程的配置項
gridservice-hdfs:HDFS守護進程的配置項

3.HadoopOnDemand中HOD配置項
接下來的一節會先描述大部分HOD配置段中通用的一些配置項,再描述各配置段特有的配置項。

3.1一般的配置項
某些配置項會在HOD配置中的多個段定義。在一個段中定義的配置項,會被該段所適用的所有進程使用。這些配置項意義相同,但在不同的段中可以有不同的取值。

temp-dir:HOD進程使用的臨時目錄。請確保運行hod的用戶有權限在這個指定的目錄下創建子目錄。如果想在每次分配的時候都使用不同的臨時目錄,可以使用環境變量,資源管理器會讓這些環境變量對HOD進程可用。例如,在Torque設置的時候,使--ringmaster.temp-dir=/tmp/hod-temp-dir.$PBS_JOBID會讓ringmaster在每一次申請時使用不同的臨時目錄;Troque會在ringmaster啟動前展開這個環境變量。

debug:數值類型,取值范圍是1-4。4會產生最多的log信息。
log-dir:日志文件的存放目錄。缺省值是<install-location>/logs/。temp-dir變量的限制和注意事項在這里同樣使用。
xrs-port-range:端口范圍,會在這之中挑選一個可用端口用于運行XML-RPC服務。
http-port-range:端口范圍,會在這之中挑選一個可用端口用于運行HTTP服務。
java-home:給Hadoop使用的Java的位置。
syslog-address:syslog守護進程要綁定的地址。格式為host:port。如果配置了這個選項,HOD日志信息會被記錄到這個位置的syslog。

3.2HadoopOnDemand中hod的配置項

cluster:集群的描述性名稱。對于Torque,這個值被指定為集群中所有節點的'Nodeproperty'。HOD使用這個值計算可用節點的個數。
client-params:逗號分割的hadoop配置參數列表,其中的每一項都是一個key-value對。在提交節點上會據此產生一個hadoop-site.xml,用于運行Map/Reduce作業。
job-feasibility-attr:正則表達式,用于指定是否和如何檢查作業的可行性-資源管理器限制或調度限制。目前是通過torque作業的'comment'屬性實現的,缺省情況下沒有開啟這個功能。設置了這個配置項后,HOD會使用它來確定哪些種類的限制是啟用的,以及請求超出限制或者累積超出限制時是回收機群還是留在排隊狀態。torquecomment屬性可以被某個外部機制周期性地更新。比如,comment屬性被hod/support目錄下的checklimits.sh更新,這樣設置job-feasibility-attr的值等于TORQUE_USER_LIMITS_COMMENT_FIELD,"User-limitsexceeded.Requested:([0-9]*)Used:([0-9]*)MaxLimit:([0-9]*)"會使HOD產生相應的行為。

3.3HadoopOnDemand中resouce_manager的配置項

queue:資源管理器中配置的隊列名,作業會被提交到這里。
batch-home:個安裝目錄,其下的'bin'中有資源管理器的可執行文件。
env-vars:逗號分隔的key-value對的列表,形式是key=value,它會被傳遞給運行在計算節點的作業。例如,如果ptyhon沒有安裝在常規位置,用戶可以通過設置環境變量'HOD_PYTHON_HOME'指定python可執行文件的路徑。之后,在計算節點運行的HOD的進程就可以使用這個變量了。

【編輯推薦】

  1. Hadoop配置和啟動Hadoop方法詳解
  2. Hadoop0.20.2集群配置入門指導手冊
  3. Hadoop文件系統如何快速安裝?
  4. Hadoop配置指導手冊
  5. Hadoop完全分布模式安裝實現詳解
責任編輯:佚名 來源: csdn.net
相關推薦

2010-05-27 10:42:38

SVN配置文檔

2022-05-16 15:37:32

開源軟件

2010-08-04 09:06:21

Flex安裝

2022-04-08 12:56:52

Linux終端命令

2025-01-13 07:15:00

Monorepo代碼倉庫中項目代碼管理

2010-05-24 16:36:14

2010-06-21 12:39:56

OSPF路由協議

2023-03-01 08:00:00

機器學習數據集

2009-11-16 08:58:43

PHP語言

2011-08-23 10:11:10

LinuxTop命令

2021-12-30 10:26:37

Bash Shell腳本文件命令

2023-03-15 09:46:07

R Markdown代碼語法

2022-02-28 11:02:53

函數Bash Shell語句

2022-01-20 16:43:38

Bash 腳本ShellLinux

2010-05-12 15:52:27

2010-06-07 16:23:06

HadoopOnDem

2010-09-01 16:56:11

無線局域網

2010-07-01 12:35:46

UML用例圖

2011-03-30 14:07:56

Ubuntu的安裝

2010-08-02 09:36:22

Flex
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 全免费a级毛片免费看视频免费下 | 国产精品69av| 亚洲视频中文字幕 | 日韩视频一区二区在线 | 亚洲精品视频在线看 | 亚洲午夜视频 | 精品中文字幕在线观看 | 在线免费观看成年人视频 | 奇米久久 | 日本特黄a级高清免费大片 国产精品久久性 | 欧美成人性生活 | 91精品国产综合久久久久蜜臀 | 免费特黄视频 | 在线观看视频91 | 五月免费视频 | 中文字幕在线观 | 国产成人jvid在线播放 | 丁香久久| 中国一级特黄真人毛片免费观看 | 国产真实乱全部视频 | 国产美女在线免费观看 | 日韩视频精品在线 | 免费成人高清在线视频 | 日本精品在线一区 | 欧美福利一区 | 欧美日韩专区 | 国产福利在线播放 | 最近中文字幕第一页 | 久久久精品一区 | 激情六月丁香婷婷 | 欧美黄色一区 | 欧美影院 | 精品视频一区二区 | 日韩在线观看 | 国产亚洲精品美女久久久久久久久久 | 一区二区三区中文 | www.99久久.com | 日韩午夜 | 日本人爽p大片免费看 | 亚洲一区二区在线视频 | 国产成人a亚洲精品 |