Hadoop命令大全
本節比較全面的向大家介紹一下Hadoop命令,歡迎大家一起來學習,希望通過本節的介紹大家能夠掌握一些常見Hadoop命令的使用方法。下面是Hadoop命令的詳細介紹。
Hadoop命令大全
1、列出所有HadoopShell支持的命令
$bin/hadoopfs-help
2、顯示關于某個命令的詳細信息
$bin/hadoopfs-helpcommand-name
3、用戶可使用以下命令在指定路徑下查看歷史日志匯總
$bin/hadoopjob-historyoutput-dir
這條命令會顯示作業的細節信息,失敗和終止的任務細節。
4、關于作業的更多細節,比如成功的任務,以及對每個任務的所做的嘗試次數等可以用下面的命令查看
$bin/hadoopjob-historyalloutput-dir
5、格式化一個新的分布式文件系統:
$bin/hadoopnamenode-format
6、在分配的NameNode上,運行下面的Hadoop命令啟動HDFS:
$bin/start-dfs.sh
bin/start-dfs.sh腳本會參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上啟動DataNode守護進程。
7、在分配的JobTracker上,運行下面的命令啟動Map/Reduce:
$bin/start-mapred.sh
bin/start-mapred.sh腳本會參照JobTracker上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上啟動TaskTracker守護進程。
8、在分配的NameNode上,執行下面的Hadoop命令停止HDFS:
$bin/stop-dfs.sh
bin/stop-dfs.sh腳本會參照NameNode上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上停止DataNode守護進程。
9、在分配的JobTracker上,運行下面的命令停止Map/Reduce:
$bin/stop-mapred.sh
bin/stop-mapred.sh腳本會參照JobTracker上${HADOOP_CONF_DIR}/slaves文件的內容,在所有列出的slave上停止TaskTracker守護進程。
DFSShell
10、創建一個名為/foodir的目錄
$bin/hadoopdfs-mkdir/foodir
11、創建一個名為/fodir的目錄
$bin/hadoopdfs-mkdir/fodir
12、查看名為/foodir/myfile.txt的文件內容
$bin/hadoopdfs-cat/foodir/myfile.txt
DFSAdmin
13、將集群置于安全模式
$bin/hadoopdfsadmin-safemodeenter
14、顯示Datanode列表
$bin/hadoopdfsadmin-report
15、使Datanode節點datanodename退役
$bin/hadoopdfsadmin-decommissiondatanodename
16、bin/hadoopdfsadmin-help命令能列出所有當前支持的命令。比如:
*-report:報告HDFS的基本統計信息。有些信息也可以在NameNodeWeb服務首頁看到。
*-safemode:雖然通常并不需要,但是管理員的確可以手動讓NameNode進入或離開安全模式。
*-finalizeUpgrade:刪除上一次升級時制作的集群備份。
17、顯式地將HDFS置于安全模式
$bin/hadoopdfsadmin-safemode
18、在升級之前,管理員需要用(升級終結操作)Hadoop命令刪除存在的備份文件
$bin/hadoopdfsadmin-finalizeUpgrade
19、能夠知道是否需要對一個集群執行升級終結操作。
$dfsadmin-upgradeProgressstatus
20、使用-upgrade選項運行新的版本
$bin/start-dfs.sh-upgrade
21、如果需要退回到老版本,就必須停止集群并且部署老版本的Hadoop,用回滾選項啟動集群
$bin/start-dfs.h-rollback
22、下面的新命令或新選項是用于支持配額的。前兩個是管理員命令。
*dfsadmin-setquota<N><directory>...<directory>
把每個目錄配額設為N。這個命令會在每個目錄上嘗試,如果N不是一個正的長整型數,目錄不存在或是文件名,或者目錄超過配額,則會產生錯誤報告。
*dfsadmin-clrquota<directory>...<director>
為每個目錄刪除配額。這個命令會在每個目錄上嘗試,如果目錄不存在或者是文件,則會產生錯誤報告。如果目錄原來沒有設置配額不會報錯。
*fs-count-q<directory>...<directory>
使用-q選項,會報告每個目錄設置的配額,以及剩余配額。如果目錄沒有設置配額,會報告none和inf。
23、創建一個hadoop檔案文件
$hadooparchive-archiveNameNAME<src>*<dest>
-archiveNameNAME要創建的檔案的名字。
src文件系統的路徑名,和通常含正則表達的一樣。
dest保存檔案文件的目標目錄。
24、遞歸地拷貝文件或目錄
$hadoopdistcp<srcurl><desturl>
srcurl源Url
desturl目標Url。請期待下節關于Hadoop命令的介紹。
【編輯推薦】