成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

在Docker上建立多節點的Hadoop集群

大數據 Hadoop
在上篇文章中你已經看到了在你的devbox創建一個單點Hadoop 集群是多么簡單。現在我們提高門檻,在Docker上創建一個多點hadoop集群。

上篇文章中你已經看到了在你的devbox創建一個單點Hadoop 集群是多么簡單。

現在我們提高門檻,在Docker上創建一個多點hadoop集群。在開始前,確保你有***的Ambari鏡像:

  1. docker pull sequenceiq/ambari:latest 

一行命令

一旦你得到了***的鏡像,你就可以啟動Docker容器。我們已經創建了幾個shell 函數來幫你輸入Docker命令,從而避免輸入像docker run [options] image [command]這樣冗長的命令。

有了這些功能,創建3個節點的hadoop簇,只需要下面一行代碼搞定:

  1. curl -Lo .amb j.mp/docker-ambari && . .amb && amb-deploy-cluster 

默認參數值都是可以根據需要更改的,像是blueprint,簇大小,等等 … 在shellj.mp/docker-ambari功能函數的頭文件有參數列表.

它是按照下面步驟來實現的:

  •  在Docker (后臺運行) 容器的守護進程上運行sambari-server start (記得還有 anambari-agent start)

  • 運行sn-1 守護進程容器并用ambari-agent start連接到服務器

  • 運行AmbariShell 以及其終端控制臺 (監控子進程)

    • AmbariShell 會把內置的多節點blueprint發送至 /api/v1/blueprintsREST API

    • AmbariShell 依照blueprint的設置自動分配宿主信息

    • 通過發送至/api/v1/clustersREST API的內容創建簇

自定義

如果你有自己定義好的腳本,可以放在 gist然后運行 AmbariShell. 先啟動 AmbariShell:

  1. amb-start-cluster 2  
  2. amb-shell 

AmbariShell啟動的前提:

  • Ambari REST API 將幫助你建立多個hadoop端.

  1. host list  
  2. blueprint add --url https://gist.githubusercontent.com/lalyos/xxx/raw/custum-blueprint.json  
  3. cluster build --blueprint custom-blueprint  
  4. cluster assign --hostGroup host_group_1 --host amb0.mycorp.kom  
  5. cluster assign --hostGroup host_group_2 --host amb1.mycorp.kom  
  6. cluster assign --hostGroup host_group_2 --host amb1.mycorp.kom  
  7. cluster create 

AmbariShell 的 hint命令能幫助開發人員實現自動補全等功能.

自動補全包括:

  • 補全命令行 (例如,沒有這個幫助下 cluster命令是不可用的)

  • 添加需要的參數

  • 添加備選參數: --后加上<TAB>

  • 添加變參,像是參數名,宿主名等等 …

總結

基本上我們開始使用Docker的時候就已經使用多端的hadoop功能了 – 筆記本上運行3到4簇面臨的極限問題比 Sandbox VM少得多.

我們使用了docker的模式簡化了hadoop的使用模式 – 可以在 LinkedIn找到我們關于Cloudbreak的***進展 – 開源云端的Hadoop as a Service API應用并構建在 docker上.

希望本文能幫你簡化你的開發流程 – 如有什么關于docker上使用hadoop問題,歡迎溝通。

英文原文:Multi-node Hadoop cluster on Docker

譯文出自:http://www.oschina.net/translate/multinode-hadoop-cluster-on-docker

責任編輯:林師授 來源: 開源中國社區 編譯
相關推薦

2023-09-11 09:35:20

Docker程序

2015-05-27 10:29:41

DockerHadoopHadoop集群

2019-09-27 08:52:12

RHELCentOSElastic sta

2019-09-03 16:18:03

Vagran虛擬機集群

2010-04-01 10:13:22

CentOS系統

2016-01-07 09:36:20

Docker容器

2012-05-21 09:42:12

Hadoop

2013-12-04 13:32:30

2020-04-06 13:52:45

數據倉庫大數據平臺Hadoop

2019-07-26 09:20:21

ClusterShel命令Linux

2010-08-12 15:41:12

MySQL集群

2023-11-02 09:00:00

Kubernetes集群

2018-10-09 14:31:32

SparkCI灰度

2023-11-09 16:13:53

2020-07-20 18:30:44

Fedora 32DockerLinux

2023-05-04 18:45:11

2016-07-28 12:34:22

天蝎OpenStack中國移動

2011-01-14 14:00:19

GanetiLinux集群虛擬化

2010-07-01 09:47:18

DNS服務器BIND

2011-03-29 09:15:20

原始分區SQL Server數
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 久久久久久免费免费 | 成人精品视频99在线观看免费 | 亚洲精品片 | 日韩视频一区二区三区 | 欧美日韩国产一区二区三区 | 成人久久 | 成人激情视频免费在线观看 | 亚洲视频免费一区 | 日韩免费高清视频 | 久久久精品视频一区二区三区 | 国产成人精品一区二区三区四区 | 一区二区三区在线电影 | 日本爱爱| 美女艹b| 羞羞视频在线观看免费观看 | 亚洲精品视频免费观看 | 国产成人jvid在线播放 | 天天射天天干 | 国产精品久久亚洲7777 | 91精品国产91久久久久游泳池 | 中文字幕在线一区二区三区 | 伊人春色在线 | 色片在线观看 | 国产精品福利在线观看 | 日韩欧美国产成人一区二区 | 成人性视频免费网站 | 日韩在线一区二区 | 美女在线一区二区 | 成人欧美一区二区三区1314 | 欧美精品久久久 | 一区二区视频 | 日日摸日日添日日躁av | 久久成人精品 | 激情六月丁香婷婷 | 九九热最新视频 | 欧美福利在线 | 国产视频久久久 | 亚洲一区二区久久 | 国产亚洲一区二区三区在线观看 | 久久国产精品免费 | 黄色免费网址大全 |