成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

如何克服云端數(shù)據(jù)倉庫數(shù)據(jù)遷移問題?

云計(jì)算 數(shù)據(jù)倉庫
盡管傳統(tǒng)關(guān)系型數(shù)據(jù)庫管理系統(tǒng)和云端非關(guān)系型數(shù)據(jù)庫之間可以并行描述,但是在兩個(gè)片段之間轉(zhuǎn)移數(shù)據(jù)時(shí),不同的運(yùn)行方式會(huì)導(dǎo)致問題。抽取、轉(zhuǎn)換和加載流程甚至?xí)斐筛嗵魬?zhàn)。

   云計(jì)算和數(shù)據(jù)倉庫是合理的一對(duì)。云存儲(chǔ)可以按需擴(kuò)展,云可以將大量服務(wù)器貢獻(xiàn)于某一具體任務(wù)。數(shù)據(jù)倉庫通用功能是本地?cái)?shù)據(jù)分析工具,受到計(jì)算和存儲(chǔ)資源的限制,同時(shí)也受到設(shè)計(jì)者考慮新數(shù)據(jù)源集成的能力的限制。如果我們可以克服一些數(shù)據(jù)遷移的挑戰(zhàn),將一個(gè)數(shù)據(jù)倉庫以及其數(shù)據(jù)分析工具從數(shù)據(jù)中心中的專用服務(wù)器轉(zhuǎn)移到基于云的文件系統(tǒng)和數(shù)據(jù)庫就可以解決這個(gè)問題。

  云端數(shù)據(jù)管理通常牽扯到在分布式文件系統(tǒng)中加載和維護(hù)文件,像Hadoop分布式文件系統(tǒng)(HDFS),隨后用類似MapReduce這樣的工具處理數(shù)據(jù)。對(duì)于數(shù)據(jù)倉庫和其他的分析人物,像Hive這樣的數(shù)據(jù)庫工具在分布式文件系統(tǒng)之上提供了類SQL的功能。

  盡管傳統(tǒng)關(guān)系型數(shù)據(jù)庫管理系統(tǒng)和云端非關(guān)系型數(shù)據(jù)庫之間可以并行描述,但是在兩個(gè)片段之間轉(zhuǎn)移數(shù)據(jù)時(shí),不同的運(yùn)行方式會(huì)導(dǎo)致問題。抽取、轉(zhuǎn)換和加載流程甚至?xí)斐筛嗵魬?zhàn)。

  數(shù)據(jù)遷移工具輔助向云端遷移

  從數(shù)據(jù)庫抽取數(shù)據(jù)很容易,從數(shù)據(jù)庫中有效挖掘大容量數(shù)據(jù)確是一項(xiàng)挑戰(zhàn)。如果由于數(shù)據(jù)量的增長(zhǎng),數(shù)據(jù)倉庫面臨性能或者存儲(chǔ)問題,可能就是時(shí)候考慮使用運(yùn)資源了。下面提供了一些工具來協(xié)助從關(guān)系型數(shù)據(jù)庫加載數(shù)據(jù)到云文件系統(tǒng)和數(shù)據(jù)庫。

  專業(yè)工具,像Sqoop(SQL-to-Hadoop)生成代碼從關(guān)系型數(shù)據(jù)庫抽取數(shù)據(jù),并將其拷貝到HDFS或者Hive。Sqoop使用JDBC驅(qū)動(dòng),同多種類型的關(guān)系型數(shù)據(jù)庫工作,但是通過JDBC推出大量數(shù)據(jù)導(dǎo)致了性能成本。

  為了遷移到云端,從關(guān)系型數(shù)據(jù)庫抽取數(shù)據(jù)時(shí),你可能需要進(jìn)行數(shù)據(jù)轉(zhuǎn)換。如果你所工作的所有數(shù)據(jù)來自于單一數(shù)據(jù)庫,就可以在源數(shù)據(jù)庫中進(jìn)行轉(zhuǎn)換。如果從兩個(gè)分離的系統(tǒng)合并數(shù)據(jù),在抽取之后再轉(zhuǎn)移數(shù)據(jù)源更有效。然而,你應(yīng)該在加載數(shù)據(jù)到最終數(shù)據(jù)存儲(chǔ)庫之前做這些。Cascading數(shù)據(jù)處理API可以協(xié)助這項(xiàng)任務(wù)的進(jìn)行。

  Cascading提供了運(yùn)行在Hadoop之上的功能,像工作流處理、計(jì)劃和調(diào)度。就比如說,它同管道過濾器工作;數(shù)據(jù)應(yīng)用過濾器通過管道從一個(gè)源流到目的源。其他功能像grouping可以應(yīng)用于數(shù)據(jù)流。Cascading用Java實(shí)現(xiàn),在MapReduce工作中調(diào)用轉(zhuǎn)換API。

  如果你正在同MySQL共事,Sqoop介意使用MySQL轉(zhuǎn)儲(chǔ)功能繞離JDBC并更加有效地抽取數(shù)據(jù)。Sqoop也可以生成Java類,這個(gè)類可以用于操縱加載數(shù)據(jù)并將其直接導(dǎo)入Hive。HIHO (Hadoop Input and Output)從關(guān)系型表抽取數(shù)據(jù)并提供一些基本的轉(zhuǎn)換服務(wù),像去重以及合并輸入流。

  當(dāng)生成文件在將其加載到HDFS文件系統(tǒng)或者Hive數(shù)據(jù)倉庫之前,要求最小化轉(zhuǎn)換,你就能直接加載文件了。在確定目標(biāo)表和分割規(guī)格后,Hive有一個(gè)命令來加載數(shù)據(jù)。Pig是數(shù)據(jù)分析程序的一種高水平語言,尤其是和Java中的MapReduce編碼對(duì)比的時(shí)候。它提供了一種基本的統(tǒng)計(jì)函數(shù),你可以在關(guān)系型數(shù)據(jù)庫中找到(像min、max、count),在數(shù)學(xué)和字符串處理功能中也能找到。Pig支持架構(gòu)化和非結(jié)構(gòu)化文本文件的壓縮。

  云計(jì)算資源補(bǔ)充了數(shù)據(jù)倉庫基礎(chǔ)架構(gòu)。然而,為將數(shù)據(jù)倉庫轉(zhuǎn)移到云端的利益***化,適當(dāng)結(jié)構(gòu)化數(shù)據(jù)并使用正確的數(shù)據(jù)分析工具很重要。

責(zé)任編輯:鳶瑋 來源: TechTarget中國(guó)
相關(guān)推薦

2013-10-29 13:28:13

數(shù)據(jù)

2016-11-14 10:23:08

Hadoop工具大數(shù)據(jù)數(shù)據(jù)倉庫

2020-12-02 14:38:21

SQL數(shù)據(jù)庫MySQL

2023-01-11 10:29:26

2020-02-17 11:37:54

大數(shù)據(jù)數(shù)據(jù)倉庫技術(shù)

2016-08-15 12:57:01

數(shù)據(jù)倉庫索引架構(gòu)維度索引

2016-11-08 09:16:54

數(shù)據(jù)倉庫優(yōu)化

2021-09-01 10:03:44

數(shù)據(jù)倉庫云數(shù)據(jù)倉庫數(shù)據(jù)庫

2023-11-17 18:02:19

數(shù)據(jù)倉庫性能Doris

2021-03-03 21:24:57

數(shù)據(jù)倉庫工具

2022-11-29 17:16:57

2020-01-03 09:40:13

大數(shù)據(jù)數(shù)據(jù)倉庫分層

2020-04-06 13:52:45

數(shù)據(jù)倉庫大數(shù)據(jù)平臺(tái)Hadoop

2018-07-24 09:28:18

存儲(chǔ)數(shù)據(jù)倉庫

2013-03-20 16:23:53

數(shù)據(jù)清洗

2017-08-16 08:37:05

云遷移IP地址

2011-12-28 10:00:44

UnixLinux 遷移

2017-10-20 12:59:05

數(shù)據(jù)分層數(shù)據(jù)建設(shè)數(shù)據(jù)倉庫

2016-12-12 19:16:43

數(shù)據(jù)云端

2023-12-13 07:26:24

數(shù)據(jù)湖倉數(shù)據(jù)倉庫性能
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 国产成人午夜精品影院游乐网 | 视频三区| 免费视频二区 | 日韩欧美三区 | 91精品国产91久久久久久最新 | 欧美精品一区二区三区视频 | 日日噜噜噜夜夜爽爽狠狠视频, | 欧美日韩一区二区三区在线观看 | 国产精品一区二区三区久久 | 久久久网| 久久免费精品视频 | 久久久久久www | 中文字幕av一区 | 91青娱乐在线 | av网站在线播放 | 日本不卡免费新一二三区 | 午夜精品一区二区三区在线播放 | 精品久久久久久久 | 欧美一区二区激情三区 | 999久久精品 | 超碰在线人 | 亚洲精品久久久一区二区三区 | 亚洲精品一级 | 国产午夜精品福利 | 成人在线观看免费视频 | 亚洲自拍偷拍av | 国产精品视频一区二区三区 | 欧美日韩国产在线观看 | 欧美日韩三级视频 | 亚洲精品乱码久久久久v最新版 | 嫩草黄色影院 | 成人精品一区亚洲午夜久久久 | 中文精品视频 | 不卡欧美 | 成人h视频在线观看 | 日本黄色的视频 | 欧美日一区二区 | 999热精品 | 天天爽综合网 | 草久网| 国产精品乱码一区二三区小蝌蚪 |