成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

數據湖和中央數據倉庫的設計

系統 大數據
數據網格(Data Mesh)具有相同的功能集,以滿足領域驅動的分散化的目的。為了設計數據網格,強調遵循4個原則,并針對組織中不同團隊提供了不同的責任。

設計數據湖或中央數據倉庫是許多大型組織的主要職能,這些組織每天處理數百萬筆交易,并對這些交易進行進一步的報告、預測或機器學習項目分析。

為了將所有來自源系統(我們稱之為“上游”)到其他業務應用(所謂“下游”)的數據點整合在一起,已經成為數據智能或商業智能團隊的一個不同的工程奇跡。在完成所有這些練習和從上游到下游的緊密依賴后,管理數據變得越來越難以通過所有數據管道進行檢查。

在大多數組織中,我們可以看到以下數據流程是從如下所示開始的:

1*9TnwkgYimy_TGGaXp8-B3A.png

新應用程序或多或少是按領域驅動設計,這些應用程序與更特定于應用程序的數據非常緊密,這給數據庫工程團隊帶來了新的挑戰,要為滿足所有方面的目的提供有組織的解決方案,如下所示:

1*qgjpz13zZYocxeFfx4QJDw.png

數據網格(Data Mesh)具有相同的功能集,以滿足領域驅動的分散化的目的。為了設計數據網格,強調遵循4個原則,并針對組織中不同團隊提供了不同的責任。

1*0kH8QBl-Y9SnTE6g-Azl_w.png

領域數據的所有權

由于我們采用了領域驅動的分散化方法,因此在數據網格中,數據圍繞著特定的業務領域進行拆分,就像我們在微服務中所做的那樣。在數據領域中也是如此,將存在一個負責跟蹤活動性的數據領域團隊。數據領域團隊可以使用數據創建數據產品,其他數據領域團隊可以使用這些數據產品。

數據作為產品

在數據網格中,數據被視為可以由一個數據領域團隊發布并可以被另一個數據領域團隊消費的產品。數據領域團隊必須以產品思維來考慮數據,他們對數據質量、表示和內聚性負完全責任。此外,數據領域團隊必須與數據網格啟用團隊合作,以獲取數據產品的資格。

自主驅動的數據平臺

數據網格中的所有數據都可以在公司內部任何地方使用。因此,可以在短時間內創建新的報告或數據產品,并傳播到隨后的數據產品。這帶來了治理問題,因為數據的控制可以通過治理政策進行。

聯合治理

治理通過不同的數據政策和安全政策進行處理,由數據領域團隊根據數據發布和數據消費受到的不同合同來執行。然而,如果政策未正確定義,治理可能是數據的一個問題點。

數據網格架構

數據網格具有多種架構,可以使用不同的語言和它們的框架進行定義。這完全取決于團隊特定的實現,這些實現用于實現數據產品。

1*0G9TQLHLCSs6jLX_z20CPQ.png

數據網格的路線圖可以由不同團隊共同設計和實施。每個團隊都有維護數據網格的責任。

數據網格啟用團隊

啟用團隊是數據網格架構的主要團隊,用于與數據領域團隊進行連接。他們為數據產品創建原型和文檔。他們指導數據領域團隊遵循定義的數據產品規則,并幫助他們為數據網格授予數據產品。

(1) 數據平臺團隊

平臺團隊主要維護基礎設施,以維護數據對數據網格的可用性。他們用于維護所有數據產品的數據目錄。數據目錄可以是其他數據領域團隊查找數據網格并設計他們的數據產品的元數據。數據平臺團隊還擁有數據存儲、監控和訪問數據網格的矩陣。

(2) 數據領域團隊

數據領域團隊可以是創建應用程序或數據產品的工程或開發團隊。數據產品是操作數據、分析功能和來自其他數據產品的數據的組合。其他數據產品也可以使用類似的方式。

(3) 行業團隊

行業團隊擁有數據治理政策,并負責創建數據、安全和其他合規政策。定義政策有助于定義數據網格中數據產品的可訪問性。

數據網格是新的現代化數據架構模式,可以在不久的將來在企業級別實施。數據網格架構中有很多值得探索的地方。

責任編輯:趙寧寧 來源: 小技術君
相關推薦

2024-09-05 16:08:52

2024-03-19 13:45:27

數據倉庫數據湖大數據

2022-11-29 17:16:57

2023-12-13 07:26:24

數據湖倉數據倉庫性能

2025-05-12 09:34:39

2023-11-09 15:56:26

數據倉庫數據湖

2022-10-14 14:20:20

云原生數據倉庫

2022-05-11 08:00:00

Lakehouse存儲數據湖

2020-10-20 18:59:40

數據湖數據倉庫采集

2022-10-21 16:38:57

數據湖數據倉庫數據庫

2011-05-13 14:17:27

智能數據倉庫

2023-11-27 16:35:28

數據湖數據倉庫

2009-01-18 15:48:31

數據倉庫數據存儲OLTP

2018-07-24 09:28:18

存儲數據倉庫

2021-06-07 10:45:16

大數據數據倉庫數據湖

2020-01-08 21:53:06

大數據數據倉庫數據湖

2011-07-15 10:28:18

OLTP數據倉庫

2020-12-02 17:20:58

數據倉庫阿里云數據湖

2017-01-22 15:43:47

數據架構演進

2021-09-01 10:03:44

數據倉庫云數據倉庫數據庫
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 黄 色 毛片免费 | 国产99久久久国产精品 | 免费国产成人av | 色综合视频 | 国产精品无码永久免费888 | 久久大陆 | 国产一区二区三区在线看 | 99精品久久久国产一区二区三 | 色片在线观看 | 99久久久99久久国产片鸭王 | 天堂av免费观看 | 一区二区免费看 | 风间由美一区二区三区在线观看 | 中文字幕在线网 | 亚洲一区二区三区四区五区中文 | 久在线视频| 无码一区二区三区视频 | 国产一区免费视频 | 国产精品一区一区 | 亚洲欧美在线一区 | 中文字幕第二区 | 欧美v免费 | 亚洲国产精品网站 | 久久婷婷国产香蕉 | 久久久精品在线 | www国产精品 | 一区二区三区福利视频 | a欧美| 不卡视频一区二区三区 | 久久久久久亚洲国产精品 | 日韩在线成人 | 欧美一级黑人aaaaaaa做受 | 在线色网址| 国产91精品久久久久久久网曝门 | 天天色av| 国产精品久久久久久久三级 | 久久久久久久久久久久久久久久久久久久 | 成人在线免费网站 | 一区精品视频在线观看 | 日韩成人免费av | 亚洲成人久久久 |