成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

數據倉庫:OLTP與OLAP查詢

運維 數據庫運維 數據倉庫
相比之下,數據倉庫是一個獨立的數據庫,分析人員可以查詢其內心的內容,而不會影響OLTP操作。數據倉庫包含公司所有各種OLTP系統中數據的只讀副本。

在業務數據處理的早期,對數據庫的寫操作通常對應于正在發生的商業交易-進行銷售,與供應商下訂單,支付員工的工資等。隨著數據庫擴展到不涉及的領域 涉及貨幣易手,但是交易一詞仍然存在,是指構成邏輯單元的一組讀寫操作。 這些類型的查詢稱為事務處理系統查詢(OLTP)。 為這些查詢設計的系統通常是面向用戶的,這意味著它們可能會看到大量的請求。 為了處理負載,應用程序通常僅在每個查詢中觸摸少量記錄。 該應用程序使用某種密鑰來請求記錄,而存儲引擎使用索引來查找所請求密鑰的數據。 磁盤查找時間通常是這里的瓶頸。

但是,數據庫也開始越來越多地用于數據分析,而這種數據分析具有非常不同的訪問模式。 通常,分析查詢需要掃描大量記錄,僅讀取每條記錄的幾列,并計算匯總統計信息(例如計數,總和或平均值),而不是將原始數據返回給用戶。 例如,如果您的數據是銷售交易表,則分析查詢可能是:

  • 一月份,我們每家商店的總收入是多少?
  • 在最近的促銷活動中,我們售出的iPhone比平時多了多少?
  • 哪個品牌的牛奶最常與家樂氏的玉米片一起購買?

這些查詢通常由業務分析人員編寫,并饋入有助于公司管理層做出更好決策(業務智能)的報告。 為了將這種使用數據庫的模式與事務處理區分開來,它被稱為在線分析處理(OLAP)。 它們之所以鮮為人知,是因為它們是由業務分析師而不是最終用戶處理的。 與OLTP系統相比,它們處理的查詢量要少得多,但每個查詢的要求通常很高,需要在短時間內掃描數百萬條記錄。 磁盤帶寬(不是尋道時間)通常是這里的瓶頸,而面向列的存儲是此類工作負載越來越流行的解決方案。

OLTP和OLAP之間的區別并不總是很明確,但是下面列出了一些典型特征。

數據倉庫:OLTP與OLAP查詢

首先,將相同的數據庫用于事務處理和分析查詢。事實證明,SQL在這方面非常靈活:它對于OLTP類型查詢和OLAP類型查詢都適用。盡管如此,在1980年代末和1990年代初,公司有一種趨勢是停止使用OLTP系統進行分析,而改為在單獨的數據庫上運行分析。這個獨立的數據庫稱為數據倉庫。

企業可能具有數十種不同的交易處理系統:為面向客戶的網站提供動力的系統,實體商店中的銷售點(結帳)系統,倉庫中的庫存跟蹤,車輛路線規劃,供應商管理,員工管理等。這些系統中的一個很復雜,需要一個團隊來維護它,因此這些系統最終只能彼此獨立地運行。通常期望這些OLTP系統具有高可用性,并以低延遲處理事務,因為它們通常對業務運營至關重要。因此,數據庫管理員密切保護其OLTP數據庫。他們通常不愿讓業務分析人員在OLTP數據庫上運行臨時分析查詢,因為這些查詢通常很昂貴,會掃描數據集的大部分,這可能會損害并發執行事務的性能。

數據倉庫

數據倉庫:OLTP與OLAP查詢

相比之下,數據倉庫是一個獨立的數據庫,分析人員可以查詢其內心的內容,而不會影響OLTP操作。數據倉庫包含公司所有各種OLTP系統中數據的只讀副本。從OLTP數據庫中提取數據(使用定期數據轉儲或連續的更新流),將其轉換為易于分析的模式,進行清理,然后將其加載到數據倉庫中。將數據放入倉庫的過程稱為"提取-轉換-加載(ETL)"。現在,幾乎所有大型企業都存在數據倉庫,但在小型企業中幾乎聞所未聞。這可能是因為大多數小型公司沒有太多不同的OLTP系統;而且大多數小型公司的數據量都很小-足夠小,可以在常規SQL數據庫中查詢,甚至可以在電子表格中進行分析。在大型公司中,要做一些在小型公司中簡單的事情需要很多繁重的工作。

使用單獨的數據倉庫而不是直接查詢OLTP系統進行分析的一大優勢是,可以針對分析訪問模式對數據倉庫進行優化。 某些數據庫(例如Microsoft SQL Server和SAP HANA)在同一產品中支持事務處理和數據倉庫。 但是,它們越來越成為兩個獨立的存儲和查詢引擎,它們恰巧可以通過公共SQL接口進行訪問。 數據倉庫供應商(例如Teradata,Vertica,SAP HANA和ParAccel)通常在昂貴的商業許可下銷售其系統。 Amazon RedShift是ParAccel的托管版本。 最近,出現了許多開源的SQL-onHadoop項目。 他們很年輕,但旨在與商業數據倉庫系統競爭。 這些包括Apache hive,Spark SQL,Cloudera Impala,Facebook Presto,Apache Tajo和Apache Drill。 其中一些是基于Google Dremel的想法。

Analytics的存儲架構

根據應用程序的需求,在事務處理領域中會使用各種不同的數據模型。 另一方面,在分析中,數據模型的多樣性要少得多。 許多數據倉庫都以相當公式化的方式使用,稱為星型模式(也稱為維建模)。 通常,將事實捕獲為單個事件,因為這樣可以在以后最大程度地進行分析。 但是,這意味著事實表可能會變得非常大。

星星和雪花:

數據倉庫:OLTP與OLAP查詢

"星型模式"的名稱來自以下事實:當可視化表關系時,事實表位于中間,并被其維度表包圍; 這些桌子的連接就像星星的光芒。 此模板的一種變體稱為雪花模式,其中尺寸進一步細分為多個子維度。 像Apple,Walmart或eBay這樣的大企業,其數據倉庫中可能有數十PB的事務歷史記錄,其中大多數實際上是表。

列式存儲:

數據倉庫:OLTP與OLAP查詢

盡管事實表通常超過100列,但是典型的數據倉庫查詢一次只能訪問其中的4或5。 在大多數OLTP數據庫中,存儲以面向行的方式進行布局:表的一行中的所有值都彼此相鄰存儲。 為了處理諸如"查找某項X在12月的平均銷售額"之類的分析查詢,面向行的存儲引擎仍然需要將所有這些行(每個行包含100多個屬性)從磁盤加載到內存中 ,解析它們并過濾掉不符合要求的條件,這可能會花費很長時間。 面向列的存儲背后的想法很簡單:不要將一行中的所有值都存儲在一起,而是將每一列中的所有值存儲在一起。 如果每列存儲在單獨的文件中,則查詢僅需要讀取和解析該查詢中使用的那些列,這可以節省大量工作。

列壓縮:

數據倉庫:OLTP與OLAP查詢

通常,一列中不同值的數量與行數相比很小(例如,零售商可能進行數十億次銷售交易,但只有100,000種不同產品)。 根據列中的數據,可以使用不同的壓縮技術-在數據倉庫中特別有效的一種技術是位圖編碼。

現在,我們可以將一列包含n個不同的值,并將其轉換為n個單獨的位圖-每個不同的值一個位圖,每行一個位。 如果行具有該值,則該位為1,否則為0。 如果n很小(例如,一個國家/地區列可能具有大約200個不同的值),則這些位圖可以每行一位存儲。

 

責任編輯:趙寧寧 來源: 今日頭條
相關推薦

2009-01-19 14:22:58

OLTP數據倉庫區別

2011-07-15 10:28:18

OLTP數據倉庫

2011-03-16 13:37:05

DB2OLAP服務

2021-05-09 21:57:08

數據倉庫Olap

2015-09-23 10:00:47

OLTPOLAP

2009-01-18 15:34:56

數據倉庫邏輯物理結構OLAP

2021-03-13 07:49:27

OLTPOLAP數據庫

2022-06-22 05:42:32

數據庫事務處理分析查詢

2024-09-05 16:08:52

2024-03-19 13:45:27

數據倉庫數據湖大數據

2022-07-28 13:47:30

云計算數據倉庫

2022-02-17 08:35:59

OLTPOLAP數據倉庫

2009-05-04 13:19:27

2021-09-01 10:03:44

數據倉庫云數據倉庫數據庫

2017-11-24 13:51:40

數據倉庫數據庫數據分析

2020-03-31 14:57:56

數據挖掘OLAP統計

2020-04-03 15:22:49

Hadoop數據倉庫數據庫

2023-08-23 15:33:15

數據倉庫數據分析

2018-08-03 15:28:51

數據平臺數據倉庫OLTP

2023-08-31 17:10:56

數據倉庫高級互聯網架構架構
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 69堂永久69tangcom | 一区二区三区精品在线视频 | 91视频大全 | 国产又爽又黄的视频 | 久久大| 精品一区二区三区中文字幕 | 久久精品无码一区二区三区 | 不卡一区 | 九色91视频| 欧美精品一区在线发布 | 亚洲午夜小视频 | 久久成人精品 | 国产美女视频一区 | 欧美日韩国产高清 | 欧美激情在线播放 | 国产成人高清视频 | 在线观看免费黄色片 | 日韩中文字幕一区 | 国产精品久久久久久久久免费高清 | 日韩影院在线观看 | 国产三区视频在线观看 | 色综合视频 | 日韩视频在线观看一区二区 | 成人av观看| 国产在线二区 | 人人干天天干 | 亚洲精品一区在线 | h视频在线观看免费 | 视频一区二区三区中文字幕 | 国产一区二区在线视频 | 国产午夜精品一区二区三区在线观看 | 99精品一区二区三区 | 精品国产乱码久久久久久闺蜜 | 91免费观看在线 | 97精品国产一区二区三区 | 欧美一级黄带 | 亚洲一区二区三区四区在线观看 | 成人av观看 | 欧美女优在线观看 | 麻豆av在线免费观看 | 欧美日韩在线电影 |