首页
/
每日頭條
/
科技
/
數據庫和數據倉庫區别
數據庫和數據倉庫區别
更新时间:2024-11-13 18:20:19

從本篇文章開始,筆者打算寫一個系列的《clickhouse專欄》,其全稱是Click Stream,Data WareHouse,簡稱ClickHouse。從其全稱中的“Data WareHouse”,我們可以看出clickhouse的定位是數據倉庫。那麼“數據倉庫”和“數據庫”有什麼區别呢?理解這點這很重要,理解了二者的區别,你就可以正确地将clickhouse用到其合适的應用場景。

  • 一、OLTP與OLAP
  • 二、數據倉庫的特點
  • 三、數據庫與數據倉庫結合使用
一、OLTP與OLAP

在理解"數據倉庫"與“數據庫”的區别之前,我們需要先說明兩個術語,即:OLTP與OLAP。

  • OLTP(on-line transaction processing)聯機事務處理:通常指的是面向傳統應用服務的關系型數據庫,用戶通過web界面操作實時“增删改查”數據庫裡面的數據。包含核心的基本的事務處理邏輯,用戶對于性能的要求很高,用戶點擊界面之後,響應時間最低要求在5秒之内(通常3秒以内),同時需要支持比較高的用戶并發度。OLTP的數據操作通常面向的是1條或幾條少量數據,比如:用戶下單操作該用戶的購物車、支付記錄、積分記錄等少量數據。
  • OLAP(On-Line Analytical Processing)聯機分析處理:面向的應用主要是執行複雜的數據分析操作,側重于決策支撐,通過圖形報表展現直觀易動的數據分析結果。對于響應時間的要求相對寬松,數據分析過程通常不支持用戶高并發,但數據分析的結果支持用戶的高并發訪問。OLAP面向的通常是批量數據操作,數據按批次進行導入、分析等操作,OLAP系統通常結合ETL(抽取(extract)、轉換(transform)、加載(load))系統進行使用。

理解上面的兩個數據,剩下的就簡單多了,數據庫通常面向OLTP操作,數據倉庫通常面向OLAP操作。OLTP側重于保存及變更數據的當前狀态,而數據倉庫側重于保存數據的曆史存檔。比如:用戶銀行轉賬,OLTP數據庫側重于管理用戶當前賬戶裡的剩餘金額,和轉賬過程對方賬戶金額入賬的數據一緻性;而OLAP數據倉庫側重于記錄誰進行了轉賬、轉了多少錢、錢轉到了哪裡。曆史上該用戶習慣在什麼時間轉賬,月初還是月末?一個月轉賬幾次?

二、數據倉庫的特點

下面的是數據倉庫的幾個典型特點:

  • 關注于記錄數據變化的過程,而不是數據當前的狀态。
  • 讀多寫少
  • 大寬表
  • 數據批量操作,不更新或很少更新
  • 不支持事務

有的工作經驗相對少的朋友看了這幾條會說:“這哪是什麼特點,這都是缺點啊!” 。不更新或很少更新,讀多寫少都是場景限制,大寬表破壞數據庫設計範式,不支持事務那還叫什麼數據庫?其實不然,在OLAP的場景下,這些恰恰是它為了保障數據分析的性能所進行特殊設計的特點。我給大家舉幾個例子:

  • 比如:某雲廠商按周期采集服務器的運行指标,比如:内存使用率、CPU使用率等等。這些指标都是批量采集、批量入庫的,一旦入庫就不會再去修改。通常也不會将内存指标建立一張表、CPU使用率建一張表,而是對于同一機房的服務器建一張表,這張表以時間維度包含各種指标。比如:查詢内存使用率>80,CPU使用率>70的服務器的時候,就不會兩表關聯查詢了,查詢一張寬表就可以了,數據分析的性能飛躍式提升。不支持事務,通常OLAP系統不支持事務,因為事務會在一定程度上影響數據操作的性能。數據入庫之後,需要針對這些指标不斷地進行分析、挖掘,即:讀多寫少,基本上就批量寫一次後續都是“查詢數據”操作。
  • 又比如:股票實時交易數據,關注于記錄數據變化的過程,而不是數據當前的狀态。所有股票的所有曆史數據一旦進入數據倉庫之後,就不會發生修改。可以進行股票量化交易分析。
  • 又比如:用戶商品點擊量數據、用戶操作行為數據、用戶網頁浏覽時長數據等等,這些數據都是對用戶進行分析所需要的數據,一旦入庫不會修改。可以進行用戶買賣意願行為分析。

其實還有很多這種類型的數據,這種數據的特點就是:數據量大、産生之後不會發生變化(那一個時間刻度的數據就不會發生變化)。因此,數據倉庫通常面向的是吞吐量大的曆史數據進行存檔、不會再做更新删除操作的這種數據場景,數據存檔之後通常隻面向數據查詢分析。

三、數據庫與數據倉庫結合使用

通常一個較大型的應用服務系統,既有數據庫,也有數據倉庫。數據庫面向用戶進行聯機事務處理,處理用戶界面的實時操作。數據倉庫的數據面向決策管理層,提供數據及圖形報表,提供變化多樣的數據分析決策。

數據庫和數據倉庫區别(數據倉庫之間的區别與聯系)1

數據庫與數據倉庫結合使用

上圖是一個典型的數據庫與數據倉庫同時存在的應用服務場景

  • 互聯網用戶通過應用服務産生用戶行為,對數據庫進行OLTP操作
  • 應用服務把用戶的操作的行為發送給消息隊列,消息隊列将數據導入數據倉庫
  • 數據庫的數據可以通過ETL抽取、處理、轉換、整合到數據倉庫
  • 決策分析系統主要面向數據倉庫進行數據分析,數據分析結果可以回饋到數據庫,通過應用服務面向互聯網用戶提供數據分析結果查看能力
  • 決策分析系統同時對應用服務的決策管理者,提供數據分析決策支撐能力

數據庫和數據倉庫區别(數據倉庫之間的區别與聯系)2

,
Comments
Welcome to tft每日頭條 comments! Please keep conversations courteous and on-topic. To fosterproductive and respectful conversations, you may see comments from our Community Managers.
Sign up to post
Sort by
Show More Comments
推荐阅读
吉利suv星越l全新上市
吉利suv星越l全新上市
​吉利,作為我們國産汽車的重要品牌之一,旗下車型一直以來備受關注,深受我們衆多國人的喜愛。如今,吉利全新SUV—吉利星越L的到來,它又将帶給我們哪些驚喜呢?下面就跟随小編一起來了解一下吧。據悉,新車将在今年上海車展正式首發,有望在今年上半年...
2024-11-13
筆記本更新後無法連接網絡
筆記本更新後無法連接網絡
筆記本更新後無法連接網絡?檢查電腦上面的wifi開關是否打開有些電腦會有2個開關,一個在電腦側邊上,一個通過鍵盤實現開關,一般如果這兩個開關未打開,無線網絡會顯示X号,在确認這兩個開關都處于打開狀态後,再次嘗試聯網,接下來我們就來聊聊關于筆...
2024-11-13
充手機怎麼充的快
充手機怎麼充的快
充手機怎麼充的快?打開飛行模式在充電的時候,可以打開手機的飛行模式,這樣會停止網絡信号,不能打電話發信息上網,給手機足夠的空間,這樣充電的速度也就大大提升了,等到電充足夠了再把飛行模式關閉即可,今天小編就來說說關于充手機怎麼充的快?下面更多...
2024-11-13
安卓王者怎麼雙開蘋果微信
安卓王者怎麼雙開蘋果微信
蘋果早前宣布,将會在當地時間11月10日(北京時間11月11日淩晨2點)在ApplePark舉辦發布會,這是蘋果在本年度秋季舉行的第三次發布會,發布會的主角無疑就是新的Mac電腦。目前AppStore上似乎透露出發布會的蛛絲馬迹了!據悉,當...
2024-11-13
罰罪蓋玥希第幾集出現
罰罪蓋玥希第幾集出現
黃景瑜、楊祐甯主演的《罰罪》正在愛奇藝熱播,劇中,蓋玥希飾演女警察金燕。日前,蓋玥希接受新京報記者專訪表示,從性格上說,自己本身也是男孩子性格,大大咧咧的,和金燕一樣都不是愛計較的性格,“我們都是樂觀派,遇到什麼難的事都會往好的地方想。我和...
2024-11-13
Copyright 2023-2024 - www.tftnews.com All Rights Reserved