成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

跨系統數據一致性問題解決方案匯總

新聞 運維
本文旨在總結沉淀工作中問題的解決經驗,整理解決跨系統數據不一致問題的經驗方法。

目前隨著微服務化建設的普及,存在越來越多的跨系統數據交互情況,跨系統數據一致性問題越發凸顯,那如何有效保證跨系統數據的一致性呢?

本文旨在總結沉淀工作中問題的解決經驗,整理解決跨系統數據不一致問題的經驗方法。

1、為什么會有跨系統數據一致性問題?

提到數據一致性,我們很容易想到的就是數據庫中的事務操作。

事務的原子性和持久性可以確保在一個事務內,操作多條數據,要么都成功,要么都失敗。這樣在一個系統內部,我們可以很自然地使用數據庫事務來保證數據一致性。但是在微服務的今天,一項操作會涉及到跨多個系統多個數據庫的時候,用單一的數據庫事務就沒辦法解決了。

另外常見的一種情況就是:存在依賴情況的系統服務,例如業務端與用戶端(業務端負責生產數據,用戶端負責展示數據),需要數據同步來保障跨系統服務的數據一致性,很多時候采用何種數據同步方式,來保障數據應用的時效性至關重要。 

2、一致性問題的難點分析

為了更好的描述和理解問題,我們用一個案例來闡述:

假設存在訂單系統與庫存系統,在實際業務中訂單的創建會伴隨著庫存的減少。兩個系統為微服務化部署,其應用數據也存放在獨立的數據庫中,兩個系統間通過網絡進行通信。

2.1 CAP 原則

CAP 指的是 Consistency(一致性)、Availability(可用性)、Partition tolerance(分區容錯性)。

放棄 A (可用性)來保障 CP

具體表現為產生通信故障后,應用會進入阻塞狀態,一直嘗試與庫存系統恢復通信直到完成所有數據處理。這種方案是優先保障數據完整性,但此方案用戶體驗極差,因為在所有操作完成前用戶會一直處于等待的狀態。

CAP 本身就是互斥的,只能從三者中選兩個,對于 CA、AP、CP 都有它們自己的應用場景,要結合實際進行選擇。

CA 因為不考慮分區容忍度,所以它的所有操作需要在同一進程內完成(也就是我們常說的單體應用);

AP 因為放棄數據一致性,適合數據要求不高但強調用戶體驗的項目,如博客、新聞資訊等;

CP 反之放棄了可用性,適合數據要求很高的交易系統,如銀行交易、電商的訂單交易等,就算是用戶長時間等待,也要保障數據的完整可靠。

CAP 原則在實際項目中的運用,對于互聯網應用來說,如果為了用戶體驗完全放棄數據一致性這也是不可取的,畢竟數據才是應用的根本。

那該怎么解決呢?

保障最終一致性的措施有很多,主要包括: 分布式事務和 TCC 一致性方案 。

MySQL 其實有一個兩階段提交的分布式事務方案(MySQL XA),但是該方案存在嚴重的性能問題。

比如,一個數據庫的事務與多個數據庫之間的 XA 事務性能可能相差 10 倍。另外,在 XA 的事務處理過程中它會長期占用鎖資源,所以一開始我們并不考慮這個方案。

在此,我們主要討論一下 TCC 一致性方案。

2.2 TCC 一致性方案

TCC 是一種數據一致性方案,我們會把原來的一個接口分為三個接口:

  • Try 接口用來檢查數據、預留業務資源。
  • Confirm 接口用來確認實際業務操作、更新業務資源。
  • Cancel 接口是指釋放 Try 接口中預留的資源。

在 TCC 中,它將分布式處理過程分為兩個階段:

1、Try 是第一個階段,用于嘗試并鎖定資源;

2、如果資源鎖定成功,第二個階段開始進行 Confirm 提交完成數據操作;

3、如果資源鎖定失敗,第二個階段就會進行 Cancel 將數據回滾;

TCC 實施過程中有哪些注意事項呢?

1)在 Try 階段做盡可能多的事情

要把絕大多數的業務邏輯在 Try 階段完成,因為 TCC 設計之初認為 Confirm 或 Cancel 是一定要成功的,因此不要二階段包含任何業務代碼或者遠程通信,只通過最簡單的代碼釋放凍結資源。

2)保障 Confirm 或 Cancel 執行成功

假如 Confirm 或 Cancel 執行時出現錯誤,那具體應用時也會不斷重試執行操作來盡量保證執行成功,這個過程中可能會多次執行 update 語句,因此要注意代碼的冪等性。

3)Confirm 或 Cancel 執行失敗的兜底方案

極小概率下,Confim 或 Cancel 在多次重試后宣告失敗,便會出現數據最終不一致的情況,這就需要自己開發額外的數據完整性校驗程序補救或者通過人工進行補錄。

TCC 歸根結底是一種理論設計,需要廠商實現相應的框架給予支撐。

在 Java 開源領域著名的 TCC 框架有:ByteTCC、Hmily、Tcc-transaction 與 Seata。

3、有效數據同步方案實踐

問題描述:我們還是以之前的案例場景,數據需要從訂單系統同步到庫存系統中。

解決數據一致性常用的三類數據同步方案: 實時同步、定時同步、手動同步 。

3.1 實時同步

實時同步可以從數據庫、應用處理兩個層面來解決。

3.1.1 數據庫層面

通用采用數據庫的數據同步,主從解決,當 master(主)庫的數據發生變化的時候,變化會實時的同步到 slave(從)庫。

優勢:

  • 水平擴展數據庫的負載能力。
  • 容錯,高可用,Failover(失敗切換)/High Availability
  • 數據備份。

如何實現主從一致

關于 MySQL 主從復制主要同步的是 binlog 日志,涉及到三個線程,一個運行在主節點(log dump thread),其余兩個(I/O thread, SQL thread)運行在從節點,如下圖所示: 

(1)主節點 binary log dump 線程

當從節點連接主節點時,主節點會創建一個 log dump 線程,用于發送 binlog 的內容。在讀取 binlog 中的操作時,此線程會對主節點上的 binlog 加鎖,當讀取完成,在發送給從節點之前,鎖會被釋放。

(2)從節點 I/O 線程

當從節點上執行 start slave 命令之后,從節點會創建一個 I/O 線程用來連接主節點,請求主庫中更新的 binlog。I/O 線程接收到主節點 binlog dump 進程發來的更新之后,保存在本地 relay-log(中繼日志)中。

(3)從節點 SQL 線程

SQL 線程負責讀取 relay log 中的內容,解析成具體的操作并執行,最終保證主從數據的一致性。

3.1.2 API 調用

一次業務數據操作,需要調用多方 API 實現實時數據的同步。

劣勢比較明顯,主要表現在:

1)處理耗時長,需要串行調用多方 API 并等待響應,用戶體驗較差;

2)會有一定幾率出現數據不一致情況(個別 API 調用出錯、未響應等情況)。

3.2 異步同步

3.2.1 異步消息隊列

Message Queue(MQ),消息隊列中間件

MQ 通過將消息的發送和接收分離來實現應用程序的異步和解偶,同時 MQ 屏蔽底層復雜的通訊協議,定義了一套應用層的、更加簡單的通訊協議。

應用 MQ 的優點:解耦,削峰,數據分發。

在業務系統設計中,我們常常會存在一個平臺系統 A,它關聯同步了許許多多的系統的對接(系統 B、C、D 等)。

利用 MQ 可以很好的解決系統對接和數據同步問題,同時可以忽略對接系統的穩定性等訴求。 

3.2.2 定時同步

定時任務在系統中并不少見,主要目的是用于需要定時處理數據或者執行某個操作的情況下,如定時關閉訂單,或者定時備份。

常見的定時任務分為 2 種:

1)第一種:固定時間執行,保障同步并校準數據

如:每分鐘執行一次,每天執行一次。

2)第二種:延時多久執行,即動作發生后,定時多久后執行任務

如:15 分鐘后關閉訂單付款狀態,24 小時候后關閉訂單并且釋放庫存等。

4、應用經驗總結

技術還是要解決實際問題來落地的,應用場景很關鍵,不要單純為了技術而技術,技術歸根結底還是為應用場景和產業落地服務。

軟件設計過程中,不需要刻意去應用看起來高大上的解決方案,而當需要引入時,要同時考慮開發、維護成本以及對應性能的提升的性價比,否則得不償失。

(1)任何架構方案都是不斷演進的

任何數據同步本身沒有優劣之分,都有其適合的應用場景。

(2)架構的目的是解決業務問題

能夠解決當前問題的架構方案,同時兼具易于擴展及維護,那就是一個優秀的架構。

隨著互聯網的告訴發展,跨系統數據一致性應用需求一定會越來越迫切,跨地域跨系統場景的真正痛點也會越來越清晰,希望我們在跨系統數據一致性方面的調研和探索可以給大家一個思路和參考。

希望今天的講解對大家有所幫助,謝謝!

責任編輯:張燕妮 來源: 架構精進之路
相關推薦

2016-11-29 09:00:19

分布式數據一致性CAS

2023-08-01 07:42:33

Redis數據項目

2012-09-24 09:35:42

分布式系統

2012-05-09 10:08:41

跨機房

2023-06-29 08:00:59

redis數據MySQL

2025-06-19 02:15:00

2010-10-09 12:58:59

JS腳本兼容

2018-10-25 14:40:23

分布式數據數據不一致

2019-05-27 09:00:00

蘇寧智慧零售平臺數據庫

2023-06-07 08:10:29

2022-05-31 08:37:59

RedisMySQL數據一致性

2024-04-11 13:45:14

Redis數據庫緩存

2022-09-06 15:30:20

緩存一致性

2010-02-24 10:55:01

WCF跨域訪問

2010-07-30 12:40:00

Flex跨域訪問

2024-11-14 07:10:00

2025-06-16 02:11:00

2020-11-02 07:09:24

緩存服務器異構

2019-02-13 11:04:42

系統緩存軟件

2022-08-11 07:55:05

數據庫Mysql
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 操操日| 亚洲二区在线 | 国产黑丝在线 | 免费观看一级毛片视频 | 先锋资源亚洲 | 午夜激情免费视频 | 欧美性受xxxx白人性爽 | 日韩精品一区二区三区在线观看 | 国精产品一区一区三区免费完 | 日韩一区二区免费视频 | 日韩高清国产一区在线 | 久久久久国产精品 | 亚洲一区二区三区在线播放 | 久久高清精品 | 黑人久久久 | 韩国av网站在线观看 | 欧美亚洲视频 | 夜夜夜夜夜夜曰天天天 | 国产激情偷乱视频一区二区三区 | 男人天堂网av | 99久久精品免费 | 99一级毛片 | 国产乱码精品一区二区三区忘忧草 | 一区二区高清 | 欧美老少妇一级特黄一片 | 在线观看www高清视频 | 国产综合精品一区二区三区 | 97免费在线观看视频 | 综合精品在线 | 免费福利视频一区二区三区 | 久久99精品久久久久 | 国产成人免费在线 | 九九国产 | 欧美在线一区二区三区 | av黄色网 | 自拍中文字幕 | 国产免费观看久久黄av片涩av | 日韩视频中文字幕 | 在线观看中文字幕 | 亚洲欧美日韩国产综合 | 91在线色视频 |