[[200487]]

摘要：大數(shù)據(jù)時代帶來了海量、多樣、非結(jié)構(gòu)化的數(shù)據(jù)，我們得以進行更加廣泛且深入的分析，但這必須建立在高質(zhì)量的數(shù)據(jù)上才有意義。本期以企業(yè)級的視角，介紹數(shù)據(jù)質(zhì)量的評價、提升與監(jiān)控。

大數(shù)據(jù)時代帶來了海量、多樣、非結(jié)構(gòu)化的數(shù)據(jù)，我們得以進行更加廣泛且深入的分析，但這必須建立在高質(zhì)量的數(shù)據(jù)上才有意義。本期以企業(yè)級的視角，介紹數(shù)據(jù)質(zhì)量的評價、提升與監(jiān)控。

大數(shù)據(jù)的時代，數(shù)據(jù)資產(chǎn)及其價值利用能力逐漸成為構(gòu)成企業(yè)核心競爭力的關(guān)鍵要素;然而，大數(shù)據(jù)應(yīng)用必須建立在質(zhì)量可靠的數(shù)據(jù)之上才有意義，建立在低質(zhì)量甚至錯誤數(shù)據(jù)之上的應(yīng)用有可能與其初心南轅北轍背道而馳。因此，數(shù)據(jù)質(zhì)量正是企業(yè)應(yīng)用數(shù)據(jù)的瓶頸，高質(zhì)量的數(shù)據(jù)可以決定數(shù)據(jù)應(yīng)用的上限，而低質(zhì)量的數(shù)據(jù)則必然拉低數(shù)據(jù)應(yīng)用的下限。

數(shù)據(jù)質(zhì)量一般指數(shù)據(jù)能夠真實、完整反映經(jīng)營管理實際情況的程度，通常可在以下幾個方面衡量和評價：

• 準(zhǔn)確性：數(shù)據(jù)在系統(tǒng)中的值與真實值相比的符合情況，數(shù)據(jù)應(yīng)符合業(yè)務(wù)規(guī)則和統(tǒng)計口徑。常見數(shù)據(jù)準(zhǔn)確性問題如：
  • 與實際情況不符：數(shù)據(jù)來源存在錯誤，難以通過規(guī)范進行判斷與約束;
  • 與業(yè)務(wù)規(guī)范不符：在數(shù)據(jù)的采集、使用、管理、維護過程中，業(yè)務(wù)規(guī)范缺乏或執(zhí)行不力，導(dǎo)致數(shù)據(jù)缺乏準(zhǔn)確性。
• 完整性：數(shù)據(jù)的完備程度。常見數(shù)據(jù)完整性問題如：
  • 系統(tǒng)已設(shè)定字段，但在實際業(yè)務(wù)操作中并未完整采集該字段數(shù)據(jù)，導(dǎo)致數(shù)據(jù)缺失或不完整;
  • 系統(tǒng)未設(shè)定字段：存在數(shù)據(jù)需求，但未在系統(tǒng)中設(shè)定對應(yīng)的取數(shù)字段。
• 一致性：系統(tǒng)內(nèi)外部數(shù)據(jù)源之間的數(shù)據(jù)一致程度，數(shù)據(jù)是否遵循了統(tǒng)一的規(guī)范，數(shù)據(jù)集合是否保持了統(tǒng)一的格式。常見一致性問題如：

缺乏系統(tǒng)聯(lián)動或聯(lián)動出錯：系統(tǒng)間應(yīng)該相同的數(shù)據(jù)卻不一致，缺乏必要的聯(lián)動和核對。

• 及時性：數(shù)據(jù)在采集、傳送、處理等環(huán)節(jié)快速支持應(yīng)用的程度，考察數(shù)據(jù)的時間特性對應(yīng)用的滿足程度。及時性關(guān)系到系統(tǒng)能否在規(guī)定的時間內(nèi)獲取到系統(tǒng)需要的特定時間產(chǎn)生的數(shù)據(jù)，以完成系統(tǒng)功能。常見及時性問題如：

缺乏時效性：未按照規(guī)定的數(shù)據(jù)更新時間要求對數(shù)據(jù)進行更新。

• 可用性：用來衡量數(shù)據(jù)項整合和應(yīng)用的可用程度。常見可用性問題如：
  • 缺乏應(yīng)用功能，沒有相關(guān)的數(shù)據(jù)處理、加工規(guī)則或數(shù)據(jù)模型的應(yīng)用功能，獲取目標(biāo)數(shù)據(jù);
  • 缺乏整合共享，數(shù)據(jù)分散，不易有效整合和共享。

其他衡量標(biāo)準(zhǔn)再如有效性可考慮對數(shù)據(jù)格式、類型、標(biāo)準(zhǔn)的遵從程度，合理性可考慮數(shù)據(jù)符合邏輯約束的程度。此前一項對某企業(yè)數(shù)據(jù)質(zhì)量問題進行的調(diào)研顯示常見數(shù)據(jù)質(zhì)量問題中準(zhǔn)確性問題占33%，完整性問題占28%，可用性問題占24%，一致性問題占8%，在一定程度上代表了國內(nèi)企業(yè)面臨的數(shù)據(jù)問題。

提高數(shù)據(jù)質(zhì)量的首要任務(wù)是定義一套標(biāo)準(zhǔn)化的數(shù)據(jù)規(guī)范，對具體數(shù)據(jù)項的定義、口徑、格式、取值、單位等進行規(guī)范說明，形成對該數(shù)據(jù)項的具體質(zhì)量要求。依托這套規(guī)范作為衡量和提高數(shù)據(jù)質(zhì)量的標(biāo)尺，可在數(shù)據(jù)采集、加工和應(yīng)用的各環(huán)節(jié)對關(guān)鍵數(shù)據(jù)項進行預(yù)防性或監(jiān)測性的核檢。廣義的企業(yè)級數(shù)據(jù)字典可以作為數(shù)據(jù)標(biāo)準(zhǔn)化規(guī)范的載體，對企業(yè)運營過程中涉及的數(shù)據(jù)項名稱、業(yè)務(wù)定義和規(guī)則等要素進行收錄、規(guī)范和編制，對數(shù)據(jù)項描述信息進行標(biāo)準(zhǔn)化處理，統(tǒng)一定義對安全性和數(shù)據(jù)質(zhì)量的要求，進而為業(yè)務(wù)運營提供可靠的數(shù)據(jù)服務(wù)、提高整體數(shù)據(jù)質(zhì)量奠定基礎(chǔ)。理想情況下廣義的企業(yè)級數(shù)據(jù)字典是完備的，企業(yè)各系統(tǒng)全部數(shù)據(jù)項都被數(shù)據(jù)字典收錄，不存在同名不同義或同義不同名的情況。與此相對，狹義的數(shù)據(jù)字典通常是針對單一系統(tǒng)的技術(shù)屬性標(biāo)準(zhǔn)，為單一系統(tǒng)的開發(fā)和應(yīng)用服務(wù)。

企業(yè)級數(shù)據(jù)字典通常分為三層：數(shù)據(jù)項、值域和域取值。數(shù)據(jù)項層面的規(guī)范主要包括名稱、業(yè)務(wù)規(guī)則定義、數(shù)據(jù)安全要求和數(shù)據(jù)質(zhì)量要求等。

• 數(shù)據(jù)項名稱：包括數(shù)據(jù)項的中文名稱、英文名稱和英文簡稱，含義不同的數(shù)據(jù)項名稱不同，物理數(shù)據(jù)庫應(yīng)沿用數(shù)據(jù)字典定義的全局唯一的英文簡稱對字段命名
• 業(yè)務(wù)規(guī)則定義：包括數(shù)據(jù)的業(yè)務(wù)含義、轉(zhuǎn)換規(guī)則、加工規(guī)則等安全元數(shù)據(jù)：包含數(shù)據(jù)來源、所有者和訪問權(quán)限等安全要求的定義
• 數(shù)據(jù)質(zhì)量要求：在數(shù)據(jù)規(guī)范定義基礎(chǔ)之上，提出滿足業(yè)務(wù)需要的數(shù)據(jù)長度、格式、取值、數(shù)據(jù)處理、勾稽關(guān)系等要求，以此作為數(shù)據(jù)質(zhì)量管理的落腳點

值域可細分為代碼域、編碼域、文本域、金額域、數(shù)值域、時間域等。例如“出生地”數(shù)據(jù)項對應(yīng)值域為“行政區(qū)劃”代碼域，引用國家標(biāo)準(zhǔn)GB-T2260-2016《中華人民共和國行政區(qū)劃代碼》，對應(yīng)的域取值為該國標(biāo)定義的代碼表。再如“借記卡號”數(shù)據(jù)項對應(yīng)值域為“19位卡號”編碼域，定義16位卡號和19位卡號兩種編碼方式，不需列舉對應(yīng)具體的域取值。

數(shù)據(jù)質(zhì)量管理是指在數(shù)據(jù)創(chuàng)建、加工、使用和遷移等過程中，通過開展數(shù)據(jù)質(zhì)量定義、過程控制、監(jiān)測、問題分析和整改、評估與考核等一系列管理活動，提高數(shù)據(jù)質(zhì)量以滿足業(yè)務(wù)要求。數(shù)據(jù)質(zhì)量管理工作遵循業(yè)務(wù)引領(lǐng)的原則，確定重點質(zhì)量管控范圍，并動態(tài)調(diào)整階段性管控重點，持續(xù)優(yōu)化。可按照“誰創(chuàng)建、誰負責(zé);誰加工、誰負責(zé);誰提供、誰負責(zé)”的原則界定數(shù)據(jù)質(zhì)量管理責(zé)任，由數(shù)據(jù)流轉(zhuǎn)環(huán)節(jié)的各責(zé)任方對管轄范圍內(nèi)的數(shù)據(jù)質(zhì)量負責(zé)。對數(shù)據(jù)質(zhì)量規(guī)則優(yōu)先采取系統(tǒng)程序的自動化控制措施，并盡可能前移管控點，從源頭上控制數(shù)據(jù)質(zhì)量。

數(shù)據(jù)質(zhì)量監(jiān)控點通常針對關(guān)鍵數(shù)據(jù)項設(shè)置實施，定義數(shù)據(jù)質(zhì)量監(jiān)控規(guī)則，生成監(jiān)控報警，按嚴重性等級分級報告，由相應(yīng)層級進行處理和響應(yīng)。關(guān)鍵數(shù)據(jù)項根據(jù)經(jīng)驗判斷，一般影響較廣如涉及多業(yè)務(wù)條線，或應(yīng)用于關(guān)鍵業(yè)務(wù)環(huán)節(jié)如合約簽訂、會計核算、績效分析、產(chǎn)品定價、資金收付等，或應(yīng)用于內(nèi)部經(jīng)營管理、對外信息披露和行業(yè)監(jiān)管要求，例如財務(wù)報告數(shù)據(jù)和新資本協(xié)議實施中明確提出的重要指標(biāo)項。

數(shù)據(jù)質(zhì)量監(jiān)控點的控制手段分為預(yù)防型和監(jiān)測型：

• 預(yù)防性控制防止錯誤數(shù)據(jù)的產(chǎn)生，一般部署在數(shù)據(jù)采集點，用于控制手工輸入的源數(shù)據(jù)，以及批量導(dǎo)入的源數(shù)據(jù)校驗：
  • 數(shù)據(jù)輸入校驗：例如貸款利率的輸入校驗;
  • 數(shù)據(jù)閾值：例如數(shù)據(jù)非空，數(shù)據(jù)取值超出值域定義合理范圍，數(shù)據(jù)格式不符合標(biāo)準(zhǔn)等;
  • 質(zhì)量控制方式：系統(tǒng)自動校驗/雙人手工復(fù)核;
  • 系統(tǒng)校驗方式：強制，如不符合規(guī)則無法通過。
• 監(jiān)測型控制監(jiān)測錯誤數(shù)據(jù)，發(fā)現(xiàn)數(shù)據(jù)質(zhì)量問題進行報警。一般部署在數(shù)據(jù)加工和應(yīng)用環(huán)節(jié)，驗證數(shù)據(jù)完整性、一致性和準(zhǔn)確性等：
  • 數(shù)據(jù)輸出校驗：例如貸款余額總分核對
  • 數(shù)據(jù)一致性：例如交易頭寸與總帳系統(tǒng)記錄的交易頭寸一致
  • 質(zhì)量控制方式：系統(tǒng)自動校驗
  • 系統(tǒng)校驗方式：非強制，錯誤及差異提示

對選定的關(guān)鍵數(shù)據(jù)項，需定義數(shù)據(jù)質(zhì)量規(guī)則以及數(shù)據(jù)質(zhì)量等級。數(shù)據(jù)質(zhì)量等級可利用“閾值”和“容忍度”進行分級：

• 良好：數(shù)據(jù)項質(zhì)量評分高于“閾值”
• 可容忍：數(shù)據(jù)項質(zhì)量評分低于“閾值”，但高于“容忍度”
• 報警：數(shù)據(jù)項質(zhì)量評分低于“容忍度”
• 嚴重報警：數(shù)據(jù)項的質(zhì)量問題將帶來非常嚴重的影響，人工經(jīng)驗判斷

關(guān)鍵數(shù)據(jù)項監(jiān)控點的詳細信息應(yīng)在企業(yè)級數(shù)據(jù)字典中維護更新，與其開發(fā)、實施和測試情況保持同步。

在進行數(shù)據(jù)質(zhì)量分等級報告及響應(yīng)糾錯時應(yīng)遵守如下原則：

• 及時性。對導(dǎo)致數(shù)據(jù)質(zhì)量等級進入“可容忍”、“報警”和“嚴重報警”狀態(tài)的數(shù)據(jù)質(zhì)量事件能夠及時發(fā)現(xiàn)、報告和處理;
• 規(guī)范性：針對分級別的數(shù)據(jù)質(zhì)量問題，匯報至利益相關(guān)方，配置相應(yīng)資源;
• 高效性：數(shù)據(jù)質(zhì)量問題，在分級別規(guī)定時間內(nèi)被解決。應(yīng)按照“可容忍”、“報警”和“嚴重報警”酌情規(guī)定響應(yīng)時間;
• 有序性。在開展數(shù)據(jù)質(zhì)量分等級報告工作時，應(yīng)有序上報、統(tǒng)一領(lǐng)導(dǎo)、分級負責(zé)。

部署在UDP層面的數(shù)據(jù)質(zhì)量監(jiān)控程序?qū)崟r或定期監(jiān)測關(guān)鍵數(shù)據(jù)項的質(zhì)量，對其數(shù)據(jù)質(zhì)量進行評分，通過比較該監(jiān)控點的“閾值”和“容忍度”，將數(shù)據(jù)質(zhì)量進行分級，對于非“良好”的評價結(jié)果，數(shù)據(jù)質(zhì)量監(jiān)控程序?qū)l(fā)送報警消息通知數(shù)據(jù)質(zhì)量管理人員。報警消息內(nèi)容包括問題定位頭文件和具體描述。數(shù)據(jù)質(zhì)量管理人員根據(jù)報警信息調(diào)查問題數(shù)據(jù)項，驗證報警內(nèi)容，生成預(yù)警信息通知下游用戶，同時填制糾錯工單通知相關(guān)責(zé)任人員。相關(guān)責(zé)任人員依據(jù)糾錯通知提示的具體內(nèi)容，開展數(shù)據(jù)質(zhì)量問題調(diào)查，提出數(shù)據(jù)質(zhì)量改進需求和解決方案，由實施運維團隊在數(shù)據(jù)應(yīng)用層面修正，或在數(shù)據(jù)采集和集成層面修正。若糾錯告警問題由數(shù)據(jù)質(zhì)量要求過于嚴苛或控制規(guī)則錯誤引起，應(yīng)修改關(guān)鍵數(shù)據(jù)項清單及其相關(guān)監(jiān)控規(guī)則，并由實施運維團隊修改或取消已部署的對應(yīng)監(jiān)控點。