全黄网站I国产精品99蜜臀久久不卡二区I韩国一区二区在线观看I激情婷婷avI国产精品久久久久久久久久尿I亚洲综合在线播放I黄色毛片电影I久久久久电影

數據模型與數據治理(二)|在企業級數據建模中治理數據
長亮動態
2024.03.18

導語:


隨著越來越多的企業認識到數據作為生產要素的價值,加快了企業數字化轉型,把完善企業級的數據治理體系作為企業數字化轉型的一個目標。長亮科技在大數據領域始終保持足夠的技術敏銳度,并積累了豐富的經驗與資產。為此,我們組織了一個系列專文,分期發表,與您一起探索更適合當下行業發展的數據觀,歡迎大家持續關注。




作者|長亮科技大數據研究院

內容|本篇共4010字,預計閱讀時間15分鐘



創建企業數據模型的過程與最終結果同樣重要。正是因為數據建模的缺失,更迫切需要治理數據。即使一個小的業務處理系統的關系數據建模,也可以避免或減少數據質量問題的產生,有效降低未來數據管理和運營的成本和風險。一些企業的數據治理僅僅是為了滿足監管要求而進行的被動行為,在IT建設過程中,沒有通過企業級數據建模進行頂層設計和統籌規劃,隨著監管科技的發展,監管日益精細化,處罰力度不斷加強,僅僅完成“規定動作”而沒有通過體系化設計、未能得到根本解決的各類數據問題逐漸暴露出來并帶來了越來越多的負面影響。反之,借助數字化轉型,在內部推動企業級數據模型規劃和落地,并通過數據治理有效清理積弊,提升數據資產質量的企業,則在數據資產化、要素化的浪潮中獲得了領先的競爭優勢。




01




關系數據建模方法

仍是企業級數據建模的唯一選擇


DAMA-DMBOK2總結了用于表示數據的六個最常見的模式是:關系、維度、面向對象、基于事實、基于時間和NoSQL,其中最常用的是關系、維度、面向對象的UML,每種建模模式都使用特定的表示法-圖表符號進行表達,良好的設計模式提供豐富的可擴展建模語言,便于提煉專家知識的原型,降低建模難度。


關系數據庫管理系統的強大能力與Peter Chen的原始ER實體關系模型的概念密不可分,即邏輯數據模型。將數據與流程(與業務流程和系統流程)分開的核心思想,打破了面向流程的系統開發模式,同時實現更新(操作運營)和訪問(決策支持)的目的,邏輯數據模型從業務角度實現了這種分離,而物理數據模型從數據庫角度實現了這種分離。關系數據模型的實體完整性、參照完整性、用戶定義的完整性約束為高質量數據的實現提供了保障,四十多年來,關系數據建模一直是理解復雜業務與數據,設計和部署具有高質量數據的關系數據庫與支持應用開發的敏捷的、正確的、可靠的最佳方法。銀行業務交易系統數據仍以關系數據為主,并適度降范,可以與企業關系數據模型便捷映射。


對象建模與面向對象的程序設計方法配合主要用于交易系統數據模型設計,對象中可以包含對象,冗余設計不可避免地造成數據的不一致,很難提供一個準確的定義來說明目標建設的數據,數據可移植性差,維護困難。維度建模是應用需求驅動的設計,即使設計企業一致的維度(也必須經歷范式與抽象的思維邏輯過程),也存在數據冗余。對象建模與維度建模這兩種方法的初衷都不是為了用一種穩定而客觀的方式描述事實,以提供高質量數據并保證數據的連續性,因而這兩種方式的建模過程不但無助于發現數據問題,反而可能產生更多的問題,不適合用于企業級的數據建模。


數據質量的度量管理與評價體系核心仍是基于關系數據模型建立的。DAMA-DMBOK2歸納了8個具有普遍一致性的數據質量維度:準確性、完備性、一致性、參考完整性、合理性、及時性、唯一性、有效性。ISO/IEC 25012數據質量模型把數據質量特性分為不排它的固有的數據質量與依賴系統的數據質量,排除依賴系統的數據質量特性后,固有的數據質量特性都可以用關系數據庫管理系統來管理。


一表通監管數據采集接口標準把明細類數據劃分為機構、客戶、關系、財務、產品、協議、交易、狀態、資源、參數等10個主題,把關系、狀態單列主題,分別管理關系與歷史變化,關系模型設計模式的監管要求比過去更加模型化,可以更加完整、體系化評價數據,對數據質量的要求越來越高。一表通接口標準存在一定的冗余,需要在支撐一表通的底層實現上提供一致的數據。







02


企業級數據建模

如何有效幫助治理數據?


數據是業務與信息的最后載體,企業級數據建模應自上而下參考企業業務架構與應用架構,自下而上結合數據需求和數據現狀。從數據現狀出發,整體上可以劃分為信息探索、模型設計兩個大的階段。



1.信息探索階段


了解企業數據現狀及其元數據是企業級數據建模實質行為必不可少的一步。信息探索是對企業現有數據與文檔進行調研分析,識別其數據結構、業務含義、數據關系、數據流, 從源數據中探索出信息的過程。可以說信息探索的每一步,都可能發現需要治理的問題,數據模型師作為數據考古學家必須耗費大量時間深入穿透紛亂復雜的數據表象,反復提出假設,驗證或推翻。


剖析、分析數據,理解現狀數據結構,探索、揭露不同數據元素的含義及其之間的聯系。數據生產者很少能提供文檔來解釋自己設計的數據含義與關系,缺少業務元數據,需要數據治理部門的支持并借助領域專家的經驗。對每張表深度分析,可能發現大量主鍵、外鍵、值域等數據完整性問題,以及違背業務規則的數據。


可視化業務源數據模型。由于業務系統很少提供源模型,反向工程還原源數據模型是企業數據建模人員應該嘗試完成的一項工作,通過與數據生產者以及業務人員的交互,更好地理解與驗證數據,確認業務規則,更容易發現與確認數據質量問題。源數據建模還有助于將數據與真實業務世界本體進行比較,發現差異。


探索跨業務系統的數據關系與數據流。理想情況下,企業應具備應用架構、數據架構來說明不同業務源系統之間的數據交互關系,業務系統應提供詳細的設計說明。把數據集中到一起進行跨系統深入探索驗證,還可以進一步發現不同系統之間的業務不一致、賬務不一致以及業務與賬務不一致問題,使各種問題充分暴露。


形成企業數據CRUD分布圖,識別出有用的關鍵數據,進一步確定黃金數據源。發現與確定什么是以及為什么是關鍵數據,數據治理的主要目的之一是保護、管理與共享重用這些關鍵數據。如果不知道要管理的數據是什么、數據的含義以及為什么對組織重要,就不可能很好地保護和管理數據。識別出冗余數據,區別垃圾數據,確定企業數據分布與集成的問題。許多數據問題是因為不科學的CRUD造成的,企業建模思維很容易發現應用架構、數據架構在主數據、數據交互與集成等方面存在的問題,如同一主數據多個系統創建與修改。


發起數據資產評估,盤點數據資產現狀是數據治理早期關鍵活動。企業級數據建模過程中的信息探索,從數據到信息,找到有價值數據,發現需要治理的問題,應是數據治理實質工作的重點內容。



2.模型設計階段


數據模型是本體模型,數據建模是一項專業設計任務,在數據建模過程中融入數據管理思維,經過專業負責的深思熟慮與驗證,精準設計與定義模型本體——每個概念業務實體、邏輯數據實體及其固有屬性。模型設計包括主題模型設計、概念數據模型設計與邏輯數據模型設計,企業級數據倉庫模型是企業級的分析數據模型,還包括物理數據模型的設計。在定義數據模型本體過程中,可以發現更多數據問題。


建立數據標準。發起數據標準是數據治理前期高優先級工作之一,數據標準從何而來?除了國家標準、行業標準之外,信息探索階段的產出應該作為定義數據標準的重要輸入參考。如果制定的數據標準脫離本企業實際現狀,落標時將產生大量不必要的改造工作。


對企業關鍵概念業務實體與邏輯數據實體進行定義與分類,建立關系,構建可管理的、穩定的數據架構。設計企業級數據模型,即使有成熟的行業數據模型可以參考,也不應該忽略概念模型的設計,各干系人對企業關鍵概念的理解達成一致共識,是溝通、管理與使用數據的前提。


采用范式與適度抽象設計思想與通用數據模型設計模式,設計穩定的數據模型,使模型收斂而不發散,改善業務一致性。嚴格按照第3范式要求設計邏輯模型,必然會發現源系統很多因冗余設計造成的不一致性問題(雖然業務系統一般采用范式設計模式,但沒有達到第3范式要求),在物理模型設計中考慮適度降范。


數據模型師與業務領域專家、數據管家等一起定義數據模型。捕獲業務如何描述和使用數據,創建和集成統一、共享的業務元數據。在定義過程中及時記錄各種數據問題,加速數據治理工作。


可視化數據模型,為業務與技術提供交互的接口,為數據使用提供元數據,驗證與提升數據模型設計的準確性、一致性與完整性。


部署準確的高質量數據源。根據信息探索的結果,確定準確權威的數據源映射模型,執行完整的數據模型設計任務,確保數據完整性。在集成的數據環境中,基于數據模型進行全維度質量檢查,把問題提交給治理團隊安排治理,推動上游業務系統治理,在源頭產生高質量的數據。


控制整個企業中數據的設計和部署使用,管理數據生命周期。控制并確保權威數據在下游得到全面使用,確保從安全、合規到商務智能應用可回溯到源數據。



03


良好的數據治理,

提升數據建模效率


數據建模和數據治理都是數據全生命周期管理的關鍵職能領域,二者相輔相成,對提升數據的可用性、發揮數據價值具有重要的意義。


數據治理是對數據資產管理行使權威與控制,數據治理組織發起企業數據建模,可以將數據建模視為對數據定義的權威與控制的執行和實施。企業數據建模的原則(在“正確的”時間,由“正確的”人員為組織定義“正確的”數據,確保唯一正確的數據放在唯一正確的地方),必須要有規范或準則來確保數據設計符合需要,這些規范由數據治理委員會委托相關職能團隊設計并批準發布。


數據管理職責描述數據管理崗位管理數據和流程的職責和責任, 確保有效控制和使用數據資產。數據管理專員職責的主要活動包括創建和管理核心元數據、記錄規則和標準、管理數據質量問題、執行數據治理運營活動,需要把這些管理職責與活動嵌入到企業數據建模活動中,在整個數據生態系統中的人員、流程和系統中定義和開發“正確的”數據行為。


企業數據建模各階段必然會遇到許多問題,需要業務職能領域和 IT 組織協同,與數據建模人員一起工作,協助數據建模,需要數據治理組織為數據的集成與整合提供推動與決策支持。在正式的數據治理組織建立之前,企業級數據倉庫的模型建設主要由IT部門發起,業務僅是作為數據應用的需求方參與,項目中發現的數據問題沒有相應的“司法”解決途徑。


END


僅治理數據而不建模數據,治理成果得不到鞏固,不能應用于新的設計中避免或減少類似問題的發生,各種問題循環反復。與單獨進行不同的工作相比,企業數據治理與數據建模聯合起來更好,嵌入數據治理可以更有效開發和維護企業數據模型,企業數據建模使數據治理工作更有效,全面提升數據生產質量,給數據消費者提供高質量數據。



讓中國金融科技 具有世界影響力
長亮科技更懂如何為您的數字化轉型賦能
中文字幕乱码视频 | 久久夜色精品国产欧美乱极品 | 亚洲欧美在线视频免费 | 日韩影视大全 | 日韩精品免费一区二区在线观看 | 久久综合九色综合欧美就去吻 | www欧美xxxx| 欧美激情亚洲综合 | 在线观看完整版免费 | 久久免费a | 99精品免费久久久久久久久 | 日日干av | 国产在线综合视频 | 一级黄色大片在线观看 | 三级在线视频观看 | 97成人资源站 | 五月婷婷亚洲 | 久久久麻豆视频 | 国产精品麻豆三级一区视频 | 日韩在线字幕 | 五月婷婷导航 | 免费成人av| 久久久久这里只有精品 | 国产精品每日更新 | 日韩电影一区二区三区 | 日日日网| 久久er99热精品一区二区 | 色五丁香 | 国产日韩欧美在线影视 | 狠狠色丁香久久婷婷综 | 人人爽人人爽人人爽学生一级 | 五月婷婷影院 | 亚洲国产网站 | 免费观看一级视频 | 99久久精品免费看国产四区 | 久艹在线观看视频 | 成人av在线直播 | 日本精品久久 | 欧美最猛性xxxxx亚洲精品 | 免费在线色| 久久精品中文字幕一区二区三区 | 中文字幕日韩伦理 | 亚洲精品综合在线 | 国产精品专区在线 | 香蕉视频日本 | 国产一二三在线视频 | 欧美成人影音 | 婷婷色中文 | 制服丝袜在线91 | 日韩电影中文字幕在线观看 | 91伊人久久大香线蕉蜜芽人口 | 在线观看黄色的网站 | 综合色狠狠 | 久久精品播放 | 99精品视频在线观看播放 | 国产精品精 | 国产视频在线观看一区 | 国产很黄很色的视频 | 日日干激情五月 | 91九色网站| 久久九九久久精品 | 日韩欧美在线高清 | 日韩视频1 | 亚洲动漫在线观看 | 久久99精品国产麻豆宅宅 | 久久国产精品99久久久久久进口 | 激情小说网站亚洲综合网 | 成人黄在线 | 91九色视频导航 | 精品国内自产拍在线观看视频 | 国产一区久久 | 精品国产一区二区三区久久久蜜臀 | 成人中文字幕av | 91九色蝌蚪视频在线 | 国产99一区视频免费 | 久久久久久麻豆 | 日韩欧美国产视频 | 韩国精品在线观看 | 99国产精品视频免费观看一公开 | 一区二区三区四区五区在线 | 91人人爽久久涩噜噜噜 | 欧洲一区二区在线观看 | 91香蕉国产 | 久久新 | 911亚洲精品第一 | 亚洲 欧美 综合 在线 精品 | 国产精品久久久久国产精品日日 | 天天爽人人爽 | 精品国偷自产在线 | 最新成人av| 99久久精品无码一区二区毛片 | 日韩羞羞 | 999ZYZ玖玖资源站永久 | 国产精品18久久久久久首页狼 | 美女久久99 | 久久夜夜夜 | 9999精品 | 成人高清av在线 | 久久 在线 | 99精品偷拍视频一区二区三区 | 91精品久久久久久综合乱菊 | 国产精品一区二区av影院萌芽 | 日韩欧美国产视频 | 日免费视频 | 在线观看视频你懂得 | 国产成人精品久久久久 | 国产一区二区三区免费在线观看 | 伊人久久精品久久亚洲一区 | 精品国产久| 精品欧美一区二区三区久久久 | 国产玖玖精品视频 | 国产精美视频 | 久草在线手机视频 | 国产成人精品亚洲精品 | 久草在线看片 | 国产精品久久一区二区三区不卡 | 国产精品午夜av | 久久国产香蕉视频 | 国产亚洲精品久久久久久 | 成年人av在线播放 | 国语对白少妇爽91 | 国产精品99精品久久免费 | 午夜999| 91自拍视频在线 | 人人草在线视频 | 美女网站在线看 | 国产免费影院 | 免费h视频| 在线观看免费视频你懂的 | 国产精品美女网站 | 人人爽人人澡人人添人人人人 | 狠狠的操你 | 日韩最新在线视频 | 中文字幕资源网 国产 | 国产精品久久一卡二卡 | 亚洲1级片 | 成人av片在线观看 | 国产69精品久久久久99尤 | 久久日韩精品 | 国产成人精品不卡 | 人人干97 | 国内精品久久久久影院优 | 色天天| 久久综合偷偷噜噜噜色 | 国产精品黄色在线观看 | 中文字幕在线视频精品 | 99精品视频免费看 | 亚洲视屏一区 | 91精品国自产在线偷拍蜜桃 | 欧美亚洲三级 | 日韩一级黄色av | 日韩av一区二区三区 | 激情开心 | 香蕉视频日本 | 97视频免费| 精品国产电影一区 | av福利在线看| 91九色蝌蚪在线 | 午夜精品久久久久久久久久久 | 久久久www| 黄色影院在线播放 | 国产免费又爽又刺激在线观看 | 最近最新mv字幕免费观看 | 国产色综合天天综合网 | 最新日韩在线观看 | 免费日韩 精品中文字幕视频在线 | 精品影院 | 国产精品久久久久久一区二区 | 丁香婷婷亚洲 | 亚洲一区二区三区在线看 | 久久99深爱久久99精品 | 综合色中色| 国产特级毛片aaaaaa毛片 | 97小视频 | 成人av地址 | 在线韩国电影免费观影完整版 | 日本中文字幕在线一区 | 久久激情小视频 | 视频在线一区二区三区 | 日韩91av | 欧美日韩中文字幕综合视频 | 99精品国产高清在线观看 | 青草视频在线 | 一区二区三区视频网站 | 国产视频 久久久 | 国产一区在线不卡 | 7777精品伊人久久久大香线蕉 | 爱干视频 | 亚洲黄色免费电影 | 久久国语露脸国产精品电影 | 99久久久久国产精品免费 | 精品女同一区二区三区在线观看 | 免费麻豆网站 | 伊人五月天av | 欧美精品在线视频 | 欧美看片| 99热9| 欧美国产不卡 | 国产黄色av影视 | 久久综合在线 | 波多野结衣在线视频一区 | 久久曰视频 | 免费情缘| 天天躁日日躁狠狠躁 | 国产淫片 | 欧美永久视频 | 久草综合在线 | 国产精品 美女 | 中文字幕av专区 | 日本在线观看中文字幕无线观看 | 国产手机av在线 | 999视频在线播放 | 91成人区 | 久久99爱视频 | 91九色网站 | 亚洲午夜久久久久久久久 | 91探花在线 | 国产精品18久久久久久vr | 又长又大又黑又粗欧美 | 97人人模人人爽人人喊中文字 | 日韩在线免费观看视频 | 伊人狠狠干 | 91精品久久久久久综合五月天 | 久久久久久久久久久久久久av | 天天弄天天干 | 中文字幕亚洲欧美日韩2019 | 91视频3p| 亚洲 欧洲 国产 日本 综合 | 国产一级片免费观看 | 久久日韩精品 | 天天艹天天 | 久草色在线观看 | 亚洲精品国产日韩 | 成年人黄色免费视频 | 一级黄色网址 | 国产精品精品久久久久久 | 超碰com| 欧美日韩国产在线观看 | 日韩欧美视频免费观看 | 国产精品麻 | 在线观看av大片 | 日韩福利在线观看 | 成人欧美一区二区三区在线观看 | 欧美日韩高清在线 | 奇米影视777四色米奇影院 | 国产精品久久一卡二卡 | 日韩一区视频在线 | 午夜在线看片 | 黄网站色成年免费观看 | 亚洲精品高清在线观看 | 亚洲黄在线观看 | 夜夜高潮夜夜爽国产伦精品 | 500部大龄熟乱视频使用方法 | 国产亚洲视频系列 | 久久久久亚洲精品中文字幕 | 免费黄色网址大全 | 天天躁天天躁天天躁婷 | 92精品国产成人观看免费 | 天天干天天拍天天操天天拍 | 在线观看的av | 91人人揉日日捏人人看 | 免费视频在线观看网站 | 亚洲丁香久久久 | 久久久午夜精品理论片中文字幕 | 日韩中文字幕第一页 | 粉嫩av一区二区三区入口 | 成人影片免费 | 成人av地址 | 又爽又黄又无遮挡网站动态图 | 91香蕉视频在线下载 | 亚州精品在线视频 | 久久精品爱爱视频 | 在线播放 亚洲 | 高清一区二区三区av | 国产免费激情久久 | 免费日韩电影 | 黄色1级大片| 欧美91视频 | 在线国产一区二区 | 欧美性生活免费看 | a久久久久 | 欧美综合色在线图区 | 国产一区 在线播放 | 最新av在线网站 | 天天草天天爽 | 福利视频第一页 | 国产精品久久久久久久久久免费看 | 射射射av| 欧美日韩一区二区三区在线观看视频 | 波多野结衣资源 | 91高清视频在线 | 免费91在线| 国产精品99久久久精品免费观看 | 999久久 | 国产成人精品一区二区三区 | 999电影免费在线观看 | 99在线热播精品免费99热 | 欧美专区日韩专区 | 国产精品 视频 | 中文字幕国产 | 探花视频在线观看+在线播放 | 天天综合网国产 | 高清不卡免费视频 | 久久久视频在线 | 依人成人综合网 | 亚洲欧美va | 亚洲影音先锋 | 精产嫩模国品一二三区 | 中文字幕无吗 | 日韩精品视 | 综合伊人av | 综合色综合色 | 国产最新在线 | 成人精品影视 | 免费精品视频 | 亚洲视频axxx | 亚洲激情网站免费观看 | 欧美大片www | 99热国产在线中文 | 99视频免费在线观看 | 国产精品欧美久久久久天天影视 | 成人网看片 | 精品国产伦一区二区三区观看方式 | 国产一卡久久电影永久 | 激情五月婷婷丁香 | 国产精品theporn | 激情婷婷久久 | 久久综合九色综合欧美狠狠 | 日韩欧美一区二区三区黑寡妇 | 手机av在线免费观看 | 久久国产精品久久久久 | 欧美精品久久久久久久免费 | 色婷婷一区 | 国产资源在线免费观看 | 一区二区中文字幕在线播放 | 最新成人av | 欧美精品免费视频 | 中文字幕av最新 | 日本黄色一级电影 | 成人黄色电影在线播放 | 狠狠的操你 | 日韩精品不卡在线 | 久久久久久久久综合 | 国内精品久久久久久中文字幕 |