引言:憑借先進(jìn)全面的數(shù)據(jù)平臺遷移方案,長亮科技已成功中標(biāo)招商銀行和光大銀行的數(shù)據(jù)遷移項(xiàng)目。
近年,金融信息安全已成為國家發(fā)展戰(zhàn)略,金融機(jī)構(gòu)紛紛推動(dòng)信息技術(shù)安全可控落地,而數(shù)據(jù)庫作為金融信息化的基礎(chǔ),一直以來,長期被國外巨頭占據(jù)。近幾年國內(nèi)移動(dòng)互聯(lián)網(wǎng)的迅猛發(fā)展,為眾多國產(chǎn)新型數(shù)據(jù)庫的應(yīng)用創(chuàng)造了全球獨(dú)一無二的場景,國產(chǎn)數(shù)據(jù)庫的進(jìn)步發(fā)展顯著,因此各銀行機(jī)構(gòu)在落地?cái)?shù)字化轉(zhuǎn)型的同時(shí),紛紛采用國產(chǎn)數(shù)據(jù)庫,數(shù)據(jù)庫國產(chǎn)替代已是大勢所趨。
數(shù)據(jù)庫底層平臺的替換,會帶來海量的數(shù)據(jù)搬遷以及大量的數(shù)據(jù)處理程序遷移改造工作。數(shù)據(jù)倉庫、數(shù)據(jù)集市作為企業(yè)最核心的數(shù)據(jù)整合、匯總加工存儲平臺,在業(yè)務(wù)分析、決策支持、運(yùn)營支持等方面發(fā)揮著不可或缺的作用,因此在銀行數(shù)據(jù)庫國產(chǎn)化過程中,這類平臺的數(shù)據(jù)及其處理程序的遷移,與模型重構(gòu)優(yōu)化是重中之重。
為助力銀行加速實(shí)現(xiàn)數(shù)據(jù)庫國產(chǎn)替代,長亮科技依托于金融大數(shù)據(jù)領(lǐng)域多年的技術(shù)積累及70+數(shù)據(jù)倉庫實(shí)施案例經(jīng)驗(yàn),提煉出了一套完整全面的數(shù)據(jù)平臺遷移方案,方案從數(shù)據(jù)遷移、數(shù)據(jù)處理程序的遷移,及模型重構(gòu)優(yōu)化三大重點(diǎn)出發(fā),以實(shí)現(xiàn)數(shù)據(jù)倉庫、數(shù)據(jù)集市的全面遷移及優(yōu)化。
?數(shù)據(jù)遷移:一個(gè)企業(yè)級的數(shù)據(jù)倉庫通常會涉及上百TB甚至PB級的數(shù)據(jù),而這些數(shù)據(jù)存儲在數(shù)萬甚至數(shù)十萬張表中。龐大的數(shù)據(jù)量關(guān)系到數(shù)據(jù)遷移的耗時(shí)及性能,而數(shù)據(jù)表的數(shù)量以及不同表的加載策略決定了數(shù)據(jù)遷移任務(wù)的復(fù)雜程度,數(shù)據(jù)遷移還需要綜合考慮數(shù)據(jù)量、批量窗口、存儲空間等因素,技術(shù)上需設(shè)計(jì)不同處理方式應(yīng)對,而除了對技術(shù)要求高以外,還需要充分考慮全局性;
?數(shù)據(jù)處理程序遷移:數(shù)據(jù)處理程序個(gè)數(shù)基本跟表的個(gè)數(shù)對應(yīng),即表的個(gè)數(shù)越多,程序的工作量也就越大。且ETL程序的遷移還需要考慮其在新平臺的性能,保證不下降或有提升,對技術(shù)要求十分之高;
?模型重構(gòu)優(yōu)化:針對新國產(chǎn)數(shù)據(jù)庫的特點(diǎn)、原有模型架構(gòu)及設(shè)計(jì)的缺陷,進(jìn)行合理的重新規(guī)劃,最大程度發(fā)揮國產(chǎn)數(shù)據(jù)庫的技術(shù)特性,并修補(bǔ)原有模型規(guī)劃設(shè)計(jì)的不足,適當(dāng)優(yōu)化數(shù)據(jù)處理鏈路、加強(qiáng)數(shù)據(jù)統(tǒng)一加工、降低不必要的數(shù)據(jù)冗余。
長亮科技數(shù)據(jù)平臺遷移方案實(shí)現(xiàn)了從數(shù)據(jù)遷移策略到數(shù)據(jù)遷移步驟、數(shù)據(jù)遷移驗(yàn)證、數(shù)據(jù)遷移過渡等全面覆蓋:
?通過保證傳輸速率,解決數(shù)據(jù)移植時(shí)間窗口問題;
?通過分批次移植策略,解決移植期間數(shù)據(jù)變化的問題;
?通過移植程序的標(biāo)準(zhǔn)化、通用化,以及元數(shù)據(jù)自動(dòng)匹配策略,解決ETL程序移植工作量大的問題;
?通過移植任務(wù)并發(fā)以及單表干預(yù)策略,解決移植過程中各表相互影響問題;
?通過數(shù)據(jù)值域?qū)Ρ葓?bào)告的方式,解決數(shù)據(jù)遷移驗(yàn)證問題;
?通過設(shè)置原平臺與新平臺的并行策略,解決數(shù)據(jù)遷移的過渡問題。
在金融信息安全可控大趨勢下,長亮科技充分運(yùn)用自身領(lǐng)先的金融科技優(yōu)勢,以先進(jìn)的技術(shù)方案及豐富的數(shù)據(jù)遷移經(jīng)驗(yàn)助力銀行平穩(wěn)、安全地完成數(shù)據(jù)遷移工作,進(jìn)而加快推動(dòng)我國銀行業(yè)數(shù)據(jù)庫國產(chǎn)替代進(jìn)程。