金融行業(yè)在業(yè)務運營中會產生大量紙制憑證，傳統(tǒng)的業(yè)務處理方式存在著憑證保存成本高，手工錄入、翻閱，效率低，無法進行歷史交易統(tǒng)計和關聯(lián)交易分析等種種不便。隨著金融電子化、流程銀行及集中作業(yè)中心等理念的深入推廣，許多金融機構建設了票據影像集中管理平臺。這是一個集檔案錄入、圖像處理、智能識別、數(shù)據核對、統(tǒng)計分析、海量存儲、精確查詢于一體的計算機輔助管理系統(tǒng)。此平臺為其它業(yè)務系統(tǒng)提供影像管理方面的業(yè)務支持，極大地提高了工作效率，降低銀行自身的生產運營成本和管理成本，同時提高客戶和員工的滿意度。

　　海量票據影像數(shù)據的管理難題

　　IDC研究表明，金融行業(yè)未來80%的數(shù)據主要呈現(xiàn)為影像、照片、音頻、視頻等非結構化數(shù)據。 從2010年到2020年，非結構化數(shù)據將以44倍的發(fā)展速度迅猛增長。

　　票據影像數(shù)據為銀行業(yè)務流程中產生的掃描文件、照片等業(yè)務憑證，隨著業(yè)務的發(fā)展，總體數(shù)據量增長迅速。票據影像數(shù)據與傳統(tǒng)的結構化數(shù)據有很大的不同，其具有以下特點：

　　·文件小

　　·數(shù)量大

　　·空間占用大

　　·調閱頻率與生成時間有關

　　總體上講，銀行票據影像系統(tǒng)的數(shù)據特點是一個典型的“海量小文件”場景。

　　從監(jiān)管上講，在銀行業(yè)務流程過程中產生的數(shù)據是交易的重要憑據，應當長期保存；系統(tǒng)要對生產系統(tǒng)中的票據影像文件進行備份，保證生產系統(tǒng)數(shù)據損壞后能夠快速恢復；對業(yè)務發(fā)生達到一定時間，訪問概率低的票據影像數(shù)據應當實現(xiàn)歸檔，以降低對生產存儲的占用；當業(yè)務需要時，譬如在司法場景下、客戶投訴、業(yè)務調取場景下，能夠迅速地查詢到已經歸檔的票據影像文件。 然而，票據影像系統(tǒng)數(shù)據的文件小、數(shù)目多、總量大的特點，使得數(shù)據存儲與數(shù)據保護存在諸多技術難點：

　　·備份時間長： 針對文件系統(tǒng)進行數(shù)據保護時，首先需要對全部文件進行掃描，當文件數(shù)量過多時，掃描時間會非常長。其次，需要逐一定位文件，拷貝文件，當文件海量時，備份時間也會非常長。這使得客戶在指定的備份窗口內，無法實現(xiàn)數(shù)據備份

　　·離線保存后文件調閱麻煩： 如果將長期不用的文件離線保存至光盤或磁帶，需要人工操作。調閱時，必須遵守一系列業(yè)務流程進行。如由業(yè)務發(fā)起調閱請求，科技人員受理，找到相應的介質，并將離線介質回遷至生產存儲進行查詢，查詢后還需要進行刪除

　　·數(shù)量逐年增加： 隨著銀行業(yè)務的拓展、網點數(shù)目不斷的增加、上線時間的變長，數(shù)據量成顯著上升的趨勢。這導致生產系統(tǒng)容量需求不斷增加，需要不斷的擴容

　　以某城城市商業(yè)銀行為例，其票據影像系統(tǒng)上線3年，文件總數(shù)目達8000萬，數(shù)據總量已達10TB，且以每年2~3TB的速度增長。大量的票據文件很快消耗了主存儲系統(tǒng)的空間，面臨著對昂貴主存擴容的壓力。更為嚴峻的是，業(yè)界目前主流的數(shù)據保護方案，都沒有充分考慮到票據影像“海量小文件”的特點，只能管理約百萬級的文件，備份速度在每小時幾十GB，10TB的數(shù)據備份需要數(shù)周時間。但實際環(huán)境中，是不可能有這么長的備份窗口。 因此，所有票據影像文件根本無法完成備份。

　　近幾年，我國有上百家銀行逐漸建設了自己的票據影像系統(tǒng)，由于票據影像數(shù)據管理的技術難點，幾乎都沒有實現(xiàn)數(shù)據保護，系統(tǒng)長期處于高風險運行狀態(tài)，一旦生產系統(tǒng)出現(xiàn)故障，后果不堪設想。

　　針對票據影像的業(yè)務特點，我們認為在票據影像數(shù)據管理上需要滿足以下需求：

　　·票據影像數(shù)據是交易中的重要憑證，必須滿足監(jiān)管部門對系統(tǒng)可靠性及數(shù)據保護的監(jiān)管要求，實現(xiàn)千萬級數(shù)據文件在給定的時間窗口內實現(xiàn)備份是基本要求

　　·對于已經歸檔的票據影像文件需要調閱的情況下，在一堆歸檔磁帶或光盤中人工搜索文件工作量是無法想象的，必須提供“自動化”的、快速的歸檔文件調閱手段

　　·長期不用的票據影像文件需要從高端生產存儲遷移到成本更低的近線存儲，減少高端存儲的擴容費用； 數(shù)據的備份與恢復、歸檔與調閱、數(shù)據校驗等數(shù)據管理操作需要實現(xiàn)“自動化”， 降低運行與維護的難度，減少人力投入

　　華為票據影像數(shù)據管理解決之道

　　設計理念

　　票據影像文件數(shù)據管理所存在的問題不是一個簡簡單單的提高備份性能的問題。備份性能再高，也不能趕上票據影像數(shù)據增長的速度，不能滿足票據影像管理的需求，管理“海量小文件”要建立相應的管理理念，通過系列的技術組合來實現(xiàn)。

　　華為票據影像數(shù)據管理解決方案的“一體化設計”實現(xiàn)“備得出、查得快”

　　華為金融票據影像數(shù)據管理解決方案“一體化”的實現(xiàn)了“海量小文件”場景的存儲、備份、歸檔、分析、重刪、搜索等管理需求，實現(xiàn)自動化的全生命周期管理。

　　
解決方案架構

　　該解決方案有四大主要功能：

　　·分級存儲功能：根據票據影像文件生成時間與訪問頻度，合理利用在線、近線、離線存儲介質，減少生產存儲容量，降低TCO

　　·自動歸檔功能：根據歸檔策略，將訪問頻度低的文件通過“打包歸檔”方式實現(xiàn)數(shù)據保護，滿足監(jiān)管要求

　　·自動備份功能：實現(xiàn)“海量小文件”的高速備份，在系統(tǒng)故障和個別文件損毀的情況下，能有效管理數(shù)億的文件，并能夠實現(xiàn)數(shù)據的快速恢復

　　·面向應用“透明訪問”：當應用系統(tǒng)訪問已經歸檔的文件時，方案可以自動將歸檔數(shù)據從近線存儲中回調至生產存儲，保證應用在等待若干秒后能夠訪問到所需數(shù)據，無需人工干預，操作人員無感知

　　華為的解決方案將為客戶帶來如下價值：

　　·備得出：對海量小文件的備份效率提高到每小時數(shù)百GB，備份時間縮短至傳統(tǒng)方式的十分之一左右

　　·查得快：“透明訪問”技術，通過“存根”的設計，保留歸檔后的文件位置信息，在需要調取歸檔文件場景下，應用觸發(fā)“存根”回調歸檔的文件，時間僅需幾十秒，而且應用無感知。

　　·成本低：首先，采用“分級存儲”思想，用廉價的近線存儲替代昂貴的生產存儲，降低存儲采購成本；其次，方案“一體化”設計，一站式解決海量文件存儲、備份、歸檔、管理問題，建設成本低；最后，全自動數(shù)據管理方案，減少大量運維成本與人員投入

　　要實現(xiàn)上述價值，主要得益于“透明訪問”、“二級索引”兩項關鍵技術：

　　“透明訪問”

　　方案的核心價值是“透明訪問”。在歸檔操作時，一方面將超過一定時間的數(shù)據文件遷移到“近線存儲”，另一方面在生產存儲留下相應的“存根”。該存根指向文件遷出后的實際位置。在應用系統(tǒng)訪問已經歸檔的文件時，就訪問到了“存根”，此時會觸發(fā)一個將歸檔文件回調至生產存儲的操作，使得應用系統(tǒng)能夠讀到該文件。這就是“透明訪問”功能。

　　“二級索引”

　　采用備份/歸檔技術進行數(shù)據保護，被保護的文件是“打包”保存的，需要在備份系統(tǒng)中建立索引才能進行恢復與查詢操作。“二級索引”的設計，是將記錄文件的一級索引與介質一起存放，由介質服務器管理，備份服務器只管理“二級索引”。這種分布式的索引技術，可以支持數(shù)十億文件的高性能管理。

　　通過華為票據影像數(shù)據管理解決方案，實現(xiàn)客戶數(shù)據“備得出、查得快”，保障金融系統(tǒng)安全、高效運行。