大數(shù)據(jù)時(shí)代，用戶處理的數(shù)據(jù)量越來(lái)越大，需要的容量越來(lái)越大；保存的數(shù)據(jù)越來(lái)越多樣越來(lái)越復(fù)雜，包括不同的來(lái)源，不同的格式，包括結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)等；需要的訪問(wèn)速度越來(lái)越高，訪問(wèn)延遲越來(lái)越低；對(duì)數(shù)據(jù)價(jià)值的挖掘能力要求越來(lái)越高。
根據(jù)Gartner的分析，滿足大數(shù)據(jù)的IT架構(gòu)，至少應(yīng)具備下面幾個(gè)特征
1) 橫向擴(kuò)展： 可以線性橫向擴(kuò)展而沒(méi)有性能影響
2) 低成本組件：通過(guò)使用消費(fèi)級(jí)硬件，降低采購(gòu)成本
3) 高可用：硬件故障作為常態(tài)而非特例來(lái)解決
4) 不共享架構(gòu)：節(jié)點(diǎn)之間相互獨(dú)立
我們以此為基礎(chǔ)，逐步揭開(kāi)MVX的面紗。
Scale-uporScale-out
傳統(tǒng)的NAS設(shè)備一般使用雙控制器節(jié)點(diǎn)提供服務(wù)，每個(gè)節(jié)點(diǎn)支持特定的業(yè)務(wù)負(fù)載，當(dāng)容量不夠時(shí)通過(guò)擴(kuò)展磁盤框的方式增加存儲(chǔ)容量。這種方式的缺陷在于，首先業(yè)務(wù)和節(jié)點(diǎn)的綁定，意味著一個(gè)業(yè)務(wù)及其關(guān)聯(lián)的文件系統(tǒng)只在一個(gè)節(jié)點(diǎn)上工作，容易造成系統(tǒng)整體的負(fù)載不均。其次，這種系統(tǒng)本質(zhì)上是Scale-up的擴(kuò)容方式，追求單機(jī)性能，無(wú)法做到系統(tǒng)性能隨容量的增加線性增加。Scale-Out方式則是橫向擴(kuò)展，疊加容量或性能節(jié)點(diǎn)，使容量性能得到擴(kuò)展。
華為OceanStorMVX存儲(chǔ)系統(tǒng)（以下簡(jiǎn)稱MVX）采用Scale-out架構(gòu)，節(jié)點(diǎn)之間完全對(duì)稱，采用全Active的Sharenothing方式，系統(tǒng)的數(shù)據(jù)和管理數(shù)據(jù)（元數(shù)據(jù)）分布在各個(gè)節(jié)點(diǎn)上，避免了系統(tǒng)資源爭(zhēng)用，消除了系統(tǒng)瓶頸；即使出現(xiàn)整節(jié)點(diǎn)故障，系統(tǒng)能夠自動(dòng)識(shí)別故障節(jié)點(diǎn)，自動(dòng)恢復(fù)故障節(jié)點(diǎn)涉及的數(shù)據(jù)和元數(shù)據(jù)，使故障對(duì)業(yè)務(wù)透明，完全不影響業(yè)務(wù)連續(xù)性。MVX支持3-288節(jié)點(diǎn)的彈性空間，100PB的全局統(tǒng)一命名空間，并且支持文件內(nèi)的細(xì)粒度的全局鎖，支持從多個(gè)節(jié)點(diǎn)并發(fā)訪問(wèn)相同文件的不同區(qū)域，實(shí)現(xiàn)高并發(fā)讀，最終實(shí)現(xiàn)高性能的訪問(wèn)系統(tǒng)。MVX系統(tǒng)采用全互聯(lián)組網(wǎng)機(jī)制，節(jié)點(diǎn)間采用10GE或者Infiniband高速互聯(lián)，適配客戶不同的組網(wǎng)需求，支持從集群任何一個(gè)節(jié)點(diǎn)并發(fā)訪問(wèn)系統(tǒng)中的任何文件。所以MVX通過(guò)節(jié)點(diǎn)的擴(kuò)展來(lái)解決海量容量的增長(zhǎng)，同時(shí)還能保持性能線性增長(zhǎng)，以此滿足業(yè)務(wù)發(fā)展需求。
MVX系統(tǒng)對(duì)數(shù)據(jù)和元數(shù)據(jù)分開(kāi)管理，這樣做帶來(lái)的好處，MVX可以在存儲(chǔ)容量不變的情況下，通過(guò)增加性能加速節(jié)點(diǎn)，進(jìn)一步顯著提高系統(tǒng)對(duì)IO的響應(yīng)能力，最終向用戶提供卓越的性能。
分布式Raid
傳統(tǒng)Raid，把數(shù)據(jù)存放在一個(gè)節(jié)點(diǎn)內(nèi)的不同硬盤上，當(dāng)一個(gè)硬盤損壞時(shí)，通過(guò)Raid重構(gòu)，恢復(fù)壞盤上的數(shù)據(jù)，但當(dāng)整個(gè)節(jié)點(diǎn)故障時(shí)，整節(jié)點(diǎn)的數(shù)據(jù)就會(huì)出現(xiàn)丟失，針對(duì)這個(gè)問(wèn)題，可以通過(guò)在節(jié)點(diǎn)間寫多份來(lái)解決。節(jié)點(diǎn)間寫多份可以解決傳統(tǒng)RAID整節(jié)點(diǎn)故障時(shí)丟數(shù)據(jù)的問(wèn)題，但磁盤利用率很低，導(dǎo)致高TCO。 MVX的數(shù)據(jù)通過(guò)分布式RAID，節(jié)點(diǎn)間冗余的方式進(jìn)行保護(hù)，數(shù)據(jù)進(jìn)入系統(tǒng)之后，被切分為N個(gè)數(shù)據(jù)片，然后計(jì)算出M個(gè)冗余分片，保存在N+M個(gè)不同節(jié)點(diǎn)的不同硬盤上。這種N+M的冗余模式可以對(duì)任意目錄進(jìn)行重新配置，甚至可以對(duì)同一目錄下的不同文件配置不同的冗余比。這意味著用戶可以靈活多變地根據(jù)自己的實(shí)際需求來(lái)指定數(shù)據(jù)冗余，從而設(shè)置不同的可靠性。
集群節(jié)點(diǎn)中，任意不超過(guò)M個(gè)硬盤故障后，MVX可以通過(guò)節(jié)點(diǎn)間數(shù)據(jù)重構(gòu)的方式快速恢復(fù)出所損失的數(shù)據(jù)，進(jìn)而恢復(fù)整系統(tǒng)的數(shù)據(jù)可靠性。集群中任意節(jié)點(diǎn)故障后，該節(jié)點(diǎn)所提供的服務(wù)會(huì)被自動(dòng)遷移到其他節(jié)點(diǎn)上，使得故障對(duì)業(yè)務(wù)無(wú)感知。通過(guò)把數(shù)據(jù)分片寫到不同的節(jié)點(diǎn)上，不僅可以提高讀寫性能，又能保證數(shù)據(jù)的高可靠性，還能保持高的磁盤利用率，節(jié)約投資。
分級(jí)存儲(chǔ)和桌面盤
MVX產(chǎn)品對(duì)用戶提供統(tǒng)一命名空間，組成統(tǒng)一命名空間的設(shè)備可以由不同系列的硬件組成，當(dāng)高性能設(shè)備和大容量設(shè)備同時(shí)存在時(shí)，系統(tǒng)會(huì)自動(dòng)識(shí)別并形成分級(jí)存儲(chǔ)。
大容量節(jié)點(diǎn)可以使用桌面級(jí)硬盤。桌面級(jí)硬盤成本比較低，但是這種硬盤相對(duì)企業(yè)級(jí)硬盤來(lái)說(shuō)，對(duì)業(yè)務(wù)的占空比要求比較苛刻，另外能持續(xù)在線工作的時(shí)間也比較短。MVX系統(tǒng)由于實(shí)現(xiàn)了自動(dòng)在線分級(jí)，并且支持對(duì)硬盤下電，可以極大縮短硬盤在線工作的時(shí)間，在綠色節(jié)能的同時(shí)延長(zhǎng)硬盤使用壽命。MVX通過(guò)支持桌面級(jí)硬盤在離線存儲(chǔ)中的應(yīng)用，大幅降低企業(yè)的采購(gòu)成本。
多位一體
MVX在支持橫向擴(kuò)展，高可用，share-nothing的基礎(chǔ)上，進(jìn)一步開(kāi)創(chuàng)性提出了三位一體、按需分布的理念，即在一個(gè)系統(tǒng)內(nèi)支持對(duì)數(shù)據(jù)的分布式存儲(chǔ)、分布式備份以及分布式數(shù)據(jù)分析的一體化全生命周期管理，而且在數(shù)據(jù)統(tǒng)一調(diào)度模塊的調(diào)度下，實(shí)現(xiàn)了數(shù)據(jù)在多域間有效流動(dòng)。MVX可以對(duì)包括NFS、CIFS、POSIX在內(nèi)的NAS接口，包括JDBC、ODBC在內(nèi)的數(shù)據(jù)庫(kù)接口，包括REST、SOAP在內(nèi)的對(duì)象存儲(chǔ)接口和VTL、OST等數(shù)據(jù)備份歸檔接口等多種接口和多種數(shù)據(jù)類型進(jìn)行支持。
作為貼合大數(shù)據(jù)需求的產(chǎn)品，MVX在高性能分布式架構(gòu)基礎(chǔ)之上，以三位一體，按需分布的理念為指導(dǎo)，分布式存儲(chǔ)、分布式數(shù)據(jù)庫(kù)、分布式備份等功能可以作為功能插件插入到系統(tǒng)中來(lái)，從而實(shí)現(xiàn)多樣化數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)快速檢索、數(shù)據(jù)歸檔節(jié)能等不同領(lǐng)域的需求。而當(dāng)用戶需要這些特性時(shí)，需要做的只是增加更多的MVX節(jié)點(diǎn)或者在MVX的基礎(chǔ)上增加更多的功能特性模塊。
雖然融合了多個(gè)功能，MVX的管理卻不復(fù)雜。管理系統(tǒng)支持域名訪問(wèn)，用戶可以遠(yuǎn)程使用標(biāo)準(zhǔn)的網(wǎng)絡(luò)瀏覽器，在一個(gè)界面上通過(guò)鼠標(biāo)點(diǎn)擊即可完成包括設(shè)備管理、空間管理、用戶管理在內(nèi)的各種管理操作，或者收集系統(tǒng)性能、容量、告警等統(tǒng)計(jì)信息。MVX提供了強(qiáng)大的管理功能，卻不要求單獨(dú)部署管理服務(wù)器，這意味著管理服務(wù)集成在系統(tǒng)內(nèi)部而且可以被系統(tǒng)內(nèi)部的故障切換模塊管理，即使發(fā)生任意局部故障，用戶也不用擔(dān)心管理系統(tǒng)癱瘓。
華為OceanStorMVX存儲(chǔ)系統(tǒng)橫向Scale-out擴(kuò)展，同時(shí)性能線性增長(zhǎng)，輕易滿足用戶大容量、高并發(fā)、低時(shí)延、以及彈性擴(kuò)展的要求；而其自動(dòng)智能的分級(jí)存儲(chǔ)使用戶在性能和容量之間更容易找到一個(gè)平衡點(diǎn)。在提供彈性空間，卓越性能的同時(shí)，在一個(gè)架構(gòu)里面智慧融合結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)，分析，備份容災(zāi)，消除數(shù)據(jù)孤島，數(shù)據(jù)全生命周期管理，支撐各種業(yè)務(wù)需求；還能實(shí)現(xiàn)軟件硬件網(wǎng)絡(luò)簡(jiǎn)單集中管理。
華為OceanStorMVX存儲(chǔ)系統(tǒng)，大數(shù)據(jù)的解決之道。
