RDBMS提供了最好的事務完整性,但相對于其他存儲選擇,這種數(shù)據庫很難擴愚且擴展成本高,可用性低。為數(shù)據選擇正確的存儲工具。不要因為你習慣用數(shù)據庫訪問數(shù)據,就總用關系數(shù)據庫存儲數(shù)據。
關系數(shù)據庫管理系統(tǒng)(RDBMS)(如Oracle i和 MYSQL)是以Edgar F.Codd于1970年發(fā)布的論文“大型共享數(shù)據庫數(shù)據的關系模型”(“A Relational Model of Data for Large Shared Data Banks”)中的關系模型為基礎的。大多數(shù) RDBMS對于存儲數(shù)據有兩大好處。第一個好處是利用ACID屬性確保了事務完整性,關于ACID的定義,請參閱表2-1。第二個好處在于表內和表間的關系型結構。為了最小化數(shù)據冗余,提高事務的處理能力,大多數(shù)聯(lián)機事務處理理(OLTP)系統(tǒng)中的表都被規(guī)范化為第三范式即表中的所有記錄都有相同的字段,所有非主關鍵字的字段都不能只依賴于組合關鍵字的一部分,所有非主關鍵字字段必須依賴于主關鍵字。
表中的每一列數(shù)據都要依賴于表中的其他列數(shù)據。表之間的關系通常以外鍵表示。雖然使用 RDBMS有這兩點好處,但它們也是限制了擴展性的原因。為了確保ACID屬性,擴展RDBMS比擴展其他數(shù)據存儲難得多。為了在具有多個節(jié)點的 RDBMS集群(如 MYSQL NDB)中確保數(shù)據致性,要采用同步復制的功能才能保證所有數(shù)據在提交時被寫入多個節(jié)點。采用 Oracle RAC,會有一個中央數(shù)據庫,但是數(shù)據庫域的所有權卻是所有節(jié)點共享的。因此,對于寫請求,要把數(shù)據所有權轉移到相應的節(jié)點,而對于讀請求,則要依次從請求者發(fā)送到主節(jié)點,再從主節(jié)點發(fā)送到擁有要讀的數(shù)據的節(jié)點,再從它發(fā)回到請求者。最終,你會受到同步復制數(shù)據的節(jié)點數(shù)或它們的地理位置的限制。
RDBMS中表內和表間的關系結構使得很難對數(shù)據庫進行分片或分區(qū)操作。關于把工作分發(fā)到多臺機器上的原則。在把表拆分到多個數(shù)據庫的應用中,原來在單一數(shù)據中連接兩個表的簡單査詢就要被轉換成兩個查詢來連接數(shù)據。
總而言之,只有要求事務完整性或數(shù)據間有關系的數(shù)據,才需要使用 RDBMS。既不要求數(shù)據間的關系,也不要求事務完整性的數(shù)據,最好采用其他的存儲系統(tǒng)。我們來簡單討論幾個可用的解決方案,以及如何用它們代替數(shù)據庫,以達到更好的、性價比更高的、擴展性更高的效果種常常被忽略的存儲系統(tǒng)是文件系統(tǒng)。也許這是一種簡單的存儲方式,因為大多數(shù)程序員最初編程時,訪問的都是文件而不是數(shù)據庫中的數(shù)據。一旦我們學會了在數(shù)據庫中存儲或獲取數(shù)據,就再也不用文件。文件系統(tǒng)已經發(fā)展很久了,而且許多文件系統(tǒng)是專門為處理非常大量的文件和數(shù)據而設計的。
這些文件系統(tǒng)包括 Google File System(GFS)、Mogilefs和Ceph等。如果你的系統(tǒng)是“一次寫,多次讀”的,那么文件系統(tǒng)是個很好的選擇。換句話說,如果不會發(fā)生讀寫沖突,不需要維護大量的數(shù)據關系,并不真正需要用到數(shù)據庫事務,那么采用文件系統(tǒng)才是最好的選擇。另一種存儲策略叫做 NOSQL。這一類存儲技術通常被劃分為鍵一值存儲、可擴展記錄存儲和文檔存儲。關于這種技術分類,并沒有統(tǒng)一的標準,很多技術可以被分到多個種類中。在下面的介紹中,我們加入了一些技術的示例,但不要把它們當做最終的解釋??紤]到這些項目發(fā)展的速度,那么將來這種分類很可能更加模糊。
鍵一值存儲技術包括 Memcached、 Tokyo Tyrant和 Voldemort。這些產品中的數(shù)據都有一個鍵一值索引存儲在內存中。有些產品能夠把健值異步復制。通過簡化的數(shù)據存儲模型和鍵一值對,這類產品能夠提供很高 寫人硬盤永久存儲。有些產品會在節(jié)點間進行同步復制,而有的則進行的可擴展性和性能,但在能存儲什么數(shù)據方面具有很大的限制。此外,依賴同步復制的鍵一值數(shù)據存儲仍然具有與 RDBMS集群一樣的限制,即在節(jié)點數(shù)量和地理位置方面的限制。
可擴展記錄存儲技術包括 Google公司專有的 Big Table和 Facebook公司的(現(xiàn)在已經是開源的) Cassandra。這些產品采用的是可以拆分到節(jié)點的行列數(shù)據模型。可以根據主鍵對行進行拆分或分片,再對列進行分組,存放到不同的節(jié)點上。這種擴展方法與展示的AKF擴展立方中的X軸和Y軸拆分方法相似,X軸拆分是讀取數(shù)據副本,Y軸是根據支持的服務來分割表。在這些產品中,行分片是自動執(zhí)行的,但是列拆分則需要用戶定義,與在 RDBMS中的操作類似。這些產品使用的是異步復制,最終能達到一致性。這意味著,也許幾毫秒或幾小時后,最終所有節(jié)點上的數(shù)據將是一致的。
文檔存儲技術包括 COUCHDB、亞馬遜的 Simpledb和雅虎的 PNUTS。這種技術采用的數(shù)據模型雖然被稱為“文檔”,但其實稱為多索引對象模型更確切。這些多索引對象(或者說“文檔”)可以聚集到多索引對象的集合(通常稱為“城”)中,然后可以對這比值合成情由查詢。文檔存儲技術不支持ACID屬性,相反地,它們采用的是異步復制方法,最終能使數(shù)據達到一致。
NOSQL解決方案把對象和實體之間的關系限制到了最少。正是因為減少了關系,所以能夠把系統(tǒng)分發(fā)到多個節(jié)點上,在維持事務完整性和解決讀寫沖突的同時,實現(xiàn)了更大的可擴展性。
通常情況下,我們都需要對系統(tǒng)的可擴展性和靈活性進行權衡,在讀過前面的介紹之后,也許你已經有了決定。數(shù)據實體之間的關系是進行衡量的關鍵,隨著關系增多,靈活性會增加。靈活性增加,會使成本增加,可擴展性降低。從擴展系統(tǒng)的成本(和限制)與數(shù)據實體之間的關系程度這兩個方面對比了 RDBMS、 NOSQL和文件系統(tǒng)這三種解決方案。圖4-2則從靈活性和系統(tǒng)允許使用的關系程度兩方面進行了對比。結果很顯然,關系帶來了靈活性,但降低了可擴展性。正因如此,我們不想濫用關系數(shù)據庫,而是要采用適合任何的工具,使系統(tǒng)得到更大的擴展性。
在這個原則中,我們要介紹的另一種數(shù)據存儲方法是Goge的Mapreduce方法リ。簡而言之, Mapreduce方法具有兩個功能,即Map 和 Reduce。Map功能的輸入是一個鍵一值對,生成一個中間鍵一值對。輸入的鍵可能是一個文檔名或者指向文檔中的某一段的指針。值可能是文檔中的所有文字。Map功能的輸出將輸入到 Reduce功能,該功能使用個程序對文字和文字段分組,并且把值添加到一個列表中。這是個不算復雜的程序,根據鍵對數(shù)據進行排序和分組。這種技術最大的好處是能夠把非常大的數(shù)據集的計算分發(fā)到許多服務器上。
Apache的 Hadoop則是采用兩種存儲方法的組合的一個實例。它采用了 Google的 Mapreduce技術和 Google File System,這兩種方法前面都介紹過。 Hadoop既是具有高可擴展性的文件系統(tǒng),又能夠分布式地存儲和獲取數(shù)據。
許多替代數(shù)據庫的數(shù)據存儲方法,那么在決定選擇哪種方法時,應該考慮數(shù)據的哪些特征呢?與存儲方法有很多選擇一樣,需要考慮的數(shù)據特征也有很多。最重要的幾個是數(shù)據元素間的關聯(lián)程度,解決方案的發(fā)展速度以及數(shù)據的讀寫比例(可能還有數(shù)據是否更新)。最后,我們關心的是如何把數(shù)據變現(xiàn)(換句話說,是否有利可圖),因為我們不想讓自己的系統(tǒng)成本超出收益。
成本和開發(fā)時間。例如,假設把一個涉及用戶、付款、采購等信息的事務存儲在一個鍵一值存儲中,然后在采購報告內體現(xiàn)其中的信息片段,想象一下有多么困難吧。雖然你可以采用文件系統(tǒng)或者 NOSQL存儲方法實現(xiàn)它,但向用戶交付結果需要的開發(fā)投入和時間成本都很高。
預期的增長速度非常重要,原因很多。最終,這個增長速度會影響系統(tǒng)的成本和客戶響應時間。如果數(shù)據實體間需要高度的聯(lián)系,那么我們可能需要利用所有的硬件和處理能力來支持單一的整合數(shù)據庫,促使我們把數(shù)據庫拆分成多個實例。
讀寫比例非常重要,因為它有助于我們理解需要什么樣的系統(tǒng)。只寫一次而讀多次的數(shù)據可以采用文件系統(tǒng)外加某種應用、文件或對象緩存。圖像就是采用文件系統(tǒng)進行存儲的典型例子。寫過之后需要更新的數(shù)據,或者具有很高寫讀比例的數(shù)據,最好采用 NOSQL存儲或 RDBMS。這些需要考慮的因素構成了另一個立方體,分別用X軸、Y軸和Z軸表示了這三個因素。隨著這三個因素的值增加,最終解決方案的成本也會增加。如果我們要求系統(tǒng)間有高度的關聯(lián)、高速增長、能夠解決讀寫沖突,那么最好采用幾個較小的 RDBMS系統(tǒng),這樣在開發(fā)、系統(tǒng)維護甚至數(shù)據庫許可方面的成本可能相對較高。如果增長速度較慢,規(guī)模較小,但是關系很多需要解決讀寫沖突,那么可以使用單個的大型數(shù)據庫(具有高可用性的集群)。
如果數(shù)據間的關系不是非常多,那么在任何水平的讀寫沖突和幾乎任何水平的增長速度下,都可以使用 NOSQL存儲技術。這里,我們再次看到了關系對成本和復雜度的影響程度,我們將在第8章中探討這個主題。采用 NOSQL技術的成本較低。最后,如果數(shù)據關系不多,不關心讀寫沖突,那么可以采用成本更低的文件系統(tǒng)。
我們必須理解網站制作數(shù)據的貨幣價值,因為許多公司在艱難起步時期都經歷過,用A級存儲免費存放TB級的用戶數(shù)據,很快就會把資金消耗完。較好的方法是分層存儲數(shù)據,根據訪問日期,不停地把較老的數(shù)據下推到較便宜的訪問較慢的存儲媒體上。這種情況叫做成本一數(shù)據價值的困境,即隨著時間流逝,數(shù)據價值會降低,但是保存數(shù)據的成本會增加。
本文地址:http://www.alphafinancialcorp.com//article/3463.html