最近2018中文字幕在日韩欧美国产成人片_国产日韩精品一区二区在线_在线观看成年美女黄网色视频_国产精品一区三区五区_国产精彩刺激乱对白_看黄色黄大色黄片免费_人人超碰自拍cao_国产高清av在线_亚洲精品电影av_日韩美女尤物视频网站

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時(shí)間:8:30-17:00
你可能遇到了下面的問(wèn)題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營(yíng)銷解決方案
nosqlcache的簡(jiǎn)單介紹

nosql數(shù)據(jù)庫(kù)是什么 具有代表性以key-value的形式存儲(chǔ)的

什么是NoSQL

商水網(wǎng)站建設(shè)公司成都創(chuàng)新互聯(lián),商水網(wǎng)站設(shè)計(jì)制作,有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為商水成百上千家提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\成都外貿(mào)網(wǎng)站建設(shè)要多少錢,請(qǐng)找那個(gè)售后服務(wù)好的商水做網(wǎng)站的公司定做!

大家有沒(méi)有聽說(shuō)過(guò)“NoSQL”呢?近年,這個(gè)詞極受關(guān)注。看到“NoSQL”這個(gè)詞,大家可能會(huì)誤以為是“No!SQL”的縮寫,并深感憤怒:“SQL怎么會(huì)沒(méi)有必要了呢?”但實(shí)際上,它是“Not Only SQL”的縮寫。它的意義是:適用關(guān)系型數(shù)據(jù)庫(kù)的時(shí)候就使用關(guān)系型數(shù)據(jù)庫(kù),不適用的時(shí)候也沒(méi)有必要非使用關(guān)系型數(shù)據(jù)庫(kù)不可,可以考慮使用更加合適的數(shù)據(jù)存儲(chǔ)。

為彌補(bǔ)關(guān)系型數(shù)據(jù)庫(kù)的不足,各種各樣的NoSQL數(shù)據(jù)庫(kù)應(yīng)運(yùn)而生。

為了更好地了解本書所介紹的NoSQL數(shù)據(jù)庫(kù),對(duì)關(guān)系型數(shù)據(jù)庫(kù)的理解是必不可少的。那么,就讓我們先來(lái)看一看關(guān)系型數(shù)據(jù)庫(kù)的歷史、分類和特征吧。

關(guān)系型數(shù)據(jù)庫(kù)簡(jiǎn)史

1969年,埃德加?6?1弗蘭克?6?1科德(Edgar Frank Codd)發(fā)表了劃時(shí)代的論文,首次提出了關(guān)系數(shù)據(jù)模型的概念。但可惜的是,刊登論文的《IBM Research Report》只是IBM公司的內(nèi)部刊物,因此論文反響平平。1970年,他再次在刊物《Communication of the ACM》上發(fā)表了題為“A Relational Model of Data for Large Shared Data banks”(大型共享數(shù)據(jù)庫(kù)的關(guān)系模型)的論文,終于引起了大家的關(guān)注。

科德所提出的關(guān)系數(shù)據(jù)模型的概念成為了現(xiàn)今關(guān)系型數(shù)據(jù)庫(kù)的基礎(chǔ)。當(dāng)時(shí)的關(guān)系型數(shù)據(jù)庫(kù)由于硬件性能低劣、處理速度過(guò)慢而遲遲沒(méi)有得到實(shí)際應(yīng)用。但之后隨著硬件性能的提升,加之使用簡(jiǎn)單、性能優(yōu)越等優(yōu)點(diǎn),關(guān)系型數(shù)據(jù)庫(kù)得到了廣泛的應(yīng)用。

通用性及高性能

雖然本書是講解NoSQL數(shù)據(jù)庫(kù)的,但有一個(gè)重要的大前提,請(qǐng)大家一定不要誤解。這個(gè)大前提就是“關(guān)系型數(shù)據(jù)庫(kù)的性能絕對(duì)不低,它具有非常好的通用性和非常高的性能”。毫無(wú)疑問(wèn),對(duì)于絕大多數(shù)的應(yīng)用來(lái)說(shuō)它都是最有效的解決方案。

突出的優(yōu)勢(shì)

關(guān)系型數(shù)據(jù)庫(kù)作為應(yīng)用廣泛的通用型數(shù)據(jù)庫(kù),它的突出優(yōu)勢(shì)主要有以下幾點(diǎn):

保持?jǐn)?shù)據(jù)的一致性(事務(wù)處理)

由于以標(biāo)準(zhǔn)化為前提,數(shù)據(jù)更新的開銷很小(相同的字段基本上都只有一處)

可以進(jìn)行JOIN等復(fù)雜查詢

存在很多實(shí)際成果和專業(yè)技術(shù)信息(成熟的技術(shù))

這其中,能夠保持?jǐn)?shù)據(jù)的一致性是關(guān)系型數(shù)據(jù)庫(kù)的最大優(yōu)勢(shì)。在需要嚴(yán)格保證數(shù)據(jù)一致性和處理完整性的情況下,用關(guān)系型數(shù)據(jù)庫(kù)是肯定沒(méi)有錯(cuò)的。但是有些情況不需要JOIN,對(duì)上述關(guān)系型數(shù)據(jù)庫(kù)的優(yōu)點(diǎn)也沒(méi)有什么特別需要,這時(shí)似乎也就沒(méi)有必要拘泥于關(guān)系型數(shù)據(jù)庫(kù)了。

關(guān)系型數(shù)據(jù)庫(kù)的不足

不擅長(zhǎng)的處理

就像之前提到的那樣,關(guān)系型數(shù)據(jù)庫(kù)的性能非常高。但是它畢竟是一個(gè)通用型的數(shù)據(jù)庫(kù),并不能完全適應(yīng)所有的用途。具體來(lái)說(shuō)它并不擅長(zhǎng)以下處理:

大量數(shù)據(jù)的寫入處理

為有數(shù)據(jù)更新的表做索引或表結(jié)構(gòu)(schema)變更

字段不固定時(shí)應(yīng)用

對(duì)簡(jiǎn)單查詢需要快速返回結(jié)果的處理

。。。。。。

NoSQL數(shù)據(jù)庫(kù)

為了彌補(bǔ)關(guān)系型數(shù)據(jù)庫(kù)的不足(特別是最近幾年),NoSQL數(shù)據(jù)庫(kù)出現(xiàn)了。關(guān)系型數(shù)據(jù)庫(kù)應(yīng)用廣泛,能進(jìn)行事務(wù)處理和JOIN等復(fù)雜處理。相對(duì)地,NoSQL數(shù)據(jù)庫(kù)只應(yīng)用在特定領(lǐng)域,基本上不進(jìn)行復(fù)雜的處理,但它恰恰彌補(bǔ)了之前所列舉的關(guān)系型數(shù)據(jù)庫(kù)的不足之處。

易于數(shù)據(jù)的分散

如前所述,關(guān)系型數(shù)據(jù)庫(kù)并不擅長(zhǎng)大量數(shù)據(jù)的寫入處理。原本關(guān)系型數(shù)據(jù)庫(kù)就是以JOIN為前提的,就是說(shuō),各個(gè)數(shù)據(jù)之間存在關(guān)聯(lián)是關(guān)系型數(shù)據(jù)庫(kù)得名的主要原因。為了進(jìn)行JOIN處理,關(guān)系型數(shù)據(jù)庫(kù)不得不把數(shù)據(jù)存儲(chǔ)在同一個(gè)服務(wù)器內(nèi),這不利于數(shù)據(jù)的分散。相反,NoSQL數(shù)據(jù)庫(kù)原本就不支持JOIN處理,各個(gè)數(shù)據(jù)都是獨(dú)立設(shè)計(jì)的,很容易把數(shù)據(jù)分散到多個(gè)服務(wù)器上。由于數(shù)據(jù)被分散到了多個(gè)服務(wù)器上,減少了每個(gè)服務(wù)器上的數(shù)據(jù)量,即使要進(jìn)行大量數(shù)據(jù)的寫入操作,處理起來(lái)也更加容易。同理,數(shù)據(jù)的讀入操作當(dāng)然也同樣容易。

提升性能和增大規(guī)模

下面說(shuō)一點(diǎn)題外話,如果想要使服務(wù)器能夠輕松地處理更大量的數(shù)據(jù),那么只有兩個(gè)選擇:一是提升性能,二是增大規(guī)模。下面我們來(lái)整理一下這兩者的不同。

首先,提升性能指的就是通過(guò)提升現(xiàn)行服務(wù)器自身的性能來(lái)提高處理能力。這是非常簡(jiǎn)單的方法,程序方面也不需要進(jìn)行變更,但需要一些費(fèi)用。若要購(gòu)買性能翻倍的服務(wù)器,需要花費(fèi)的資金往往不只是原來(lái)的2倍,可能需要多達(dá)5到10倍。這種方法雖然簡(jiǎn)單,但是成本較高。

另一方面,增大規(guī)模指的是使用多臺(tái)廉價(jià)的服務(wù)器來(lái)提高處理能力。它需要對(duì)程序進(jìn)行變更,但由于使用廉價(jià)的服務(wù)器,可以控制成本。另外,以后只要依葫蘆畫瓢增加廉價(jià)服務(wù)器的數(shù)量就可以了。

不對(duì)大量數(shù)據(jù)進(jìn)行處理的話就沒(méi)有使用的必要嗎?

NoSQL數(shù)據(jù)庫(kù)基本上來(lái)說(shuō)為了“使大量數(shù)據(jù)的寫入處理更加容易(讓增加服務(wù)器數(shù)量更容易)”而設(shè)計(jì)的。但如果不是對(duì)大量數(shù)據(jù)進(jìn)行操作的話,NoSQL數(shù)據(jù)庫(kù)的應(yīng)用就沒(méi)有意義嗎?

答案是否定的。的確,它在處理大量數(shù)據(jù)方面很有優(yōu)勢(shì)。但實(shí)際上NoSQL數(shù)據(jù)庫(kù)還有各種各樣的特點(diǎn),如果能夠恰當(dāng)?shù)乩眠@些特點(diǎn)將會(huì)是非常有幫助。具體的例子將會(huì)在第2章和第3章進(jìn)行介紹,這些用途將會(huì)讓你感受到利用NoSQL的好處。

希望順暢地對(duì)數(shù)據(jù)進(jìn)行緩存(Cache)處理

希望對(duì)數(shù)組類型的數(shù)據(jù)進(jìn)行高速處理

希望進(jìn)行全部保存

多樣的NoSQL數(shù)據(jù)庫(kù)

NoSQL數(shù)據(jù)庫(kù)存在著“key-value存儲(chǔ)”、“文檔型數(shù)據(jù)庫(kù)”、“列存儲(chǔ)數(shù)據(jù)庫(kù)”等各種各樣的種類,每種數(shù)據(jù)庫(kù)又包含各自的特點(diǎn)。下一節(jié)讓我們一起來(lái)了解一下NoSQL數(shù)據(jù)庫(kù)的種類和特點(diǎn)。

NoSQL數(shù)據(jù)庫(kù)是什么

NoSQL說(shuō)起來(lái)簡(jiǎn)單,但實(shí)際上到底有多少種呢?我在提筆的時(shí)候,到NoSQL的官方網(wǎng)站上確認(rèn)了一下,竟然已經(jīng)有122種了。另外官方網(wǎng)站上也介紹了本書沒(méi)有涉及到的圖形數(shù)據(jù)庫(kù)和對(duì)象數(shù)據(jù)庫(kù)等各個(gè)類別。不知不覺間,原來(lái)已經(jīng)出現(xiàn)了這么多的NoSQL數(shù)據(jù)庫(kù)啊。

本節(jié)將為大家介紹具有代表性的NoSQL數(shù)據(jù)庫(kù)。

key-value存儲(chǔ)

這是最常見的NoSQL數(shù)據(jù)庫(kù),它的數(shù)據(jù)是以key-value的形式存儲(chǔ)的。雖然它的處理速度非???,但是基本上只能通過(guò)key的完全一致查詢獲取數(shù)據(jù)。根據(jù)數(shù)據(jù)的保存方式可以分為臨時(shí)性、永久性和兩者兼具三種。

臨時(shí)性

memcached屬于這種類型。所謂臨時(shí)性就是 “數(shù)據(jù)有可能丟失”的意思。memcached把所有數(shù)據(jù)都保存在內(nèi)存中,這樣保存和讀取的速度非常快,但是當(dāng)memcached停止的時(shí)候,數(shù)據(jù)就不存在了。由于數(shù)據(jù)保存在內(nèi)存中,所以無(wú)法操作超出內(nèi)存容量的數(shù)據(jù)(舊數(shù)據(jù)會(huì)丟失)。

在內(nèi)存中保存數(shù)據(jù)

可以進(jìn)行非??焖俚谋4婧妥x取處理

數(shù)據(jù)有可能丟失

永久性

Tokyo Tyrant、Flare、ROMA等屬于這種類型。和臨時(shí)性相反,所謂永久性就是“數(shù)據(jù)不會(huì)丟失”的意思。這里的key-value存儲(chǔ)不像memcached那樣在內(nèi)存中保存數(shù)據(jù),而是把數(shù)據(jù)保存在硬盤上。與memcached在內(nèi)存中處理數(shù)據(jù)比起來(lái),由于必然要發(fā)生對(duì)硬盤的IO操作,所以性能上還是有差距的。但數(shù)據(jù)不會(huì)丟失是它最大的優(yōu)勢(shì)。

在硬盤上保存數(shù)據(jù)

可以進(jìn)行非常快速的保存和讀取處理(但無(wú)法與memcached相比)

數(shù)據(jù)不會(huì)丟失

兩者兼具

Redis屬于這種類型。Redis有些特殊,臨時(shí)性和永久性兼具,且集合了臨時(shí)性key-value存儲(chǔ)和永久性key-value存儲(chǔ)的優(yōu)點(diǎn)。Redis首先把數(shù)據(jù)保存到內(nèi)存中,在滿足特定條件(默認(rèn)是15分鐘一次以上,5分鐘內(nèi)10個(gè)以上,1分鐘內(nèi)10000個(gè)以上的key發(fā)生變更)的時(shí)候?qū)?shù)據(jù)寫入到硬盤中。這樣既確保了內(nèi)存中數(shù)據(jù)的處理速度,又可以通過(guò)寫入硬盤來(lái)保證數(shù)據(jù)的永久性。這種類型的數(shù)據(jù)庫(kù)特別適合于處理數(shù)組類型的數(shù)據(jù)。

同時(shí)在內(nèi)存和硬盤上保存數(shù)據(jù)

可以進(jìn)行非??焖俚谋4婧妥x取處理

保存在硬盤上的數(shù)據(jù)不會(huì)消失(可以恢復(fù))

適合于處理數(shù)組類型的數(shù)據(jù)

面向文檔的數(shù)據(jù)庫(kù)

MongoDB、CouchDB屬于這種類型。它們屬于NoSQL數(shù)據(jù)庫(kù),但與key-value存儲(chǔ)相異。

不定義表結(jié)構(gòu)

面向文檔的數(shù)據(jù)庫(kù)具有以下特征:即使不定義表結(jié)構(gòu),也可以像定義了表結(jié)構(gòu)一樣使用。關(guān)系型數(shù)據(jù)庫(kù)在變更表結(jié)構(gòu)時(shí)比較費(fèi)事,而且為了保持一致性還需修改程序。然而NoSQL數(shù)據(jù)庫(kù)則可省去這些麻煩(通常程序都是正確的),確實(shí)是方便快捷。

可以使用復(fù)雜的查詢條件

跟key-value存儲(chǔ)不同的是,面向文檔的數(shù)據(jù)庫(kù)可以通過(guò)復(fù)雜的查詢條件來(lái)獲取數(shù)據(jù)。雖然不具備事務(wù)處理和JOIN這些關(guān)系型數(shù)據(jù)庫(kù)所具有的處理能力,但除此以外的其他處理基本上都能實(shí)現(xiàn)。這是非常容易使用的NoSQL數(shù)據(jù)庫(kù)。

不需要定義表結(jié)構(gòu)

可以利用復(fù)雜的查詢條件

面向列的數(shù)據(jù)庫(kù)

Cassandra、Hbase、HyperTable屬于這種類型。由于近年來(lái)數(shù)據(jù)量出現(xiàn)爆發(fā)性增長(zhǎng),這種類型的NoSQL數(shù)據(jù)庫(kù)尤其引人注目。

面向行的數(shù)據(jù)庫(kù)和面向列的數(shù)據(jù)庫(kù)

普通的關(guān)系型數(shù)據(jù)庫(kù)都是以行為單位來(lái)存儲(chǔ)數(shù)據(jù)的,擅長(zhǎng)進(jìn)行以行為單位的讀入處理,比如特定條件數(shù)據(jù)的獲取。因此,關(guān)系型數(shù)據(jù)庫(kù)也被稱為面向行的數(shù)據(jù)庫(kù)。相反,面向列的數(shù)據(jù)庫(kù)是以列為單位來(lái)存儲(chǔ)數(shù)據(jù)的,擅長(zhǎng)以列為單位讀入數(shù)據(jù)。

高擴(kuò)展性

面向列的數(shù)據(jù)庫(kù)具有高擴(kuò)展性,即使數(shù)據(jù)增加也不會(huì)降低相應(yīng)的處理速度(特別是寫入速度),所以它主要應(yīng)用于需要處理大量數(shù)據(jù)的情況。另外,利用面向列的數(shù)據(jù)庫(kù)的優(yōu)勢(shì),把它作為批處理程序的存儲(chǔ)器來(lái)對(duì)大量數(shù)據(jù)進(jìn)行更新也是非常有用的。但由于面向列的數(shù)據(jù)庫(kù)跟現(xiàn)行數(shù)據(jù)庫(kù)存儲(chǔ)的思維方式有很大不同,應(yīng)用起來(lái)十分困難。

高擴(kuò)展性(特別是寫入處理)

應(yīng)用十分困難

最近,像Twitter和Facebook這樣需要對(duì)大量數(shù)據(jù)進(jìn)行更新和查詢的網(wǎng)絡(luò)服務(wù)不斷增加,面向列的數(shù)據(jù)庫(kù)的優(yōu)勢(shì)對(duì)其中一些服務(wù)是非常有用的,但是由于這與本書所要介紹的內(nèi)容關(guān)系不大,就不進(jìn)行詳細(xì)介紹了。

總結(jié):

NoSQL并不是No-SQL,而是指Not Only SQL。

NoSQL的出現(xiàn)是為了彌補(bǔ)SQL數(shù)據(jù)庫(kù)因?yàn)槭聞?wù)等機(jī)制帶來(lái)的對(duì)海量數(shù)據(jù)、高并發(fā)請(qǐng)求的處理的性能上的欠缺。

NoSQL不是為了替代SQL而出現(xiàn)的,它是一種替補(bǔ)方案,而不是解決方案的首選。

絕大多數(shù)的NoSQL產(chǎn)品都是基于大內(nèi)存和高性能隨機(jī)讀寫的(比如具有更高性能的固態(tài)硬盤陣列),一般的小型企業(yè)在選擇NoSQL時(shí)一定要慎重!不要為了NoSQL而NoSQL,可能會(huì)導(dǎo)致花了冤枉錢又耽擱了項(xiàng)目進(jìn)程。

NoSQL不是萬(wàn)能的,但在大型項(xiàng)目中,你往往需要它!

目前哪些NoSQL數(shù)據(jù)庫(kù)應(yīng)用廣泛,各有什么特點(diǎn)

特點(diǎn):

它們可以處理超大量的數(shù)據(jù)。

它們運(yùn)行在便宜的PC服務(wù)器集群上。

PC集群擴(kuò)充起來(lái)非常方便并且成本很低,避免了“sharding”操作的復(fù)雜性和成本。

它們擊碎了性能瓶頸。

NoSQL的支持者稱,通過(guò)NoSQL架構(gòu)可以省去將Web或Java應(yīng)用和數(shù)據(jù)轉(zhuǎn)換成SQL友好格式的時(shí)間,執(zhí)行速度變得更快。

“SQL并非適用于所有的程序代碼,” 對(duì)于那些繁重的重復(fù)操作的數(shù)據(jù),SQL值得花錢。但是當(dāng)數(shù)據(jù)庫(kù)結(jié)構(gòu)非常簡(jiǎn)單時(shí),SQL可能沒(méi)有太大用處。

沒(méi)有過(guò)多的操作。

雖然NoSQL的支持者也承認(rèn)關(guān)系數(shù)據(jù)庫(kù)提供了無(wú)可比擬的功能集合,而且在數(shù)據(jù)完整性上也發(fā)揮絕對(duì)穩(wěn)定,他們同時(shí)也表示,企業(yè)的具體需求可能沒(méi)有那么多。

Bootstrap支持

因?yàn)镹oSQL項(xiàng)目都是開源的,因此它們?nèi)狈?yīng)商提供的正式支持。這一點(diǎn)它們與大多數(shù)開源項(xiàng)目一樣,不得不從社區(qū)中尋求支持。

優(yōu)點(diǎn):

易擴(kuò)展

NoSQL數(shù)據(jù)庫(kù)種類繁多,但是一個(gè)共同的特點(diǎn)都是去掉關(guān)系數(shù)據(jù)庫(kù)的關(guān)系型特性。數(shù)據(jù)之間無(wú)關(guān)系,這樣就非常容易擴(kuò)展。也無(wú)形之間,在架構(gòu)的層面上帶來(lái)了可擴(kuò)展的能力。

大數(shù)據(jù)量,高性能

NoSQL數(shù)據(jù)庫(kù)都具有非常高的讀寫性能,尤其在大數(shù)據(jù)量下,同樣表現(xiàn)優(yōu)秀。這得益于它的無(wú)關(guān)系性,數(shù)據(jù)庫(kù)的結(jié)構(gòu)簡(jiǎn)單。一般MySQL使用 Query Cache,每次表的更新Cache就失效,是一種大粒度的Cache,在針對(duì)web2.0的交互頻繁的應(yīng)用,Cache性能不高。而NoSQL的 Cache是記錄級(jí)的,是一種細(xì)粒度的Cache,所以NoSQL在這個(gè)層面上來(lái)說(shuō)就要性能高很多了。

靈活的數(shù)據(jù)模型

NoSQL無(wú)需事先為要存儲(chǔ)的數(shù)據(jù)建立字段,隨時(shí)可以存儲(chǔ)自定義的數(shù)據(jù)格式。而在關(guān)系數(shù)據(jù)庫(kù)里,增刪字段是一件非常麻煩的事情。如果是非常大數(shù)據(jù)量的表,增加字段簡(jiǎn)直就是一個(gè)噩夢(mèng)。這點(diǎn)在大數(shù)據(jù)量的web2.0時(shí)代尤其明顯。

高可用

NoSQL在不太影響性能的情況,就可以方便的實(shí)現(xiàn)高可用的架構(gòu)。比如Cassandra,HBase模型,通過(guò)復(fù)制模型也能實(shí)現(xiàn)高可用。

主要應(yīng)用:

Apache HBase

這個(gè)大數(shù)據(jù)管理平臺(tái)建立在谷歌強(qiáng)大的BigTable管理引擎基礎(chǔ)上。作為具有開源、Java編碼、分布式多個(gè)優(yōu)勢(shì)的數(shù)據(jù)庫(kù),Hbase最初被設(shè)計(jì)應(yīng)用于Hadoop平臺(tái),而這一強(qiáng)大的數(shù)據(jù)管理工具,也被Facebook采用,用于管理消息平臺(tái)的龐大數(shù)據(jù)。

Apache Storm

用于處理高速、大型數(shù)據(jù)流的分布式實(shí)時(shí)計(jì)算系統(tǒng)。Storm為Apache Hadoop添加了可靠的實(shí)時(shí)數(shù)據(jù)處理功能,同時(shí)還增加了低延遲的儀表板、安全警報(bào),改進(jìn)了原有的操作方式,幫助企業(yè)更有效率地捕獲商業(yè)機(jī)會(huì)、發(fā)展新業(yè)務(wù)。

Apache Spark

該技術(shù)采用內(nèi)存計(jì)算,從多迭代批量處理出發(fā),允許將數(shù)據(jù)載入內(nèi)存做反復(fù)查詢,此外還融合數(shù)據(jù)倉(cāng)庫(kù)、流處理和圖計(jì)算等多種計(jì)算范式,Spark用Scala語(yǔ)言實(shí)現(xiàn),構(gòu)建在HDFS上,能與Hadoop很好的結(jié)合,而且運(yùn)行速度比MapReduce快100倍。

Apache Hadoop

該技術(shù)迅速成為了大數(shù)據(jù)管理標(biāo)準(zhǔn)之一。當(dāng)它被用來(lái)管理大型數(shù)據(jù)集時(shí),對(duì)于復(fù)雜的分布式應(yīng)用,Hadoop體現(xiàn)出了非常好的性能,平臺(tái)的靈活性使它可以運(yùn)行在商用硬件系統(tǒng),它還可以輕松地集成結(jié)構(gòu)化、半結(jié)構(gòu)化和甚至非結(jié)構(gòu)化數(shù)據(jù)集。

Apache Drill

你有多大的數(shù)據(jù)集?其實(shí)無(wú)論你有多大的數(shù)據(jù)集,Drill都能輕松應(yīng)對(duì)。通過(guò)支持HBase、Cassandra和MongoDB,Drill建立了交互式分析平臺(tái),允許大規(guī)模數(shù)據(jù)吞吐,而且能很快得出結(jié)果。

Apache Sqoop

也許你的數(shù)據(jù)現(xiàn)在還被鎖定于舊系統(tǒng)中,Sqoop可以幫你解決這個(gè)問(wèn)題。這一平臺(tái)采用并發(fā)連接,可以將數(shù)據(jù)從關(guān)系數(shù)據(jù)庫(kù)系統(tǒng)方便地轉(zhuǎn)移到Hadoop中,可以自定義數(shù)據(jù)類型以及元數(shù)據(jù)傳播的映射。事實(shí)上,你還可以將數(shù)據(jù)(如新的數(shù)據(jù))導(dǎo)入到HDFS、Hive和Hbase中。

Apache Giraph

這是功能強(qiáng)大的圖形處理平臺(tái),具有很好可擴(kuò)展性和可用性。該技術(shù)已經(jīng)被Facebook采用,Giraph可以運(yùn)行在Hadoop環(huán)境中,可以將它直接部署到現(xiàn)有的Hadoop系統(tǒng)中。通過(guò)這種方式,你可以得到強(qiáng)大的分布式作圖能力,同時(shí)還能利用上現(xiàn)有的大數(shù)據(jù)處理引擎。

Cloudera Impala

Impala模型也可以部署在你現(xiàn)有的Hadoop群集上,監(jiān)視所有的查詢。該技術(shù)和MapReduce一樣,具有強(qiáng)大的批處理能力,而且Impala對(duì)于實(shí)時(shí)的SQL查詢也有很好的效果,通過(guò)高效的SQL查詢,你可以很快的了解到大數(shù)據(jù)平臺(tái)上的數(shù)據(jù)。

Gephi

它可以用來(lái)對(duì)信息進(jìn)行關(guān)聯(lián)和量化處理,通過(guò)為數(shù)據(jù)創(chuàng)建功能強(qiáng)大的可視化效果,你可以從數(shù)據(jù)中得到不一樣的洞察力。Gephi已經(jīng)支持多個(gè)圖表類型,而且可以在具有上百萬(wàn)個(gè)節(jié)點(diǎn)的大型網(wǎng)絡(luò)上運(yùn)行。Gephi具有活躍的用戶社區(qū),Gephi還提供了大量的插件,可以和現(xiàn)有系統(tǒng)完美的集成到一起,它還可以對(duì)復(fù)雜的IT連接、分布式系統(tǒng)中各個(gè)節(jié)點(diǎn)、數(shù)據(jù)流等信息進(jìn)行可視化分析。

MongoDB

這個(gè)堅(jiān)實(shí)的平臺(tái)一直被很多組織推崇,它在大數(shù)據(jù)管理上有極好的性能。MongoDB最初是由DoubleClick公司的員工創(chuàng)建,現(xiàn)在該技術(shù)已經(jīng)被廣泛的應(yīng)用于大數(shù)據(jù)管理。MongoDB是一個(gè)應(yīng)用開源技術(shù)開發(fā)的NoSQL數(shù)據(jù)庫(kù),可以用于在JSON這樣的平臺(tái)上存儲(chǔ)和處理數(shù)據(jù)。目前,紐約時(shí)報(bào)、Craigslist以及眾多企業(yè)都采用了MongoDB,幫助他們管理大型數(shù)據(jù)集。(Couchbase服務(wù)器也作為一個(gè)參考)。

十大頂尖公司:

Amazon Web Services

Forrester將AWS稱為“云霸主”,談到云計(jì)算領(lǐng)域的大數(shù)據(jù),那就不得不提到亞馬遜。該公司的Hadoop產(chǎn)品被稱為EMR(Elastic Map Reduce),AWS解釋這款產(chǎn)品采用了Hadoop技術(shù)來(lái)提供大數(shù)據(jù)管理服務(wù),但它不是純開源Hadoop,經(jīng)過(guò)修改后現(xiàn)在被專門用在AWS云上。

Forrester稱EMR有很好的市場(chǎng)前景。很多公司基于EMR為客戶提供服務(wù),有一些公司將EMR應(yīng)用于數(shù)據(jù)查詢、建模、集成和管理。而且AWS還在創(chuàng)新,F(xiàn)orrester稱未來(lái)EMR可以基于工作量的需要自動(dòng)縮放調(diào)整大小。亞馬遜計(jì)劃為其產(chǎn)品和服務(wù)提供更強(qiáng)大的EMR支持,包括它的RedShift數(shù)據(jù)倉(cāng)庫(kù)、新公布的Kenesis實(shí)時(shí)處理引擎以及計(jì)劃中的NoSQL數(shù)據(jù)庫(kù)和商業(yè)智能工具。不過(guò)AWS還沒(méi)有自己的Hadoop發(fā)行版。

Cloudera

Cloudera有開源Hadoop的發(fā)行版,這個(gè)發(fā)行版采用了Apache Hadoop開源項(xiàng)目的很多技術(shù),不過(guò)基于這些技術(shù)的發(fā)行版也有很大的進(jìn)步。Cloudera為它的Hadoop發(fā)行版開發(fā)了很多功能,包括Cloudera管理器,用于管理和監(jiān)控,以及名為Impala的SQL引擎等。Cloudera的Hadoop發(fā)行版基于開源Hadoop,但也不是純開源的產(chǎn)品。當(dāng)Cloudera的客戶需要Hadoop不具備的某些功能時(shí),Cloudera的工程師們就會(huì)實(shí)現(xiàn)這些功能,或者找一個(gè)擁有這項(xiàng)技術(shù)的合作伙伴。Forrester表示:“Cloudera的創(chuàng)新方法忠于核心Hadoop,但因?yàn)槠淇蓪?shí)現(xiàn)快速創(chuàng)新并積極滿足客戶需求,這一點(diǎn)使它不同于其他那些供應(yīng)商?!蹦壳埃珻loudera的平臺(tái)已經(jīng)擁有200多個(gè)付費(fèi)客戶,一些客戶在Cloudera的技術(shù)支持下已經(jīng)可以跨1000多個(gè)節(jié)點(diǎn)實(shí)現(xiàn)對(duì)PB級(jí)數(shù)據(jù)的有效管理。

Hortonworks

和Cloudera一樣,Hortonworks是一個(gè)純粹的Hadoop技術(shù)公司。與Cloudera不同的是,Hortonworks堅(jiān)信開源Hadoop比任何其他供應(yīng)商的Hadoop發(fā)行版都要強(qiáng)大。Hortonworks的目標(biāo)是建立Hadoop生態(tài)圈和Hadoop用戶社區(qū),推進(jìn)開源項(xiàng)目的發(fā)展。Hortonworks平臺(tái)和開源Hadoop聯(lián)系緊密,公司管理人員表示這會(huì)給用戶帶來(lái)好處,因?yàn)樗梢苑乐贡还?yīng)商套牢(如果Hortonworks的客戶想要離開這個(gè)平臺(tái),他們可以輕松轉(zhuǎn)向其他開源平臺(tái))。這并不是說(shuō)Hortonworks完全依賴開源Hadoop技術(shù),而是因?yàn)樵摴緦⑵渌虚_發(fā)的成果回報(bào)給了開源社區(qū),比如Ambari,這個(gè)工具就是由Hortonworks開發(fā)而成,用來(lái)填充集群管理項(xiàng)目漏洞。Hortonworks的方案已經(jīng)得到了Teradata、Microsoft、Red Hat和SAP這些供應(yīng)商的支持。

IBM

當(dāng)企業(yè)考慮一些大的IT項(xiàng)目時(shí),很多人首先會(huì)想到IBM。IBM是Hadoop項(xiàng)目的主要參與者之一,F(xiàn)orrester稱IBM已有100多個(gè)Hadoop部署,它的很多客戶都有PB級(jí)的數(shù)據(jù)。IBM在網(wǎng)格計(jì)算、全球數(shù)據(jù)中心和企業(yè)大數(shù)據(jù)項(xiàng)目實(shí)施等眾多領(lǐng)域有著豐富的經(jīng)驗(yàn)?!癐BM計(jì)劃繼續(xù)整合SPSS分析、高性能計(jì)算、BI工具、數(shù)據(jù)管理和建模、應(yīng)對(duì)高性能計(jì)算的工作負(fù)載管理等眾多技術(shù)?!?/p>

Intel

和AWS類似,英特爾不斷改進(jìn)和優(yōu)化Hadoop使其運(yùn)行在自己的硬件上,具體來(lái)說(shuō),就是讓Hadoop運(yùn)行在其至強(qiáng)芯片上,幫助用戶打破Hadoop系統(tǒng)的一些限制,使軟件和硬件結(jié)合的更好,英特爾的Hadoop發(fā)行版在上述方面做得比較好。Forrester指出英特爾在最近才推出這個(gè)產(chǎn)品,所以公司在未來(lái)還有很多改進(jìn)的可能,英特爾和微軟都被認(rèn)為是Hadoop市場(chǎng)上的潛力股。

MapR Technologies

MapR的Hadoop發(fā)行版目前為止也許是最好的了,不過(guò)很多人可能都沒(méi)有聽說(shuō)過(guò)。Forrester對(duì)Hadoop用戶的調(diào)查顯示,MapR的評(píng)級(jí)最高,其發(fā)行版在架構(gòu)和數(shù)據(jù)處理能力上都獲得了最高分。MapR已將一套特殊功能融入其Hadoop發(fā)行版中。例如網(wǎng)絡(luò)文件系統(tǒng)(NFS)、災(zāi)難恢復(fù)以及高可用性功能。Forrester說(shuō)MapR在Hadoop市場(chǎng)上沒(méi)有Cloudera和Hortonworks那樣的知名度,MapR要成為一個(gè)真正的大企業(yè),還需要加強(qiáng)伙伴關(guān)系和市場(chǎng)營(yíng)銷。

Microsoft

微軟在開源軟件問(wèn)題上一直很低調(diào),但在大數(shù)據(jù)形勢(shì)下,它不得不考慮讓W(xué)indows也兼容Hadoop,它還積極投入到開源項(xiàng)目中,以更廣泛地推動(dòng)Hadoop生態(tài)圈的發(fā)展。我們可以在微軟的公共云Windows Azure HDInsight產(chǎn)品中看到其成果。微軟的Hadoop服務(wù)基于Hortonworks的發(fā)行版,而且是為Azure量身定制的。

微軟也有一些其他的項(xiàng)目,包括名為Polybase的項(xiàng)目,讓Hadoop查詢實(shí)現(xiàn)了SQLServer查詢的一些功能。Forrester說(shuō):“微軟在數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)、云、OLAP、BI、電子表格(包括PowerPivot)、協(xié)作和開發(fā)工具市場(chǎng)上有很大優(yōu)勢(shì),而且微軟擁有龐大的用戶群,但要在Hadoop這個(gè)領(lǐng)域成為行業(yè)領(lǐng)導(dǎo)者還有很遠(yuǎn)的路要走。”

Pivotal Software

EMC和Vmware部分大數(shù)據(jù)業(yè)務(wù)分拆組合產(chǎn)生了Pivotal。Pivotal一直努力構(gòu)建一個(gè)性能優(yōu)越的Hadoop發(fā)行版,為此,Pivotal在開源Hadoop的基礎(chǔ)上又添加了一些新的工具,包括一個(gè)名為HAWQ的SQL引擎以及一個(gè)專門解決大數(shù)據(jù)問(wèn)題的Hadoop應(yīng)用。Forrester稱Pivotal Hadoop平臺(tái)的優(yōu)勢(shì)在于它整合了Pivotal、EMC、Vmware的眾多技術(shù),Pivotal的真正優(yōu)勢(shì)實(shí)際上等于EMC和Vmware兩大公司為其撐腰。到目前為止,Pivotal的用戶還不到100個(gè),而且大多是中小型客戶。

Teradata

對(duì)于Teradata來(lái)說(shuō),Hadoop既是一種威脅也是一種機(jī)遇。數(shù)據(jù)管理,特別是關(guān)于SQL和關(guān)系數(shù)據(jù)庫(kù)這一領(lǐng)域是Teradata的專長(zhǎng)。所以像Hadoop這樣的NoSQL平臺(tái)崛起可能會(huì)威脅到Teradata。相反,Teradata接受了Hadoop,通過(guò)與Hortonworks合作,Teradata在Hadoop平臺(tái)集成了SQL技術(shù),這使Teradata的客戶可以在Hadoop平臺(tái)上方便地使用存儲(chǔ)在Teradata數(shù)據(jù)倉(cāng)庫(kù)中的數(shù)據(jù)。

AMPLab

通過(guò)將數(shù)據(jù)轉(zhuǎn)變?yōu)樾畔?,我們才可以理解世界,而這也正是AMPLab所做的。AMPLab致力于機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)庫(kù)、信息檢索、自然語(yǔ)言處理和語(yǔ)音識(shí)別等多個(gè)領(lǐng)域,努力改進(jìn)對(duì)信息包括不透明數(shù)據(jù)集內(nèi)信息的甄別技術(shù)。除了Spark,開源分布式SQL查詢引擎Shark也源于AMPLab,Shark具有極高的查詢效率,具有良好的兼容性和可擴(kuò)展性。近幾年的發(fā)展使計(jì)算機(jī)科學(xué)進(jìn)入到全新的時(shí)代,而AMPLab為我們?cè)O(shè)想一個(gè)運(yùn)用大數(shù)據(jù)、云計(jì)算、通信等各種資源和技術(shù)靈活解決難題的方案,以應(yīng)對(duì)越來(lái)越復(fù)雜的各種難題。

五大數(shù)據(jù)庫(kù)理念,讀懂亞馬遜云科技的數(shù)據(jù)庫(kù)布局

1970 年,關(guān)系型數(shù)據(jù)庫(kù)之父 E.F.Codd 發(fā)表《用于大型共享數(shù)據(jù)庫(kù)的關(guān)系數(shù)據(jù)模型》論文,正式拉開數(shù)據(jù)庫(kù)技術(shù)發(fā)展序幕。以 Oracle、DB2、SQL Server 為代表的三大商業(yè)數(shù)據(jù)庫(kù)產(chǎn)品獨(dú)占鰲頭,隨后涌現(xiàn)出 MySQL、PostgreSQL 等為代表的開源數(shù)據(jù)庫(kù) ,和以 Amazon RDS 等為代表的云數(shù)據(jù)庫(kù),拉開百花齊放的數(shù)據(jù)庫(kù)新序幕。

我們知道,云計(jì)算十年為產(chǎn)業(yè)轉(zhuǎn)型升級(jí)提供了 歷史 性契機(jī),但變革仍在進(jìn)行,隨著云計(jì)算的普及,數(shù)據(jù)庫(kù)市場(chǎng)發(fā)生根本性改變,云廠商打破傳統(tǒng)商業(yè)數(shù)據(jù)庫(kù)的堡壘,成為數(shù)據(jù)庫(kù)領(lǐng)域全新力量。其中以連續(xù)六年入選 Gartner 領(lǐng)導(dǎo)者象限的亞馬遜云 科技 為代表,我們一起探討:為什么亞馬遜云 科技 能始終保持其創(chuàng)新性?縱觀云原生時(shí)代下,亞馬遜云 科技 數(shù)據(jù)庫(kù)未來(lái)還有哪些更多的可能性?

01 面對(duì)四大數(shù)據(jù)庫(kù)發(fā)展趨勢(shì),亞馬遜云 科技 打造五大數(shù)據(jù)庫(kù)理念

后疫情時(shí)代下,加速了不少行業(yè)的業(yè)務(wù)在線化和數(shù)字化運(yùn)營(yíng),企業(yè)對(duì)數(shù)據(jù)價(jià)值挖掘的需求越發(fā)強(qiáng)烈,亞馬遜云 科技 大中華區(qū)產(chǎn)品部總經(jīng)理顧凡詳細(xì)介紹其中四大趨勢(shì):

一是伴隨互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)的發(fā)展,電商、視頻、社交、出行等新應(yīng)用場(chǎng)景的興起,不僅數(shù)據(jù)量大,對(duì)數(shù)據(jù)實(shí)時(shí)性要求極高,傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)無(wú)法滿足需求,因此驅(qū)動(dòng)云原生數(shù)據(jù)庫(kù)的出現(xiàn)。

二是開源數(shù)據(jù)庫(kù)的廣泛應(yīng)用。

三是應(yīng)用程序現(xiàn)代化對(duì)數(shù)據(jù)庫(kù)提出更高要求,期待數(shù)據(jù)庫(kù)擁有更高的性能、可擴(kuò)展性、可用性以及降低成本,讓開發(fā)人員專注于核心業(yè)務(wù)的應(yīng)用開發(fā),不用關(guān)注和核心業(yè)務(wù)無(wú)關(guān)的代碼。

四是軟件架構(gòu)歷經(jīng) PC、互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng),再到如今的萬(wàn)物互聯(lián)時(shí)代,其中的迭代和轉(zhuǎn)型正在驅(qū)動(dòng)數(shù)據(jù)庫(kù)選型的變化。

在此四大趨勢(shì)下,伴隨企業(yè)的業(yè)務(wù)量越來(lái)越大、越來(lái)越復(fù)雜,對(duì)數(shù)據(jù)庫(kù)的要求越來(lái)越高。亞馬遜云 科技 洞察客戶需求,在打造云上數(shù)據(jù)庫(kù)產(chǎn)品時(shí)提出五大理念:

一是專庫(kù)專用,極致性能;二是無(wú)服務(wù)器,敏捷創(chuàng)新;第三是全球架構(gòu),一鍵部署;第四是平滑遷移,加速上云;第五是 AI 賦能,深度集成。

02 歷經(jīng)真實(shí)錘煉,五大數(shù)據(jù)庫(kù)理念,持續(xù)賦能企業(yè)數(shù)智轉(zhuǎn)型

顧凡表示,隨著數(shù)據(jù)爆炸式增長(zhǎng),微服務(wù)架構(gòu)與 DevOps 愈發(fā)流行的今天,一個(gè)數(shù)據(jù)庫(kù)打天下的時(shí)代已然過(guò)去。我們需要在不同的應(yīng)用場(chǎng)景下,針對(duì)不同的數(shù)據(jù)類型和不同的數(shù)據(jù)訪問(wèn)特點(diǎn),為開發(fā)者和企業(yè)提供專門構(gòu)建的工具。

所以亞馬遜云 科技 提出 第一個(gè)核心數(shù)據(jù)庫(kù)理念:專庫(kù)專用 。在此理念下,推出針對(duì)關(guān)系數(shù)據(jù)、鍵值數(shù)據(jù)、文檔數(shù)據(jù)、內(nèi)存數(shù)據(jù)、圖數(shù)據(jù)、時(shí)許數(shù)據(jù)、分類賬數(shù)據(jù)、寬列等專門構(gòu)建數(shù)據(jù)庫(kù)的產(chǎn)品家族。

這些數(shù)據(jù)庫(kù)產(chǎn)品均經(jīng)歷過(guò)亞馬遜內(nèi)部核心業(yè)務(wù)的真實(shí)錘煉,成績(jī)斐然:

亞馬遜電商當(dāng)年是 Oracle 的客戶之一,隨著亞馬遜電商的應(yīng)用重構(gòu)和業(yè)務(wù)體量發(fā)展,亞馬遜電商決定將業(yè)務(wù)遷移到亞馬遜云 科技 里。100 多個(gè)團(tuán)隊(duì)參與這龐大的遷移工作中,將亞馬遜電商采購(gòu)、目錄管理、訂單執(zhí)行、廣告、財(cái)務(wù)系統(tǒng)、錢包、視頻流等關(guān)鍵系統(tǒng)全部從 Oracle 遷出來(lái)。2019 年,亞馬遜將存儲(chǔ)近 7500 個(gè)Oracle 數(shù)據(jù)庫(kù)中的 75 PB 內(nèi)部數(shù)據(jù)遷移到多項(xiàng)亞馬遜云 科技 的數(shù)據(jù)庫(kù)服務(wù)中,包括 Amazon DynamoDB、Amazon Aurora、Amazon ElastiCache,于是亞馬遜電商成為亞馬遜云 科技 在全球的“第一大客戶”。

從 Oracle 切換到亞馬遜云 科技 后,亞馬遜電商節(jié)省了 60% 成本,面向消費(fèi)者端的應(yīng)用程序延遲降低 40%,數(shù)據(jù)庫(kù)管理支出減少 70%。

以被譽(yù)為“亞馬遜云 科技 歷史 上用戶數(shù)量增速最快的云服務(wù)”Amazon Aurora 為例,其擁有科媲美高端商業(yè)數(shù)據(jù)庫(kù)的速度和可用性,還擁有開源數(shù)據(jù)庫(kù)的簡(jiǎn)單性與成本效益,Amazon Aurora 讓客戶滿足“魚和熊掌兼得”需求。

據(jù)顧凡介紹,Amazon Aurora 可提供 5 倍于標(biāo)準(zhǔn) MySQL 性能,3 倍于 PostgreSQL 吞吐量。同時(shí)提供高可用,可用區(qū)(AZ)+1的高可用,Global Databases 可完成跨區(qū)域?yàn)?zāi)備。可擴(kuò)展到 15 個(gè)只讀副本,成本只有商業(yè)數(shù)據(jù)庫(kù)的 1/10。

醫(yī)藥企業(yè)九州通為藥廠、供應(yīng)商,搭建藥廠、供應(yīng)商、消費(fèi)者提供供應(yīng)鏈鏈條。其 B2B 系統(tǒng)的業(yè)務(wù)特點(diǎn)是讀多寫少,受促銷活動(dòng)、工作時(shí)間等影響,經(jīng)常會(huì)出現(xiàn)波峰波谷落差較大的情況,讀寫比例在 7:2 或者 8:3。九州通采用 Amazon Aurora 后實(shí)現(xiàn)讀寫分離和按需擴(kuò)展,整體數(shù)據(jù)庫(kù)性能提升 5 倍,TCO 降低 50%。實(shí)現(xiàn)了跨可用區(qū)部署、負(fù)載均衡、自動(dòng)故障轉(zhuǎn)移、精細(xì)監(jiān)控、按需自動(dòng)伸縮等。

據(jù)權(quán)威機(jī)構(gòu)預(yù)測(cè),到 2022 年,75% 數(shù)據(jù)庫(kù)將被部署或遷移至云平臺(tái)。在這個(gè)過(guò)程中,亞馬遜云 科技 是如何通過(guò)技術(shù)來(lái)幫助客戶加速應(yīng)用上云的?這離不開除了上述的“專庫(kù)專用”外,以下四大理念:

第二個(gè)理念是無(wú)服務(wù)器、敏捷創(chuàng)新。 亞馬遜云 科技 大中華區(qū)產(chǎn)品部數(shù)據(jù)類產(chǎn)品高級(jí)經(jīng)理王曉野表示,企業(yè)業(yè)務(wù)總有波峰波谷之時(shí),如何按照企業(yè) 80-90% 的業(yè)務(wù)峰值來(lái)規(guī)劃數(shù)據(jù)庫(kù)的存儲(chǔ)容量和計(jì)算資源的話,將給應(yīng)用帶來(lái)一定的業(yè)務(wù)連續(xù)性的妥協(xié)和挑戰(zhàn)。因此大多數(shù)企業(yè)都是按照峰值留有余地來(lái)選擇數(shù)據(jù)庫(kù)的計(jì)算資源,這將造成成本上的浪費(fèi)。而 Serverless 數(shù)據(jù)庫(kù)服務(wù)可完成無(wú)差別的繁復(fù)工作和自動(dòng)化擴(kuò)展。

Amazon DynamoDB 是亞馬遜云 科技 自研 Serverless 數(shù)據(jù)庫(kù),其誕生最早可追溯到 2004 年,當(dāng)時(shí)亞馬遜電商作為 Oracle 的客戶,盡管對(duì)于關(guān)系型數(shù)據(jù)庫(kù)在零售場(chǎng)景的需求并不頻繁,70% 均是鍵值類操作,此時(shí)倒逼亞馬遜電商思考:為什么要把關(guān)系型數(shù)據(jù)庫(kù)這么重得使用?我們可以設(shè)計(jì)一款支持讀寫、可橫向擴(kuò)展的分布式數(shù)據(jù)庫(kù)嗎?后來(lái)的故事大家都知道了,這款數(shù)據(jù)庫(kù)就是 Amazon DynamoDB,并在 2007 年發(fā)表論文,掀起業(yè)界 NoSQL 分布式數(shù)據(jù)庫(kù)技術(shù)創(chuàng)新大潮。

Amazon DynamoDB 可為大規(guī)模應(yīng)用提供支持,支撐亞馬遜自身多個(gè)高流量網(wǎng)站和系統(tǒng),如亞馬遜電商網(wǎng)站、亞馬遜全球 442 個(gè)物流中心等。在亞馬遜電商一年一度 Prime Day,光是針對(duì)DynamoDB API 的調(diào)用達(dá)到數(shù)萬(wàn)億次,最高峰值請(qǐng)求達(dá)到每秒 8920 萬(wàn)次。由此可見,DynamoDB 擁有高吞吐、擴(kuò)展性、一致性、可預(yù)測(cè)響應(yīng)延遲、高可用等優(yōu)勢(shì)。

智能可穿戴設(shè)備廠商華米 科技 ,在全球 70 多個(gè)國(guó)家擁有近 1 億用戶。僅 2020 年上半年,其手表出貨量超 174 萬(wàn)臺(tái),截止到 2021 年 2 月,華米 科技 的可穿戴設(shè)備累計(jì)記錄步數(shù)是 151 萬(wàn)步,累計(jì)記錄的睡眠時(shí)間是 128 億個(gè)夜晚,記錄心率總時(shí)長(zhǎng)達(dá) 1208 億個(gè)小時(shí)。如此龐大的數(shù)據(jù)同時(shí)必須保證極高的安全性和低延遲相應(yīng),如何保證穩(wěn)定性是巨大的挑戰(zhàn)。

DynamoDB 幫助華米 科技 在任何規(guī)模下都能提供延遲不超過(guò) 10 毫秒的一致響應(yīng)時(shí)間。華米 科技 健康 云的 P0 和 P1 級(jí)別故障減少了約 30%,總體服務(wù)可用性提升了 0.25%,系統(tǒng)可用性指標(biāo)達(dá)到 99.99%,為華為 科技 全球化擴(kuò)展提供了有力的支撐。

最新無(wú)服務(wù)數(shù)據(jù)庫(kù)產(chǎn)品是 Amazon Aurora Serverless V2 提供瞬間擴(kuò)展能力,真正把擴(kuò)展能力發(fā)揮到極致,在不到一秒的時(shí)間內(nèi),將幾百個(gè)事務(wù)擴(kuò)展到數(shù)十萬(wàn)的級(jí)別。同時(shí)在擴(kuò)展時(shí)每一次調(diào)整的增量都是非常精細(xì)化的去管理,如果按照峰值來(lái)規(guī)劃數(shù)據(jù)庫(kù)資源,可實(shí)現(xiàn)大概90%的成本節(jié)省。目前 Amazon Aurora Serverless V2 在全球?qū)崿F(xiàn)預(yù)覽。

第三個(gè)理念是全球架構(gòu)、一鍵部署。 在全球化的今天,如何支撐全球客戶的業(yè)務(wù)擴(kuò)展連續(xù)性、一致性、以最低延遲帶給到終端客戶上,對(duì)數(shù)據(jù)庫(kù)提出新的挑戰(zhàn)。

亞馬遜云 科技 提供 Amazon Aurora 關(guān)系型數(shù)據(jù)庫(kù)Global Database、Amazon DynamoDB、Amazon ElastiCache 內(nèi)存數(shù)據(jù)庫(kù)、Amazon DocumentDB 文檔數(shù)據(jù)庫(kù)都能利用亞馬遜云 科技 的骨干網(wǎng)絡(luò)提供比互聯(lián)網(wǎng)更穩(wěn)定的網(wǎng)絡(luò)支撐,以一鍵部署的方式,幫助客戶實(shí)現(xiàn)幾千公里跨區(qū)域數(shù)據(jù)庫(kù)災(zāi)備,故障恢復(fù)大概能在一分鐘之內(nèi)完成,同時(shí)跨區(qū)域的數(shù)據(jù)復(fù)制延遲通常小于一秒。

第四個(gè)理念是平滑遷移、加速上云。 目前,450000+ 數(shù)據(jù)庫(kù)通過(guò)亞馬遜云 科技 數(shù)據(jù)庫(kù)遷移服務(wù)遷移到亞馬遜云 科技 中,這個(gè)數(shù)字每年都在不斷增長(zhǎng)。亞馬遜云 科技 提供 Amazon DMS、Amazon Database Migration Service 等工具讓開發(fā)者和企業(yè)進(jìn)行自助式云遷移。另外,對(duì)于遷移過(guò)程中可能會(huì)需要的支持,可通過(guò)專業(yè)服務(wù)團(tuán)隊(duì)和合作伙伴網(wǎng)絡(luò)成員,為客戶提供專業(yè)支持,還通過(guò) Database Freedom 項(xiàng)目幫助客戶降低他們的顧慮。

今年 11 月,最新產(chǎn)品 Babelfish for Amazon Aurora PostgreSQL 在全球和中國(guó)兩個(gè)區(qū)域正式可用,可加速企業(yè)上云的遷移,實(shí)現(xiàn)讓企業(yè)可以利用原有的技術(shù)棧、原有的 SQL Server T-SQL的人員可以利用到云數(shù)據(jù)庫(kù)進(jìn)行創(chuàng)新。

第五個(gè)理念是 AI賦能,深度集成。 我們觀察到,ML 技術(shù)賦能數(shù)據(jù)庫(kù)開發(fā)者,開發(fā)者無(wú)需具備機(jī)器學(xué)習(xí)專業(yè)知識(shí),就可進(jìn)行機(jī)器學(xué)習(xí)操作。在此潮流下,亞馬遜云 科技 推出 Amazon Neptune,借由 Deep Graph Library 和 Amazon SageMaker 驅(qū)動(dòng)圖神經(jīng)網(wǎng)絡(luò)。

今年 8 月,Neptune ML 在中國(guó)正式可用,允許數(shù)據(jù)工程師不需要掌握機(jī)器學(xué)習(xí)的技能直接從圖數(shù)據(jù)庫(kù)里導(dǎo)出數(shù)據(jù)、轉(zhuǎn)換格式、訓(xùn)練模型并發(fā)布,用 gremlin 語(yǔ)句調(diào)用訓(xùn)練成的模型在數(shù)據(jù)庫(kù)里實(shí)現(xiàn)推理,進(jìn)行欺詐檢測(cè),推薦物品。

目前,亞馬遜云 科技 加速在中國(guó)區(qū)域服務(wù)落地,2021年至今新發(fā)布 60 多個(gè)數(shù)據(jù)庫(kù)服務(wù)與功能。亞馬遜云 科技 正是通過(guò)上述五大數(shù)據(jù)庫(kù)理念,打造豐富的數(shù)據(jù)庫(kù)產(chǎn)品家族,在全球智能化發(fā)展趨勢(shì)下,為企業(yè)提供更快更好的數(shù)智服務(wù),釋放數(shù)據(jù)價(jià)值,并連續(xù)六年入選 Gartner 領(lǐng)導(dǎo)者象限,得到業(yè)界和客戶的深度認(rèn)可。


當(dāng)前標(biāo)題:nosqlcache的簡(jiǎn)單介紹
URL分享:http://fisionsoft.com.cn/article/dsiejdj.html