欢乐颂小说txt,玄幻小说排行榜完本,完美世界小说下载

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案

緩存系統(tǒng)中面臨的雪崩/穿透/一致性問題

There are only two hard things in Computer Science: cache invalidation and naming things.

成都創(chuàng)新互聯(lián)專業(yè)為企業(yè)提供牡丹網(wǎng)站建設(shè)、牡丹做網(wǎng)站、牡丹網(wǎng)站設(shè)計(jì)、牡丹網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計(jì)與制作、牡丹企業(yè)網(wǎng)站模板建站服務(wù)，十余年牡丹做網(wǎng)站經(jīng)驗(yàn)，不只是建網(wǎng)站，更提供有價(jià)值的思路和整體網(wǎng)絡(luò)服務(wù)。

計(jì)算機(jī)科學(xué)中有兩件難事：緩存失效和命名

– Phil Karlton

From Martin Fowler : TwoHardThings

緩存系統(tǒng)一定程度上極大提升系統(tǒng)并發(fā)能力，但同樣也增加額外技術(shù)考慮因素，下面針對緩存系統(tǒng)設(shè)計(jì)與使用中面臨的常見問題展開。

緩存應(yīng)用的典型場景
緩存雪崩
緩存穿透
緩存更新與數(shù)據(jù)一致性

緩存應(yīng)用的典型場景

請求->緩存->***緩存則返回?cái)?shù)據(jù)->無緩存則讀取原始數(shù)據(jù)源

緩存定位 ：前置數(shù)據(jù)加載，避免數(shù)據(jù)回源，提供高性能、高并發(fā)的數(shù)據(jù)讀取能力；只有未***緩存時(shí)才進(jìn)行數(shù)據(jù)回源，極大減輕原始數(shù)據(jù)讀取的壓力

緩存分類 ：按緩存系統(tǒng)所處位置不同，分為本地緩存、分布式緩存

本地緩存：內(nèi)存級(jí)緩存、文件級(jí)緩存，內(nèi)存級(jí)緩存優(yōu)勢在于本地內(nèi)存I/O、高性能(單次內(nèi)存尋址100ns)，缺點(diǎn)在于空間有限，無法多端數(shù)據(jù)同步，此類方案有PHP的Opcache/Yac, Java中Encache/GuavaCache/SpringCache等；文件級(jí)緩存依賴磁盤I/O實(shí)現(xiàn)緩存作用，受機(jī)械磁盤尋道性能限制(單次磁盤讀取時(shí)間10ms左右)，或考慮固態(tài)硬盤/Raid優(yōu)化方案，較少使用
分布式緩存：Memcached、Redis等，分布式系統(tǒng)解決緩存容量問題，具備持續(xù)擴(kuò)容能力，但不可避免一次網(wǎng)絡(luò)I/O請求

本文主要討論 分布式緩存 系統(tǒng)設(shè)計(jì)與使用中面臨的問題。

緩存雪崩

定義：緩存雪崩是指緩存系統(tǒng)失效，導(dǎo)致大量請求同時(shí)進(jìn)行數(shù)據(jù)回源，導(dǎo)致數(shù)據(jù)源壓力驟增而崩潰。兩種情況會(huì)導(dǎo)致此問題：1、多個(gè)緩存數(shù)據(jù)同時(shí)失效；2、緩存系統(tǒng)崩潰

緩存同時(shí)失效

在大量緩存同時(shí)失效的情況下，請求回源，導(dǎo)致數(shù)據(jù)源請求暴增而崩潰，系統(tǒng)全局不可用
緩存時(shí)間設(shè)置原則：根據(jù) 緩存數(shù)據(jù)訪問規(guī)律和緩存數(shù)據(jù)不一致的敏感性 要求來選擇緩存時(shí)間
緩存數(shù)據(jù)訪問規(guī)律：如不同緩存數(shù)據(jù)訪問無規(guī)律或相對離散，則不會(huì)存在這些緩存數(shù)據(jù)同時(shí)失效的情況；如 緩存數(shù)據(jù)為批量寫入 (定時(shí)任務(wù)預(yù)熱)，應(yīng)考慮將 緩存時(shí)間離散化 ，避免同時(shí)失效的情況下大量回源請求
緩存數(shù)據(jù)不一致的敏感性：不同應(yīng)用場景下對緩存數(shù)據(jù)的一致性要求不同，緩存時(shí)間的設(shè)置視情況而定
這里也涉及到緩存更新策略問題，錯(cuò)誤的更新策略可能會(huì)先刪除緩存，再設(shè)置緩存，此時(shí)間差范圍內(nèi)的請求會(huì)進(jìn)行回源，會(huì)導(dǎo)致此問題

如何避免應(yīng)考慮： 緩存失效時(shí)間離散化

緩存系統(tǒng)故障

緩存系統(tǒng)整體故障，則整個(gè)緩存系統(tǒng)不可用，大量回源請求，且由于緩存系統(tǒng)故障無法回寫緩存，導(dǎo)致無法快速恢復(fù)。

一句老話：為解決一個(gè)問題，引入新的解決方案，同時(shí)也必然引入新的問題。

這也是緩存系統(tǒng)的引入，在解決高性能、高并發(fā)的同時(shí)，引入了新的故障點(diǎn)。

考慮此問題，應(yīng)從事前、事故中、事后不同階段考慮：

事前：增加緩存系統(tǒng) 高可用方案設(shè)計(jì) ，避免出現(xiàn)系統(tǒng)性故障
事故中：
```
熔斷限流機(jī)制
```
事后：緩存 數(shù)據(jù)持久化 ，在故障后 快速恢復(fù) 緩存系統(tǒng)

緩存穿透

定義：緩存穿透是指訪問不存在數(shù)據(jù)，從而繞過緩存，直取數(shù)據(jù)源（大量數(shù)據(jù)源讀取操作）

解決緩存穿透的思路：

不存在資源訪問時(shí)，在緩存系統(tǒng)設(shè)置空值來攔截
- 優(yōu)點(diǎn)：實(shí)現(xiàn)簡單
- 問題：大量非法請求時(shí)，緩存系統(tǒng)被填充大量非法值
根據(jù)資源設(shè)置攔截機(jī)制（布隆過濾器bloomfilter或壓縮filter過濾有效資源，如有效用戶id等；也可以全局保存有效資源摘要，專用過濾、防穿透）
- 優(yōu)點(diǎn)：緩存系統(tǒng)空間利用較好
- 問題：過濾器實(shí)現(xiàn)機(jī)制和數(shù)據(jù)一致性要求

緩存更新與數(shù)據(jù)一致性

緩存系統(tǒng)數(shù)據(jù)的更新策略是需要專門開題來說的，建議閱讀左耳朵耗子：緩存更新的套路系統(tǒng)了解，這里只根據(jù)實(shí)際經(jīng)驗(yàn)給出在不同一致性要求下的建議。

一種常見緩存更新策略（此方案有問題）：

讀操作：***緩存則返回，無緩存則取回源數(shù)據(jù)，寫緩存
寫操作：先刪除緩存，再更新數(shù)據(jù)源

問題場景：讀寫并發(fā)的場景下先刪緩存操作可能導(dǎo)致臟數(shù)據(jù)入緩存

寫操作：刪除緩存
讀操作：無緩存則取回源數(shù)據(jù)（舊數(shù)據(jù)），回寫緩存（此時(shí)緩存中為舊數(shù)據(jù)）
寫操作：更新數(shù)據(jù)源
此時(shí)緩存數(shù)據(jù)不一致：緩存中為舊數(shù)據(jù)，數(shù)據(jù)源為新數(shù)據(jù)，出現(xiàn)緩存舊數(shù)據(jù)問題

幾種更新緩存的策略：

Cache Aside Pattern：緩存失效時(shí)回源取數(shù)據(jù)，更新緩存；***緩存時(shí)，返回緩存數(shù)據(jù)；先數(shù)據(jù)源更新后，再失效緩存（由等待下次讀取來回寫緩存）
- 優(yōu)勢：無緩存舊數(shù)據(jù)問題、緩存系統(tǒng)維護(hù)簡單、Facebook推薦方案
- 問題：無法絕對杜絕并發(fā)讀寫問題
  - 緩存過期的背景下，讀操作回源取數(shù)據(jù)（此時(shí)為舊數(shù)據(jù)）
  - 寫操作：更新數(shù)據(jù)源，失效緩存
  - 讀操作：將回源數(shù)據(jù)（舊數(shù)據(jù)）寫緩存，出現(xiàn)緩存數(shù)據(jù)不一致問題
  - 這種問題出現(xiàn)概率極低，幾點(diǎn)要求：緩存已過期、并發(fā)讀寫、讀數(shù)據(jù)比寫數(shù)據(jù)快、但讀操作更新緩存比寫操作失效緩存慢（也就是說寫操作的行為需完全發(fā)生在讀操作兩步之間），一般而言讀操作（讀庫+更新緩存）時(shí)長要小于寫操作（更新數(shù)據(jù)源+失效緩存），所以認(rèn)為這種并發(fā)問題概率較低
  - 是否可進(jìn)一步解決此問題：增加鎖機(jī)制，解決并發(fā)問題
Read Through Pattern：更新數(shù)據(jù)源由緩存系統(tǒng)操作
```
讀取數(shù)據(jù)
```
Write Through Pattern：更新數(shù)據(jù)源由緩存系統(tǒng)操作
```
寫數(shù)據(jù)
Read Through
```
Write Behind Caching Pattern：又稱 Write Back
- 一句話總結(jié)：更新數(shù)據(jù)時(shí)，只更新緩存，不更新數(shù)據(jù)源（緩存 異步批量 更新數(shù)據(jù)源）
- 優(yōu)勢：
  - 更新緩存為內(nèi)存操作，讀寫I/O非常高
  - 異步批量更新數(shù)據(jù)源，合并多個(gè)操作
- 問題：
  - 緩存不滿足強(qiáng)一致性要求
  - 強(qiáng)一致性和高性能的沖突 、 高可用和高性能的沖突 終究會(huì)使Trade-Off
  - 實(shí)現(xiàn)復(fù)雜，需跟蹤哪些Cache更新，成本較高

總體來說，不同方案在不同場景下是有各自優(yōu)劣的，技術(shù)選型、架構(gòu)設(shè)計(jì)應(yīng)根據(jù)實(shí)際場景取舍，并對選擇方案的利弊有足夠且深入理解。

一般而言，推薦 Cache Aside Pattern 方案，容忍較小概率的不一致（同時(shí)也可以增加鎖機(jī)制解決此低概率并發(fā)問題），簡化緩存系統(tǒng)復(fù)雜度。

當(dāng)前題目：緩存系統(tǒng)中面臨的雪崩/穿透/一致性問題
分享URL：http://fisionsoft.com.cn/article/dpepocs.html