一、摘要

說(shuō)到緩存，面試官基本上會(huì)繞不開(kāi)以下幾個(gè)話(huà)題！

項(xiàng)目中哪些地方用到了緩存？為什么要使用緩存？怎么使用它的？引入緩存后會(huì)帶來(lái)哪些問(wèn)題？

這些問(wèn)題，基本上是互聯(lián)網(wǎng)公司面試時(shí)必問(wèn)的一些問(wèn)題，如果面試的時(shí)候，連緩存都不清楚，那確實(shí)多少顯的有些尷尬！

項(xiàng)目里面為什么要引入緩存？這個(gè)問(wèn)題還得結(jié)合項(xiàng)目中的業(yè)務(wù)來(lái)回答！

引入緩存，其實(shí)主要有兩個(gè)用途： 高性能 、 高并發(fā) ！

假設(shè)某個(gè)操作非常頻繁，比如網(wǎng)站的商城首頁(yè)，需要頻繁的從數(shù)據(jù)庫(kù)里面獲取商品數(shù)據(jù)，可能從數(shù)據(jù)庫(kù)一頓各種亂七八糟的操作下來(lái)，平均耗時(shí) 500 ms，隨著請(qǐng)求頻次越高，用戶(hù)等待數(shù)據(jù)的返回結(jié)果時(shí)間越來(lái)越長(zhǎng)，體驗(yàn)越來(lái)越差。

如果此時(shí)， 引入緩存 ，將數(shù)據(jù)庫(kù)里面查詢(xún)出來(lái)的商品數(shù)據(jù)信息，放入緩存服務(wù)里面，當(dāng)用戶(hù)再此發(fā)起查詢(xún)操作的時(shí)候，直接從緩存服務(wù)里面獲取，速度從耗時(shí) 500 ms，可能直接優(yōu)化成 5 ms，體驗(yàn)上瞬間會(huì)上升好幾個(gè)層次！

這就是引入緩存帶來(lái)的高性能體驗(yàn)結(jié)果 ！

當(dāng)然，除此之外， 引入緩存之前 ，以 mysql 數(shù)據(jù)庫(kù)為例，單臺(tái)機(jī)器一秒內(nèi)的請(qǐng)求次數(shù)到達(dá) 2000 之后就會(huì)開(kāi)始報(bào)警； 引入緩存之后 ，比如以 redis 緩存服務(wù)器為例，單臺(tái)機(jī)器一秒內(nèi)的請(qǐng)求次數(shù)支持 110000 次，兩者支持的并發(fā)量完全不是一個(gè)數(shù)量級(jí)的。

這就是引入緩存帶來(lái)的高并發(fā)體驗(yàn)結(jié)果 ！

尤其是對(duì)于流量很大的業(yè)務(wù)，引入緩存，給系統(tǒng)帶來(lái)的提升是十分顯著的 。

可能有的同學(xué)又會(huì)發(fā)出疑問(wèn)，緩存和數(shù)據(jù)庫(kù)為啥差距這么大，有啥區(qū)別？

我們都知道在計(jì)算機(jī)領(lǐng)域，數(shù)據(jù)的存儲(chǔ)主要有兩處： 一處是內(nèi)存，另一處是磁盤(pán) 。

在計(jì)算機(jī)中，內(nèi)存的數(shù)據(jù)讀寫(xiě)性能遠(yuǎn)超磁盤(pán)的讀寫(xiě)性能，盡管如此，其實(shí)兩者也有不同，如果數(shù)據(jù)存儲(chǔ)到內(nèi)存中，雖然讀寫(xiě)性能非常高，但是當(dāng)電腦重啟之后，數(shù)據(jù)會(huì)全部清除；而存入磁盤(pán)的數(shù)據(jù)，雖然讀寫(xiě)性能很差，但是電腦重啟之后數(shù)據(jù)不會(huì)丟失。

因?yàn)閮烧叩臄?shù)據(jù)存儲(chǔ)方案不同，造就了不同的實(shí)踐用途 ！

我們上面講到的緩存服務(wù)，其實(shí)本質(zhì)就是將數(shù)據(jù)存儲(chǔ)到內(nèi)存中；而數(shù)據(jù)庫(kù)服務(wù)，是將數(shù)據(jù)寫(xiě)入到磁盤(pán)，從磁盤(pán)中讀取數(shù)據(jù)。

無(wú)論是哪種方案，沒(méi)有絕對(duì)的好與壞，主要還是取決于實(shí)際的業(yè)務(wù)用途。

在項(xiàng)目中如何引入緩存呢？我們通常的做法如下：

操作步驟：

• 1.當(dāng)用戶(hù)發(fā)起訪(fǎng)問(wèn)某數(shù)據(jù)的操作時(shí)，檢查緩存服務(wù)里面是否存在，如果存在，直接返回；如果不存在，走數(shù)據(jù)庫(kù)的查詢(xún)服務(wù)
• 2.從數(shù)據(jù)庫(kù)里面獲取到有效數(shù)據(jù)之后，存入緩存服務(wù)，并返回給用戶(hù)
• 3.當(dāng)被訪(fǎng)問(wèn)的數(shù)據(jù)發(fā)生更新的時(shí)候，需要同時(shí)刪除緩存服務(wù)，以便用戶(hù)再次查詢(xún)的時(shí)候，能獲取到最新的數(shù)據(jù)

當(dāng)然以上的緩存處理辦法，對(duì)于簡(jiǎn)單的需要緩存的業(yè)務(wù)場(chǎng)景，能輕松應(yīng)對(duì)。

但是面對(duì)復(fù)雜的業(yè)務(wù)場(chǎng)景和服務(wù)架構(gòu)，尤其是對(duì)緩存要求比較高的業(yè)務(wù)，引入緩存的方式，也會(huì)跟著一起變化！

從緩存面向的對(duì)象不同，緩存分為： 本地緩存 、分布式緩存和 多級(jí)緩存 。

所謂 本地緩存 ，相信大家都能理解，在單個(gè)計(jì)算機(jī)服務(wù)實(shí)例中，直接把數(shù)據(jù)緩存到內(nèi)存中進(jìn)行使用。

但是現(xiàn)在的服務(wù)，大多都是以集群的方式來(lái)部署，你也可以這樣理解，同一個(gè)網(wǎng)站服務(wù)，同時(shí)在兩臺(tái)計(jì)算機(jī)里面部署，比如你用到的session會(huì)話(huà)，就無(wú)法同時(shí)共享，因此需要引入一個(gè)獨(dú)立的緩存服務(wù)來(lái)連接兩臺(tái)服務(wù)器，這個(gè)獨(dú)立部署的緩存服務(wù)，我們把這種技術(shù)實(shí)踐方案稱(chēng)為 分布式緩存 。

在實(shí)際的業(yè)務(wù)中，本地緩存和分布式緩存會(huì)同時(shí)結(jié)合進(jìn)行使用，當(dāng)收到訪(fǎng)問(wèn)某個(gè)數(shù)據(jù)的操作時(shí)，會(huì)優(yōu)先從本地緩存服務(wù)（也叫一級(jí)緩存）查詢(xún)，如果沒(méi)有，再?gòu)姆植际骄彺娣?wù)（也叫二級(jí)緩存）里面獲取，如果也沒(méi)有，最后再?gòu)臄?shù)據(jù)庫(kù)里面獲取；從數(shù)據(jù)庫(kù)查詢(xún)完成之后，在依次更新分布式緩存服務(wù)、本次緩存服務(wù)，我們把這個(gè)技術(shù)實(shí)踐方案叫 多級(jí)緩存 ！

由于篇幅的原因，我們?cè)诤笃诮o大家介紹 分布式緩存服務(wù) 、 多級(jí)緩存服務(wù) 。

今天主要圍繞本地緩存服務(wù)的技術(shù)實(shí)現(xiàn)，給大家進(jìn)行分享和介紹！

二、方案介紹

如果使用過(guò)緩存的同學(xué)，可以很容易想到緩存需要哪些東西，通常我們?cè)谑褂镁彺娴臅r(shí)候，比較關(guān)注兩個(gè)地方，第一是內(nèi)存持久化，第二是支持緩存的數(shù)據(jù)自動(dòng)過(guò)期清楚。

基于以上的要求，我們向介紹以下幾種技術(shù)實(shí)現(xiàn)方案。

2.1、手寫(xiě)一個(gè)緩存服務(wù)

對(duì)于簡(jiǎn)單的數(shù)據(jù)緩存，我們完全可以自行編寫(xiě)一套緩存服務(wù)，實(shí)現(xiàn)過(guò)程如下！

首先創(chuàng)建一個(gè)緩存實(shí)體類(lèi)

public class CacheEntity {

    /**
     * 緩存鍵
     */
    private String key;

    /**
     * 緩存值
     */
    private Object value;

    /**
     * 過(guò)期時(shí)間
     */
    private Long expireTime;

    //...set、get
}

接著，編寫(xiě)一個(gè)緩存操作工具類(lèi)CacheUtils

public class CacheUtils {

    /**
     * 緩存數(shù)據(jù)
     */
    private final static Map< String, CacheEntity > CACHE_MAP = new ConcurrentHashMap<  >();

    /**
     * 定時(shí)器線(xiàn)程池，用于清除過(guò)期緩存
     */
    private static ScheduledExecutorService executor = Executors.newSingleThreadScheduledExecutor();


    static {
        // 注冊(cè)一個(gè)定時(shí)線(xiàn)程任務(wù)，服務(wù)啟動(dòng)1秒之后，每隔500毫秒執(zhí)行一次
        executor.scheduleAtFixedRate(new Runnable() {
            @Override
            public void run() {
                // 清理過(guò)期緩存
                clearCache();
            }
        },1000,500,TimeUnit.MILLISECONDS);
    }

    /**
     * 添加緩存
     * @param key    緩存鍵
     * @param value  緩存值
     */
    public static void put(String key, Object value){
        put(key, value, 0);
    }


    /**
     * 添加緩存
     * @param key    緩存鍵
     * @param value  緩存值
     * @param expire 緩存時(shí)間，單位秒
     */
    public static void put(String key, Object value, long expire){
        CacheEntity cacheEntity = new CacheEntity()
                .setKey(key)
                .setValue(value);
        if(expire > 0){
            Long expireTime = System.currentTimeMillis() + Duration.ofSeconds(expire).toMillis();
            cacheEntity.setExpireTime(expireTime);
        }
        CACHE_MAP.put(key, cacheEntity);
    }


    /**
     * 獲取緩存
     * @param key
     * @return
     */
    public static Object get(String key){
        if(CACHE_MAP.containsKey(key)){
            return CACHE_MAP.get(key).getValue();
        }
        return null;
    }

    /**
     * 移除緩存
     * @param key
     */
    public static void remove(String key){
        if(CACHE_MAP.containsKey(key)){
            CACHE_MAP.remove(key);
        }
    }

    /**
     * 清理過(guò)期的緩存數(shù)據(jù)
     */
    private static void clearCache(){
        if(CACHE_MAP.size() > 0){
            return;
        }
        Iterator< Map.Entry< String, CacheEntity >> iterator = CACHE_MAP.entrySet().iterator();
        while (iterator.hasNext()){
            Map.Entry< String, CacheEntity > entry = iterator.next();
            if(entry.getValue().getExpireTime() != null && entry.getValue().getExpireTime().longValue() > System.currentTimeMillis()){
                iterator.remove();
            }
        }
    }

}

最后，我們來(lái)測(cè)試一下緩存服務(wù)

// 寫(xiě)入緩存數(shù)據(jù)
CacheUtils.put("userName", "張三", 3);

// 讀取緩存數(shù)據(jù)
Object value1 = CacheUtils.get("userName");
System.out.println("第一次查詢(xún)結(jié)果：" + value1);

// 停頓4秒
Thread.sleep(4000);

// 讀取緩存數(shù)據(jù)
Object value2 = CacheUtils.get("userName");
System.out.println("第二次查詢(xún)結(jié)果：" + value2);

輸出結(jié)果，與預(yù)期一致！

第一次查詢(xún)結(jié)果：張三
第二次查詢(xún)結(jié)果：null

實(shí)現(xiàn)思路其實(shí)很簡(jiǎn)單，采用ConcurrentHashMap作為緩存數(shù)據(jù)存儲(chǔ)服務(wù)，然后開(kāi)啟一個(gè)定時(shí)調(diào)度，每隔500毫秒檢查一下過(guò)期的緩存數(shù)據(jù)，然后清除掉！

2.2、基于 Guava Cache 實(shí)現(xiàn)本地緩存

Guava 是 Google 團(tuán)隊(duì)開(kāi)源的一款 Java 核心增強(qiáng)庫(kù)，包含集合、并發(fā)原語(yǔ)、緩存、IO、反射等工具箱，性能和穩(wěn)定性上都有保障，應(yīng)用十分廣泛。

相比自己編寫(xiě)的緩存服務(wù)，Guava Cache 要強(qiáng)大的多，支持很多特性如下：

• 支持最大容量限制
• 支持兩種過(guò)期刪除策略（插入時(shí)間和讀取時(shí)間）
• 支持簡(jiǎn)單的統(tǒng)計(jì)功能
• 基于 LRU 算法實(shí)現(xiàn)

使用方面也很簡(jiǎn)單，首先引入guava庫(kù)包。

< !--guava-- >
< dependency >
    < groupId >com.google.guava< /groupId >
    < artifactId >guava< /artifactId >
    < version >31.1-jre< /version >
< /dependency >

案例代碼如下：

// 創(chuàng)建一個(gè)緩存實(shí)例
Cache< String, String > cache = CacheBuilder.newBuilder()
        // 初始容量
        .initialCapacity(5)
        // 最大緩存數(shù)，超出淘汰
        .maximumSize(10)
        // 過(guò)期時(shí)間
        .expireAfterWrite(3, TimeUnit.SECONDS)
        .build();

// 寫(xiě)入緩存數(shù)據(jù)
cache.put("userName", "張三");

// 讀取緩存數(shù)據(jù)
String value1 = cache.get("userName", () - > {
    // 如果key不存在，會(huì)執(zhí)行回調(diào)方法
    return "key已過(guò)期";
});
System.out.println("第一次查詢(xún)結(jié)果：" + value1);

// 停頓4秒
Thread.sleep(4000);

// 讀取緩存數(shù)據(jù)
String value2 = cache.get("userName", () - > {
    // 如果key不存在，會(huì)執(zhí)行回調(diào)方法
    return "key已過(guò)期";
});
System.out.println("第二次查詢(xún)結(jié)果：" + value2);

輸出結(jié)果：

第一次查詢(xún)結(jié)果：張三
第二次查詢(xún)結(jié)果：key已過(guò)期

2.3、基于 Caffeine 實(shí)現(xiàn)本地緩存

Caffeine 是基于 java8 實(shí)現(xiàn)的新一代緩存工具，緩存性能接近理論最優(yōu)，可以看作是 Guava Cache 的增強(qiáng)版，功能上兩者類(lèi)似，不同的是 Caffeine 采用了一種結(jié)合 LRU、LFU 優(yōu)點(diǎn)的算法：W-TinyLFU，在性能上有明顯的優(yōu)越性。

使用方面也很簡(jiǎn)單，首先引入caffeine庫(kù)包。

< !--caffeine-- >
< dependency >
    < groupId >com.github.ben-manes.caffeine< /groupId >
    < artifactId >caffeine< /artifactId >
    < version >2.9.3< /version >
< /dependency >

案例代碼如下：

// 創(chuàng)建一個(gè)緩存實(shí)例
Cache< String, String > cache = Caffeine.newBuilder()
        // 初始容量
        .initialCapacity(5)
        // 最大緩存數(shù)，超出淘汰
        .maximumSize(10)
        // 設(shè)置緩存寫(xiě)入間隔多久過(guò)期
        .expireAfterWrite(3, TimeUnit.SECONDS)
        // 設(shè)置緩存最后訪(fǎng)問(wèn)后間隔多久淘汰，實(shí)際很少用到
        //.expireAfterAccess(3, TimeUnit.SECONDS)
        .build();

// 寫(xiě)入緩存數(shù)據(jù)
cache.put("userName", "張三");

// 讀取緩存數(shù)據(jù)
String value1 = cache.get("userName", (key) - > {
    // 如果key不存在，會(huì)執(zhí)行回調(diào)方法
    return "key已過(guò)期";
});
System.out.println("第一次查詢(xún)結(jié)果：" + value1);

// 停頓4秒
Thread.sleep(4000);

// 讀取緩存數(shù)據(jù)
String value2 = cache.get("userName", (key) - > {
    // 如果key不存在，會(huì)執(zhí)行回調(diào)方法
    return "key已過(guò)期";
});
System.out.println("第二次查詢(xún)結(jié)果：" + value2);

輸出結(jié)果：

第一次查詢(xún)結(jié)果：張三
第二次查詢(xún)結(jié)果：key已過(guò)期

2.4、基于 Encache 實(shí)現(xiàn)本地緩存

Encache 是一個(gè)純 Java 的進(jìn)程內(nèi)緩存框架，具有快速、精干等特點(diǎn)，是 Hibernate 中默認(rèn)的 CacheProvider。

同 Caffeine 和 Guava Cache 相比，Encache 的功能更加豐富，擴(kuò)展性更強(qiáng)，特性如下：

• 支持多種緩存淘汰算法，包括 LRU、LFU 和 FIFO
• 緩存支持堆內(nèi)存儲(chǔ)、堆外存儲(chǔ)、磁盤(pán)存儲(chǔ)（支持持久化）三種
• 支持多種集群方案，解決數(shù)據(jù)共享問(wèn)題

使用方面也很簡(jiǎn)單，首先引入ehcache庫(kù)包。

< !--ehcache-- >
< dependency >
    < groupId >org.ehcache< /groupId >
    < artifactId >ehcache< /artifactId >
    < version >3.9.7< /version >
< /dependency >

案例代碼如下：

/**
 * 自定義過(guò)期策略實(shí)現(xiàn)
 */
public  class CustomExpiryPolicy< K, V > implements ExpiryPolicy< K, V > {

    private final Map< K, Duration > keyExpireMap = new ConcurrentHashMap();


    public Duration setExpire(K key, Duration duration) {
        return keyExpireMap.put(key, duration);
    }

    public Duration getExpireByKey(K key) {
        return Optional.ofNullable(keyExpireMap.get(key))
                .orElse(null);
    }

    public Duration removeExpire(K key) {
        return keyExpireMap.remove(key);
    }

    @Override
    public Duration getExpiryForCreation(K key, V value) {
        return Optional.ofNullable(getExpireByKey(key))
                .orElse(Duration.ofNanos(Long.MAX_VALUE));
    }

    @Override
    public Duration getExpiryForAccess(K key, Supplier< ? extends V > value) {
        return getExpireByKey(key);
    }

    @Override
    public Duration getExpiryForUpdate(K key, Supplier< ? extends V > oldValue, V newValue) {
        return getExpireByKey(key);
    }
}

public static void main(String[] args) throws InterruptedException {
    String userCache = "userCache";

    // 自定義過(guò)期策略
    CustomExpiryPolicy< Object, Object > customExpiryPolicy = new CustomExpiryPolicy<  >();

    // 聲明一個(gè)容量為20的堆內(nèi)緩存配置
    CacheConfigurationBuilder configurationBuilder = CacheConfigurationBuilder
            .newCacheConfigurationBuilder(String.class, String.class, ResourcePoolsBuilder.heap(20))
            .withExpiry(customExpiryPolicy);

    // 初始化一個(gè)緩存管理器
    CacheManager cacheManager = CacheManagerBuilder.newCacheManagerBuilder()
            // 創(chuàng)建cache實(shí)例
            .withCache(userCache, configurationBuilder)
            .build(true);

    // 獲取cache實(shí)例
    Cache< String, String > cache = cacheManager.getCache(userCache, String.class, String.class);
    // 獲取過(guò)期策略
    CustomExpiryPolicy expiryPolicy = (CustomExpiryPolicy)cache.getRuntimeConfiguration().getExpiryPolicy();

    // 寫(xiě)入緩存數(shù)據(jù)
    cache.put("userName", "張三");
    // 設(shè)置3秒過(guò)期
    expiryPolicy.setExpire("userName", Duration.ofSeconds(3));

    // 讀取緩存數(shù)據(jù)
    String value1 = cache.get("userName");
    System.out.println("第一次查詢(xún)結(jié)果：" + value1);

    // 停頓4秒
    Thread.sleep(4000);

    // 讀取緩存數(shù)據(jù)
    String value2 = cache.get("userName");
    System.out.println("第二次查詢(xún)結(jié)果：" + value2);
}

輸出結(jié)果：

第一次查詢(xún)結(jié)果：張三
第二次查詢(xún)結(jié)果：null

三、小結(jié)

從易用性角度看：Guava Cache、Caffeine 和 Encache 都有十分成熟的接入方案，使用簡(jiǎn)單。

從功能性角度看：Guava Cache 和 Caffeine 功能類(lèi)似，都是只支持堆內(nèi)緩存，Encache 相比功能更為豐富，不僅支持堆內(nèi)緩存，還支持磁盤(pán)寫(xiě)入、集群實(shí)現(xiàn)。

從性能角度看：Caffeine 最優(yōu)、GuavaCache 次之，Encache 最差。

以下是網(wǎng)絡(luò)上三者性能對(duì)比的結(jié)果。

對(duì)于本地緩存的技術(shù)選型， 推薦采用 Caffeine ，性能上毫無(wú)疑問(wèn)，遙遙領(lǐng)先。

雖然 Encache 功能非常的豐富，甚至提供了持久化和集群的功能，但是相比更成熟的分布式緩存中間件 redis 來(lái)說(shuō)，還是稍遜一些！

關(guān)于 redis 的使用，有興趣的同學(xué)可以查看歷史文章，之前有寫(xiě)過(guò) redis 系列相關(guān)的技術(shù)實(shí)踐介紹。