在高性能服务架构设计中，缓存是无法或缺的环节。在实践名目中，咱们通常会将一些热点数据存储在或Memcached等缓存两边件中，只要在缓存访问未命中时才查问数据库。

在提高访问速度的同时，还可以减轻数据库的压力。

为什么要经常使用本地缓存？

随着不时的开展，这个架构也失掉了完善。在某些场景下，仅仅经常使用Redis类的远程缓存或许还不够。须要进一步与本地缓存配合经常使用，比如Guava或许Caffeine，从而再次提高程序的照应速度和服务性能。

由此，构成了以本地缓存作为一级缓存、远程缓存作为二级缓存的二级缓存架构。

总结：

本地存储的基本色能

打算选用

1.经常使用ConcurrentHashMap。

缓存的实质是KV存储在内存中的数据结构，对应JDK中的线程安保ConcurrentHashMap，然而要成功缓存，须要思考消弭、最大限度、消弭缓存过时期间等性能。

优势ConcurrentHashMap是成功繁难，不须要引入第三方包，所以比拟适宜一些繁难的业务场景。

缺陷是假设须要更多的性能，须要定制开发，老本会比拟高，稳固性和牢靠性难以保障。

关于更复杂的场景，倡导经常使用相对稳固的开源工具。

2.经常使用Guava缓存

Guava是团队开源的一个外围增强库。它包含汇合、并发原语、缓存、IO、反射和其余工具箱。性能和稳固性有保障，运行宽泛。

示例代码如下

<dependency><dependency><groupId>com.google.guava</groupId><artifactId>guava</artifactId><version>31.1-jre</version></dependency>

@Slf4jpublicclassGuavaCacheTest{publicstaticvoidmn(String[]args)throwsExecutionException{Cache<String,String>cache=CacheBuilder.newBuilder().initialCapacity(5)//初始容量.maximumSize(10)//缓存的最大数量，超越该数量将被淘汰.expireAfterWrite(60,TimeUnit.SECONDS)//过时期间.build();StringorderId=String.valueOf(123456789);StringorderInfo=cache.get(orderId,()->getInfo(orderId));log.info("orderInfo={}",orderInfo);}privatestaticStringgetInfo(StringorderId){Stringinfo="";//首先查redislog.info("get>Encache是​一个纯Java进程内缓存框架，极速且精简。它是Hibernate中自动的CacheProvider。与Caffeine和GuavaCache相比，Encache性能更丰盛，可裁减性更强。支持LRU、LFU、FIFO等多种缓存淘汰算法。
缓存支持三种类型：堆内存储、堆外存储、磁盘存储（支持耐久化）。
支持多种集群打算，处置数据共享疑问。
经常使用方法如下:
<dependency><dependency><groupId>org.ehcache</groupId><artifactId>ehcache</artifactId><version>3.9.7</version></dependency>
@Slf4jpublicclassEhcacheTest{privatestaticfinalStringORDER_CACHE="orderCache";publicstaticvoidmain(String[]args){CacheManagercacheManager=CacheManagerBuilder.newCacheManagerBuilder()//创立实例.withCache(ORDER_CACHE,CacheConfigurationBuilder//申明一个容量为20的堆内缓存.newCacheConfigurationBuilder(String.class,String.class,ResourcePoolsBuilder.heap(20))).build(true);//失掉缓存实例Cache<String,String>cache=cacheManager.getCache(ORDER_CACHE,String.class,String.class);StringorderId=String.valueOf(123456789);StringorderInfo=cache.get(orderId);if(StrUtil.isBlank(orderInfo)){orderInfo=getInfo(orderId);cache.put(orderId,orderInfo);}log.info("orderInfo={}",orderInfo);}privatestaticStringgetInfo(StringorderId){Stringinfo="";//首先从redis查log.info("get>本地缓存经常出现疑问
1.缓存分歧性。
二级缓存和数据库中的数据必定分歧。一旦数据被修正，本地缓存和远程缓存应在数据库修正的同时同步降级。
处置打算1：经常使用MQ。
目前的部署普通都是集群部署，不同节点有多个本地缓存。可以应用MQ的广播形式，在数据修正时向MQ发送信息，由节点监听并消费该信息，删除本地缓存，到达最终分歧性。
处置打算二：Canal+MQ。
假设你的业务代码中不想发送MQ信息，也可以运行近年来比拟盛行的方法：订阅数据库变卦日志，而后操作缓存。Canal订阅Mysql的Binlog日志，当出现变动时向MQ发送信息，从而也成功了数据的分歧性。
2.如何提高缓存命中率？
缓存适用于读多写少的场景，尽或许关注访问频率高、时效性要求不高的热点业务。访问频率越高，点击率越高。时效性越低，缓存期间越长，相反key、相反恳求数下命中率越高。
缓存的粒度越小，缓存命中率越高。单个key缓存的数据单元越小，被扭转的或许性就越小。
这里的缓存过时战略并不是redis内置的活期删除和惰性删除战略，而是依据业务场景优化了key的过时期间。例如，假设用户的关键信息同时过时，那么当多个用户同时查问时，都会落入数据库，也就是说防止缓存同时失效。
redis缓存必定从数据库加载，所以当第一次性经常使用数据时，redis须要从数据库加载数据。咱们可以在用户访问之前将须要的数据提早加载到缓存中，这样用户第一次性访问时就可以间接去缓存而不用去查问数据库。
缓存击穿和解体也会影响缓存命中率。当然，假设出现的话，运行失败的或许性很大。
留意缓存容量，假设太小，会触发redis内存淘汰机制。线上redis普通性能maxmemory-policyallkeys-lru算法启动内存消弭。
这样就会删除一些key，形成缓存穿透，从而降落缓存命中率，所以须要正当性能缓存容量。

Java语言中内存管理的几个技巧？

从理论上来讲java做的系统并不比其他语言开发出来的系统更占用内存，那么为什么却有这么N多理由来证明它确实占内存呢?两个字，陋习。

(1)别用newBoolean()。

在很多场景中Boolean类型是必须的，比如JDBC中boolean类型的set与get都是通过Boolean封装传递的，大部分ORM也是用Boolean来封装boolean类型的，比如：

(isClosed,newBoolean(true));

(isClosed,newBoolean(isClosed));

(isClosed,newBoolean(i==3));

通常这些系统中构造的Boolean实例的个数是相当多的，所以系统中充满了大量Boolean实例小对象，这是相当消耗内存的。Boolean类实际上只要两个实例就够了，一个true的实例，一个false的实例。

Boolean类提供两了个静态变量：

publicstaticfinalBooleanTRUE=newBoolean(true);

publicstaticfinalBooleanFALSE=newBoolean(false);

需要的时候只要取这两个变量就可以了，

比如：

(isClosed,);

那么像2、3句那样要根据一个boolean变量来创建一个Boolean怎么办呢?可以使用Boolean提供的静态方法()

比如：

(isClosed,(isClosed));

(isClosed,(i==3));

因为valueOf的内部实现是：return(b?TRUE：FALSE);

所以可以节省大量内存。相信如果Java规范直接把Boolean的构造函数规定成private，就再也不会出现这种情况了。

(2)别用newInteger.

和Boolean类似，java开发中使用Integer封装int的场合也非常多，并且通常用int表示的数值通常都非常小。SUNSDK中对Integer的实例化进行了优化，Integer类缓存了-128到127这256个状态的Integer，如果使用(inti)，传入的int范围正好在此内，就返回静态实例。这样如果我们使用代替newInteger的话也将大大降低内存的占用。如果您的系统要在不同的SDK(比如IBMSDK)中使用的话，那么可以自己做了工具类封装一下，比如()，这样就可以在任何SDK中都可以使用这种特性。

(3)用StringBuffer代替字符串相加。

这个我就不多讲了，因为已经被人讲过N次了。我只想将一个不是笑话的笑话，我在看国内某“著名”java开发的WEB系统的源码中，竟然发现其中大量的使用字符串相加，一个拼装SQL语句的方法中竟然最多构造了将近100个string实例。无语中!

(4)过滥使用哈希表

有一定开发经验的开发人员经常会使用hash表(hash表在JDK中的一个实现就是HashMap)来缓存一些数据，从而提高系统的运行速度。比如java课程认为使用HashMap缓存一些物料信息、人员信息等基础资料，这在提高系统速度的同时也加大了系统的内存占用，特别是当缓存的资料比较多的时候。其实我们可以使用

如何使用bloomfilter构建大型Java缓存系统

在如今的软件当中，缓存是解决很多问题的一个关键概念。应用可能会进行CPU密集型运算。当然不想让这些运算一边又一边的重复执行，相反，可以只执行一次， 把这个结果放在内存中作为缓存。有时系统的瓶颈在I/O操作上，比如不想重复的查询数据库，想把结果缓存起来，只在数据发生变化时才去数据查询来更新缓存。

与上面的情况类似，有些场合下需要进行快速的查找来决定如何处理新来的请求。例如，考虑下面这种情况，需要确认一个URL是否指向一个恶意网站，这种需求可能会有很多。如果把所有恶意网站的URL缓存起来，那么会占用很大的空间。或者另一种情况，需要确认用户输入的字符串是包含了美国的地名。像“华盛顿的博物馆”——在这个字符串中，

这就是为什么要跨越基本的数据结构map，在更高级的数据结构像布隆过滤器（bloomfilter）中来寻找答案。可以把布隆过滤器看做Java中的集合（collection），可以往里面添加元素，查询某个元素是否存在（就像一个HashSet）。如果布隆过滤器说没有这个元素，那么可以肯定不含有这个元素，但是如果布隆过滤器说有某个元素，那么这个结果可能是错误的。如果在设计布隆过滤器时足够细心，可以把这种出错的概率控制在可接受范围内。

（1）解释

布隆过滤器被设计为一个具有N的元素的位数组A（bit array），初始时所有的位都置为0.

（2）添加元素

要添加一个元素，需要提供k个哈希函数。每个函数都能返回一个值，这个值必须能够作为位数组的索引（可以通过对数组长度进行取模得到）。然后，把位数组在这个索引处的值设为1。例如，第一个哈希函数作用于元素I上，返回x。类似的，第二个第三个哈希函数返回y与z，那么：

（3）查找元素

通过上面的解释可以知道，如果想设计出一个好的布隆过滤器.必须遵循以下准则：

好的哈希函数能够尽可能的返回宽范围的哈希值。

位数组的大小（用m表示）非常重要：如果太小，那么所有的位很快就都会被赋值为1，这样就增加了误判的几率。

哈希函数的个数（用k表示）对索引值的均匀分配也很重要。

计算m的公式如下：

这里p为可接受的误判率。

计算k的公式如下：

这里k=哈希函数个数，m=位数组个数，n=待检测元素的个数（后面会用到这几个字母）。

（4）哈希算法

哈希算法是影响布隆过滤器性能的地方。需要选择一个效率高但不耗时的哈希函数，在论文《更少的哈希函数，相同的性能指标：构造一个更好的布隆过滤器》中，讨论了如何选用2个哈希函数来模拟k个哈希函数。首先需要计算两个哈希函数h1(x)与h2(x)。然后，可以用这两个哈希函数来模仿产生k个哈希函数的效果：

这里i的取值范围是1到k的整数。

Google guava类库使用这个技巧实现了一个布隆过滤器，哈希算法的主要逻辑如下：

（5）应用

从数学公式中，可以很明显的知道使用布隆过滤器来解决问题。但是，需要很好地理解布隆过滤器所能解决问题的领域。像可以使用布隆过滤器来存放美国的所有城市，因为城市的数量是可以大概确定的，所以可以确定n（待检测元素的个数）的值。根据需求来修改p（误判概率）的值，在这种情况下，能够设计出一个查询耗时少，内存使用率高的缓存机制。

（6）实现

Google Guava类库有一个实现，查看这个类的构造函数，在这里面需要设置待检测元素的个数与误判率。