百万并发的终极杀招 "多级缓存"
plus 版本专属
此章节是黑马点评 Plus 版本中专有的内容，而在整套文档中将普通版本和 Plus 版本都融合在了一起，让大家更方便的学习。
在上章节，讲解了项目中通过利用 双重判断 + 缓存空值 + 分布式锁 + 布隆过滤器 组合的方案来解决缓存击穿和穿透的问题。
但是当并发足够高的时候，Redis的性能也会支撑不了的，有的人可能会说 可以使用Redis的集群架构啊，这样不就能把数据分散到不同的节点上而从降低压力了吗
这种使用Redis集群的方案其实要分情况来考虑的
- 比如说100W个并发请求，查询100个优惠券，每1W个请求查询同一个优惠券，这种查询不同的优惠券，使用集群确实可以的
- 还是100W个并发请求，查询同一个优惠券，这100W个请求仍然会落到同一个Redis节点上，使用集群仍然解决不了
思考
但什么样的缓存比Redis的性能还要高？
大道至简，其实就是JVM的内存本地缓存，本地缓存的性能可是比Redis高出了几十倍不止，并且也不存在网络性能损耗，抗住百万并发是没什么问题的
但引入了本地缓存要思考的问题就很多了，比如 如何设计本地缓存？如何管理本地缓存、Redis缓存这种多层级的缓存、本地缓存要怎么考虑容量和过期时间来避免内存溢出的问题？
一、本地缓存的引入
所以这里我们要引用本地缓存来解决高并发的压力，原因有这几点：
- 使用JVM的内存作为本地缓存，其效率是Reids的几十倍以上
- 使用本地缓存不存在网络性能损耗
1.1 引入本地缓存要考虑的问题
- 如何设计本地缓存？
- 如何管理本地缓存、Redis缓存这种多层级的缓存？
- 本地缓存要怎么考虑容量和过期时间来避免内存溢出的问题？
- 缓存一致性要怎么解决？多实例情况怎么解决？
1.2 本地缓存 Caffeine
1.2.1 Caffeine 是什么
- Caffeine 是基于 Java 的高性能本地缓存库，采用哈希结构与基于访问频次的 Window TinyLFU 策略，命中率高、延迟低。
- 内建丰富策略：容量限制、基于时间/权重的过期、异步刷新、统计监控等，可通过流式 API 组合使用。
- 相比 Guava Cache，Caffeine 在并发性能、命中率和可配置性上全面升级，成为 JVM 场景的事实标准本地缓存实现。
1.2.2 Caffeine 的核心特性
- 高命中率策略：Window TinyLFU 同时考虑近期访问和历史访问权重，兼顾冷热数据。
- 多样化过期机制：支持固定 TTL、基于写入/访问/自定义逻辑的动态过期。
- 异步能力：与
CompletableFuture配合处理缓存穿透导致的 I/O 延迟。 - 线程安全：内部使用无锁算法和分段结构，提供高吞吐的并发访问。
- 可观测性：提供命中率、加载耗时等监控指标，方便调优。
1.2.3 官方地址：
GitHub - ben-manes/caffeine: A high performance caching library for Java
二、Caffeine 缓存的使用
而在本章节，要引入本地缓存 Caffeine，和 Redis 缓存共同组合成“多极缓存”的功能，在解决缓存击穿和缓存穿透的前提下，来进一步提高项目中的吞吐量。
2.1 优惠券本地缓存的代码实现
付费内容提示
该文档的全部内容仅对「JavaUp项目实战&技术讲解」知识星球用户开放
加入星球后，你可以获得：
- 超级八股文：100万+字的全栈技术知识库，涵盖技术核心、数据库、中间件、分布式等深度剖析的讲解
- 讲解文档：黑马点评Plus、大麦、大麦pro、大麦AI、流量切换、数据中台的从0到1的550+详细文档
- 讲解视频：黑马点评Plus、大麦、大麦pro、大麦AI、流量切换、数据中台的核心业务详细讲解
- 1 对 1 解答：可以对我进行1对1的问题提问，而不仅仅只限于项目
- 针对性服务：有没理解的地方，文档或者视频还没有讲到可以提出，本人会补充
- 面试与简历指导：提供面试回答技巧，项目怎样写才能在简历中具有独特的亮点
- 中间件环境：对于项目中需要使用的中间件，可直接替换成我提供的云环境
- 面试后复盘：小伙伴去面试后，如果哪里被面试官问住了，可以再找我解答
- 远程的解决：如果在启动项目遇到问题，本人可以帮你远程解决
进入星球后，即可享受上述所有服务，保证不会再有其他隐藏费用。
