面试题：缓存设计之广告投放平台缓存性能优化与扩展

缓存架构设计

分布式缓存架构：采用如 Redis Cluster 这种分布式缓存方案。它将数据自动分片存储在多个节点上，每个节点负责一部分数据，从而避免单点故障，提高系统的可用性和扩展性。客户端可以直接连接任意节点进行读写操作，集群会自动重定向请求到正确的节点。
多级缓存架构：结合本地缓存（如 Guava Cache）和分布式缓存。本地缓存用于存储访问频率极高且数据量较小的数据，这样可以减少对分布式缓存的访问压力，加快响应速度。对于那些本地缓存未命中的数据，再去分布式缓存中查找。

一致性哈希算法：在分布式缓存中，使用一致性哈希算法来进行数据分片。它将整个哈希值空间组织成一个虚拟的圆环，每个缓存节点被分配到圆环上的一个点。当有数据需要缓存时，先计算数据的哈希值，然后在圆环上顺时针查找最近的缓存节点来存储数据。这样当增加或减少缓存节点时，只会影响到该节点在圆环上相邻的部分数据，而不是全部数据，大大减少了数据迁移量，保证了系统的扩展性。
按业务维度分片：除了一致性哈希，还可以根据业务维度进行数据分片。例如，根据广告主 ID 或者广告投放计划 ID 进行分片，将同一广告主或同一投放计划相关的数据存储在同一个或几个固定的缓存节点上。这样可以提高特定业务场景下的数据访问效率，并且在水平扩展时，可以根据业务增长情况有针对性地增加相应分片的节点。

启动时预热：在缓存系统启动阶段，从数据库或其他数据源批量加载热点数据到缓存中。可以通过配置文件指定需要预热的数据范围，比如热门广告的信息、常用的投放策略等。在应用启动时，利用多线程并行加载这些数据，加快预热速度，确保系统启动后能立即提供高效的缓存服务。
定时预热：设置定时任务，定期重新加载缓存中的热点数据。例如，每隔一定时间（如每天凌晨），对前一天访问量最高的广告数据进行重新加载，保证缓存中的数据始终是最新且热门的。这样在业务高峰到来之前，缓存已经被预热，减少了缓存穿透和缓存雪崩的风险。

LRU-K 算法：传统的 LRU（最近最少使用）算法只考虑了数据的最近访问时间，可能会误淘汰一些短期内不访问但长期来看是热点的数据。LRU-K 算法则记录数据的 K 次最近访问时间，只有当数据的访问次数达到 K 次且最近访问时间也满足一定条件时，才会将其淘汰。这样可以更准确地保留热点数据，提高缓存命中率。
LFU 算法改进：LFU（最不经常使用）算法根据数据的访问频率来淘汰数据。可以对其进行改进，例如设置一个衰减因子，随着时间推移，逐渐降低数据的访问频率计数，避免因为历史访问频率高但近期不再使用的数据一直占用缓存空间。同时，可以为不同类型的数据设置不同的权重，比如对于重要的广告数据给予更高的权重，使其更不容易被淘汰。

分布式架构的负载均衡：在高并发场景下，分布式缓存架构通过数据分片和节点负载均衡，将大量的请求均匀分配到各个缓存节点上，避免单个节点承受过高的压力。例如 Redis Cluster 会自动将请求路由到合适的节点，每个节点独立处理部分请求，提高了整体的并发处理能力。
多级缓存的快速响应：本地缓存能够在高并发时快速处理大量的重复请求，无需经过网络去访问分布式缓存，大大降低了响应时间。即使在分布式缓存出现短暂性能问题时，本地缓存依然可以提供服务，保证系统的可用性。
缓存预热的防穿透和雪崩：经过缓存预热，热门数据已经提前加载到缓存中，在高并发情况下，大量针对热点数据的请求可以直接从缓存获取，避免了缓存穿透（大量请求直接穿透缓存到数据库）的问题。同时，定时预热也能防止因为缓存过期时间集中导致的缓存雪崩现象，保证系统在高并发场景下稳定运行。
优化的淘汰算法：改进后的缓存淘汰算法能够更合理地保留热点数据，在高并发场景下，缓存可以更有效地存储经常被访问的数据，提高缓存命中率，减少从后端数据源获取数据的次数，从而提升整个系统在高并发环境下的性能。