面试题：缓存设计之应对图数据高并发访问

读写锁
- 策略：在缓存读写操作时，使用读写锁。读操作可以并发进行，因为读操作不会修改缓存数据，不会产生数据一致性问题。而写操作则需要获取独占锁，确保在写操作进行时，其他读写操作无法进行，从而保证数据的一致性。
- 适用性：在大规模图数据处理场景中，图数据相对稳定，读操作频率往往高于写操作，读写锁能有效提高读操作的并发性能，适用于这种读多写少的场景。
- 局限性：写操作时会阻塞其他读写操作，如果写操作频繁，会降低系统整体的并发性能。
乐观锁
- 策略：在进行写操作前，先读取缓存数据的版本号。在实际写操作时，将当前版本号与缓存中的版本号进行比较，如果一致则进行写操作，并更新版本号；如果不一致，则说明数据在读取后被其他操作修改过，需要重新读取数据再进行写操作。
- 适用性：适用于大规模图数据处理场景中，对数据一致性要求不是非常严格，允许一定程度上的数据并发修改，且写操作相对不频繁的情况。可以减少锁的竞争，提高并发性能。
- 局限性：如果并发写操作频繁，会导致大量的写操作失败需要重试，降低系统性能。同时，对于数据一致性要求极高的场景，可能无法满足需求。

基于访问模式预取
- 策略：通过分析历史访问数据，找出频繁访问的图数据模式，例如某些特定节点及其相邻节点的组合。在缓存中预先加载这些模式的数据，当有相关请求到来时，可以直接从缓存中获取，减少读取后端存储的次数。
- 适用性：在大规模图数据处理中，如果存在明显的访问模式，这种策略能大大提高缓存命中率，有效应对高并发读请求。因为大规模图数据虽然数据量巨大，但访问可能集中在某些特定的子图结构上。
- 局限性：需要大量的历史数据进行分析，并且如果图数据的访问模式变化频繁，预取的缓存可能不再适用，需要重新分析和预取。
基于负载预测预取
- 策略：根据系统当前的负载情况以及预测的未来负载，提前预取可能会被访问的数据。例如，当预测到即将有大量针对某区域图数据的请求时，提前将相关数据加载到缓存中。
- 适用性：在大规模图数据处理场景中，系统负载可能会呈现出一定的规律性，如周期性的业务高峰。这种策略可以提前为高负载情况做好准备，提高系统在高并发下的响应能力。
- 局限性：负载预测的准确性难以保证，如果预测不准确，可能会预取过多不必要的数据，浪费缓存空间，或者没有预取到真正需要的数据，无法提高缓存命中率。

设置不同过期时间
- 策略：避免大量缓存数据在同一时间过期。对于不同的数据，设置随机的过期时间，使缓存过期时间分散开来。
- 适用性：在大规模图数据处理场景中，简单有效，可以防止因为大量缓存同时过期导致的缓存雪崩，保证系统在高并发下的稳定性。
- 局限性：可能会导致部分数据在过期后较长时间内不会被再次访问，浪费缓存空间。而且对于一些需要严格定时更新的数据，设置随机过期时间可能不太合适。
使用二级缓存
- 策略：建立一级缓存和二级缓存。一级缓存采用短过期时间，用于快速响应高并发请求；二级缓存采用长过期时间，当一级缓存失效时，从二级缓存获取数据，同时对一级缓存进行更新。
- 适用性：在大规模图数据处理场景中，能在保证高并发响应的同时，减少因为缓存过期导致的请求穿透到后端存储的情况，提高系统的容错能力。
- 局限性：增加了系统的复杂度和维护成本，需要管理两级缓存的一致性，并且会占用更多的内存空间。

布隆过滤器
- 策略：在缓存之前，使用布隆过滤器。当有请求到来时，先通过布隆过滤器判断请求的数据是否存在。如果布隆过滤器判断不存在，则直接返回，不再查询缓存和后端存储；如果判断可能存在，再去查询缓存和后端存储。
- 适用性：在大规模图数据处理场景中，对于防止恶意请求或者大量不存在数据的查询穿透到后端存储非常有效。因为大规模图数据虽然数据量大，但布隆过滤器可以通过较小的空间开销来快速判断数据是否可能存在。
- 局限性：布隆过滤器存在误判率，即可能会把不存在的数据判断为存在，导致仍然需要查询缓存和后端存储。而且布隆过滤器需要根据数据的特点进行参数调整，以平衡空间占用和误判率。
缓存空值
- 策略：当查询后端存储发现数据不存在时，也将空值缓存起来，并设置一个较短的过期时间。这样后续相同的查询可以直接从缓存中获取空值，避免再次查询后端存储。
- 适用性：在大规模图数据处理场景中，实现简单，可以有效防止缓存穿透。对于一些偶尔出现的不存在数据的查询，这种方式可以快速响应，减少后端存储的压力。
- 局限性：会占用一定的缓存空间来存储空值，并且如果空值缓存时间设置不当，可能会影响新数据的正常查询。

星途面试题库