面试题答案
一键面试服务限流策略
- 固定窗口限流：
- 原理：在固定的时间窗口内，限制请求的数量。例如，设定1分钟内允许100个请求。
- 实现：可以使用计数器实现，每次请求进来计数器加1，当计数器达到限流阈值时，后续请求被限流。当时间窗口结束，计数器重置。
- 适用场景：适用于流量相对平稳，对限流精度要求不是特别高的场景，如一些基础数据查询服务。
- 滑动窗口限流：
- 原理：将固定时间窗口划分为多个小的子窗口，随着时间的流逝，窗口像幻灯片一样滑动。这样可以更精确地控制流量，避免固定窗口在窗口切换时可能出现的流量突增问题。
- 实现：维护一个时间窗口内的请求记录列表，根据时间滑动窗口，动态计算窗口内的请求数量。
- 适用场景：适用于流量有一定波动，但仍需精确限流的场景，如用户登录服务，可能在某些时间段会有较多请求。
- 令牌桶限流：
- 原理：系统以固定速率生成令牌放入桶中，每个请求需要从桶中获取一个令牌才能通过。如果桶中没有令牌，则请求被限流。
- 实现：使用一个定时器以固定速率向桶中添加令牌，请求到达时尝试从桶中获取令牌。
- 适用场景：适用于需要限制平均流量，同时允许一定程度突发流量的场景，如文件上传服务，允许短时间内的较大流量。
- 漏桶限流：
- 原理：请求像水一样流入桶中，桶以固定速率流出请求。如果桶满了，新的请求就被丢弃。
- 实现：可以使用队列来模拟漏桶，请求进入队列，按照固定速率从队列中取出处理。
- 适用场景：适用于对流量平滑处理要求较高，不允许突发流量的场景，如数据库写入服务，防止瞬间大量请求对数据库造成压力。
熔断机制策略
- 基于失败率的熔断：
- 原理：统计一定时间内请求的失败率，当失败率超过设定阈值（如50%），触发熔断。在熔断期间，后续请求直接返回错误，不再调用实际服务。
- 实现：记录每次请求的结果，计算失败率。当失败率达到阈值，设置熔断状态为开启。可以使用状态机来管理熔断状态，包括关闭、开启、半开启状态。
- 适用场景：适用于依赖服务故障较为频繁且对服务质量要求较高的场景，如支付服务依赖的银行接口。
- 基于响应时间的熔断：
- 原理：统计一定时间内请求的平均响应时间，当平均响应时间超过设定阈值（如1秒），触发熔断。
- 实现：记录每次请求的开始时间和结束时间，计算平均响应时间。达到阈值时，触发熔断。
- 适用场景：适用于对响应时间敏感的业务场景，如实时数据展示服务，过长的响应时间会严重影响用户体验。
动态调整限流阈值和熔断参数
- 基于监控数据：
- 策略：通过监控系统实时收集服务的请求量、响应时间、失败率等指标。根据这些指标，使用算法动态调整限流阈值和熔断参数。例如，当服务的失败率上升但未达到熔断阈值时，可以适当降低限流阈值，减少请求量，以避免服务进一步恶化。
- 实现：可以使用机器学习算法，如线性回归预测未来的流量趋势，从而提前调整限流阈值。也可以使用简单的规则引擎，如根据失败率的变化按比例调整限流阈值。
- 基于业务时段：
- 策略：分析业务的高峰和低谷时段，在高峰时段适当提高限流阈值，以满足更多请求；在低谷时段降低限流阈值，节省资源。对于熔断参数，高峰时段可以适当放宽，避免误熔断；低谷时段可以收紧，更快发现问题。
- 实现：可以通过配置文件预先设定不同时段的限流阈值和熔断参数，定时任务在不同时段切换配置。也可以根据实时的业务流量数据动态判断当前处于高峰还是低谷时段。
与其他微服务治理组件的协同工作
- 与服务发现协同：
- 策略：服务发现组件负责管理服务的注册与发现。当某个服务触发熔断时，服务发现组件可以将该服务标记为不健康，不再将请求路由到该服务，直到熔断状态恢复。同时，服务发现组件可以将服务的限流阈值等信息传递给负载均衡器，以便负载均衡器更好地分配流量。
- 实现：在服务注册时，服务将自身的限流阈值等相关信息上报给服务发现组件。服务发现组件维护服务的健康状态，并将相关信息提供给负载均衡器。
- 与负载均衡协同：
- 策略：负载均衡器根据服务发现组件提供的服务信息，包括限流阈值和熔断状态，合理分配流量。对于限流阈值较低的服务，减少分配的请求量；对于处于熔断状态的服务，不分配请求。负载均衡器还可以根据服务的实时负载情况，动态调整流量分配策略，以避免某个服务因流量过大而触发限流或熔断。
- 实现：负载均衡器定期从服务发现组件获取服务信息，根据限流阈值和熔断状态调整流量分配算法，如加权轮询算法中根据限流阈值调整权重。同时，负载均衡器可以通过监控服务的响应时间、请求量等指标，实时调整流量分配。