面试题答案
一键面试考虑因素
- 业务场景的流量特性：
- 平稳流量场景：如果业务场景的流量相对平稳，例如一些提供稳定数据查询服务的API，流量波动较小，初始令牌数量可以设置为接近平均流量对应的令牌数。这样可以保证系统在正常情况下能够持续处理请求，且不会因为令牌过多导致短时间内处理大量超出承载能力的请求。
- 波动流量场景：对于流量波动较大的业务场景，如电商平台的促销活动期间，流量会在短时间内急剧增加。此时需要考虑到流量高峰时段的需求，适当增加初始令牌数量，以应对突发的高流量。
- 允许的突发流量情况：
- 低突发容忍度：若业务系统对突发流量的容忍度较低，比如一些对资源消耗极为敏感的实时处理系统，初始令牌数量应设置得较为保守，以防止突发流量瞬间耗尽资源，导致系统崩溃。
- 高突发容忍度：如果业务系统能够承受一定程度的突发流量，例如新闻资讯类APP在热点事件发生时，初始令牌数量可以适当提高，允许系统在短时间内处理更多的请求，满足用户的访问需求。
- 系统资源限制：
- 硬件资源：服务器的CPU、内存、带宽等硬件资源会限制系统能够处理的请求数量。在设置初始令牌数量时，需要考虑这些硬件资源的承载能力。例如，若服务器带宽有限，过多的初始令牌可能导致短时间内大量请求并发，造成网络拥塞。
- 软件资源：应用程序自身的处理能力，如数据库连接池大小、线程池大小等，也会影响系统对请求的处理能力。初始令牌数量不应设置得超过这些软件资源能够支持的最大请求数。
- 业务重要性和服务等级：
- 关键业务：对于业务流程中关键的部分，如支付接口，为保证其稳定性和可靠性，初始令牌数量应设置得较为充足，确保在各种情况下都能正常处理请求，避免因限流导致业务中断。
- 非关键业务：一些非关键的业务功能，如用户反馈提交接口，初始令牌数量可以设置得相对较低，在系统资源紧张时，优先保障关键业务的处理。
举例说明
假设一个视频播放网站，平时流量相对平稳，每秒平均有100个视频播放请求，服务器在正常情况下每秒能处理150个请求。考虑到业务场景的流量特性较为平稳，且系统有一定的处理余量，初始令牌数量可以设置为120个。这样既能满足正常流量的处理，又不会因令牌过多导致突发情况下处理过多请求而耗尽资源。
当网站举办热门视频首播活动时，预计流量会在短时间内激增，可能达到每秒500个请求。此时，考虑到允许的突发流量情况，以及系统在硬件和软件资源允许的范围内，可将初始令牌数量提高到300个，以应对活动开始时的高并发请求，确保大部分用户能够顺利观看首播视频。同时，要密切监控系统资源的使用情况，防止因突发流量过大而导致系统崩溃。