面试题：微服务架构下微服务弹性伸缩成本控制的常见指标有哪些

Question

在微服务架构中，为了实现微服务弹性伸缩的成本控制，通常会关注一些关键指标。请列举至少三个常见指标，并简要说明每个指标对成本控制的作用。

Answer 1

• CPU 利用率：
  • 作用：CPU 利用率反映了微服务实例处理任务时 CPU 的繁忙程度。若 CPU 利用率长期处于过高水平，说明实例处理能力接近饱和，可能需要增加实例以保证服务性能；若长期过低，则表示资源浪费，可适当减少实例，以此来合理调整实例数量，控制服务器资源成本。
• 内存使用率：
  • 作用：内存使用率体现了微服务占用内存资源的情况。当内存使用率过高，可能导致服务性能下降甚至崩溃，需要增加实例或提升实例内存规格；若内存使用率持续较低，可通过减少实例数量来降低内存资源成本，优化资源配置。
• 请求响应时间：
  • 作用：请求响应时间直接影响用户体验。若响应时间过长，可能是实例处理能力不足，需增加实例以提高处理速度；通过监控响应时间，确保在满足业务需求的响应时间前提下，合理调整实例数量，避免因过度配置实例导致成本增加。
• 每秒请求数（QPS）：
  • 作用：QPS 表示微服务每秒能够处理的请求数量。当 QPS 接近或超过当前实例的处理能力时，需增加实例以应对流量高峰；在 QPS 较低时，减少实例数量，从而根据业务流量动态调整资源，实现成本控制。