面试题：MariaDB 复制延迟下主从库负载不均衡问题

Question

当 MariaDB 主从复制出现延迟，且发现主库负载过高，从库负载较低，可能是哪些原因导致的，给出详细的分析思路和优化方案。

Answer 1

可能原因分析思路

1. 主库写入压力过大：
   • 主库上可能有大量的写入操作，如频繁的 INSERT、UPDATE、DELETE 语句。例如，业务高峰期大量的数据写入请求同时到达主库，导致主库忙于处理写入事务，来不及将二进制日志（binlog）发送给从库。
   • 复杂的事务操作。如果主库上有长事务，在事务未提交前，相关的变更记录都在主库的事务缓存中，不能及时同步到从库，并且长事务会占用主库资源，影响其他事务的处理，增加主库负载。
2. 网络问题：
   • 主从库之间的网络带宽不足。当主库产生大量的 binlog 时，如果网络带宽有限，binlog 传输到从库会花费较长时间，从而导致复制延迟。例如，主从库之间的网络链路存在拥塞，数据包丢失或重传频繁，影响 binlog 的传输效率。
   • 网络不稳定。间歇性的网络故障，如网络闪断，会导致主从连接中断，从库需要重新连接并追赶主库的日志，这期间会造成复制延迟。
3. 主库硬件资源瓶颈：
   • CPU 资源不足。主库在处理事务、生成 binlog 等操作时需要大量的 CPU 运算，如果 CPU 使用率持续过高，接近或达到 100%，会导致处理速度变慢，无法及时将 binlog 发送给从库。例如，主库服务器上同时运行了其他高 CPU 消耗的进程，与 MariaDB 争夺 CPU 资源。
   • 内存不足。MariaDB 需要足够的内存来缓存数据、索引和事务处理。如果内存不足，会频繁进行磁盘 I/O 操作，无论是读取数据还是写入 binlog，磁盘 I/O 性能远低于内存操作，从而影响主库的整体性能，导致复制延迟。
4. 从库配置问题：
   • 从库的复制线程配置不合理。如果从库的复制 SQL 线程或 I/O 线程数量设置过少，不能充分利用系统资源来处理主库发送过来的 binlog，导致复制延迟。例如，在高并发写入的场景下，默认的单线程复制 SQL 线程可能无法快速应用 binlog 中的事务。
   • 从库的硬件配置相对主库过低。如从库的 CPU 性能差、内存小、磁盘 I/O 速度慢等，会影响从库应用 binlog 的速度，即使主库能快速发送 binlog，从库也不能及时处理。
5. 复制过滤规则：
   • 主从复制过滤规则配置不当。如果在主库或从库上设置了复杂的复制过滤规则，如只复制特定数据库、表的操作，可能会导致主从复制延迟。因为在应用过滤规则时，主从库需要额外的 CPU 等资源进行判断和处理，增加了处理时间。

优化方案

1. 优化主库写入操作：
   • 批量操作。将多次小的写入操作合并为一次批量操作，减少事务数量，降低主库的写入压力。例如，将多次 INSERT 单个数据的操作改为一次 INSERT 多个数据的操作。
   • 优化事务。尽量避免长事务，将长事务拆分为多个短事务处理。在业务允许的情况下，及时提交事务，使主库能尽快将 binlog 发送给从库。
2. 改善网络状况：
   • 增加网络带宽。根据主从库之间 binlog 的传输量，合理评估并增加网络带宽，确保 binlog 能快速传输。例如，可以升级网络设备或与网络服务提供商协商提高带宽。
   • 优化网络配置。检查网络设置，确保网络稳定，减少网络故障的发生。如优化网络拓扑结构，避免单点故障，配置合理的网络超时时间等。
3. 解决主库硬件资源瓶颈：
   • 升级 CPU。如果主库 CPU 资源不足，考虑升级服务器的 CPU，提高 CPU 处理能力。
   • 增加内存。根据主库的内存使用情况，适当增加服务器的内存，减少磁盘 I/O 操作，提高主库性能。同时，合理配置 MariaDB 的内存参数，如 innodb_buffer_pool_size 等，使其能充分利用内存资源。
4. 调整从库配置：
   • 启用多线程复制。对于 MariaDB 5.6 及以上版本，可以启用多线程复制（MTS，Multi - Threaded Slave），通过配置 slave_parallel_workers 参数来设置从库复制 SQL 线程的数量，提高从库应用 binlog 的速度。
   • 升级从库硬件。如果从库硬件配置过低，升级从库的 CPU、内存、磁盘等硬件设备，提高从库处理能力。
5. 检查复制过滤规则：
   • 简化复制过滤规则。如果复制过滤规则导致了性能问题，在保证数据一致性和业务需求的前提下，简化过滤规则，减少主从库处理过滤规则的开销。