轻量消息队列(原 MNS)对超过限流阈值的请求执行限流策略,从而避免底层资源承受过高压力。了解限流策略有助于合理规划消息收发频率,并在触发限流时采取正确的应对措施。
限流行为
当流量接近或达到限流阈值时,服务端会根据实时资源水位自动弹性调整限流阈值,在多数场景下,可动态支撑更高并发请求且用户无感知。若触发临时限流(如突发峰值激增、集群资源瓶颈等),系统将在自动扩容完成后恢复流量处理能力并同步提升限流阈值。
当触发限流报错时,系统将启动反压机制,此时超出阈值的请求会在服务端被短暂挂起后返回 429(TooManyRequests)错误,挂起时长由服务端根据实时负载动态调整,通常在 10~500 毫秒之间,最大不超过 5 秒。避免系统因过载而影响整体性能和稳定性。
错误码
触发限流策略后,轻量消息队列(原 MNS)服务端会返回如下错误码信息。
HTTPS 状态码 | 错误码 Code | 错误描述信息 Message |
429 | TooManyRequests | The request is denied by cluster flow limiter for too many requests. |
限流阈值说明
队列 消费模式下的异常消费限流策略
在标准的队列消费模式中,客户端在成功处理消息后,应在服务端删除该消息。如果客户端大量出现“只接收消息,但不发送删除消息请求”的非标准行为,系统将视其为异常消费,并触发限流机制以保障系统稳定性。限流后,客户端接收新消息的速度会大幅降低。
触发限流的阈值(满足任一条件即可):
持续时间:该异常消费持续超过 30 分钟。
消息数量:累计接收但未删除的消息总量达到 5000 条。
流量速率:接收但未删除的瞬时速率超过 1,000 TPS。
大流量请求的限流策略
每个主账号每个地域限流阈值默认值:20000 TPS。如果流量已超过 20000 TPS,可登录配额中心控制台申请提高单地域 TPS 上限,操作步骤请参见创建配额提升申请。
请求次数计数说明如下:
每调用 API 接口 1 次,计为 1 次请求。
批量发送场景 TPS 计算:当使用 BatchSendMessage 接口请求某队列时,BatchSendMessage 的 TPS = BatchSendMessage 每秒实际请求次数×接口中的消息条数。例如,BatchSendMessage 接口 1 秒钟实际请求次数是 100,接口中包含 10 条消息,则占用单个队列 TPS=100×10 = 1000。
批量消费场景 TPS 计算:当使用 BatchReceiveMessage 接口请求某队列时,BatchReceiveMessage 的 TPS = BatchReceiveMessage 每秒实际请求次数(与批量消息条数无关)。例如,BatchReceiveMessage 接口 1 秒钟实际请求次数是 100,接口中包含 10 条消息,则占用单个队列 TPS=100。
避免限流影响
为避免限流策略对业务的影响,建议关注以下两方面: