[redis] aws elasticache network throttling 현상에 관하여

- micro burst 현상

aws elasticache metric에서 network in/out 그래프를 볼 수 있는데, 가끔 인스턴스의 network bandwidth 안쪽으로만 계속 쓰고 있는것으로 나오는데도 network bandwidth exceed 현상이 발생하는것을 볼 수 있다.

 

아래 글에서 원인중 하나가 나오는데, 요약하자면 metric에서 확인할 수 있는 network in/out 은 측정단위가 분 이고 실제 network bandwidth exceed 판단은 초단위이기 때문이라는 것이다. 만약 분단위로는 bandwidth 를 초과하지 않는것 같다 하더라도 초단위로 측정했을때 특정 순간에서 bandwidth 가 초과되는 micro burst현상이 발생한다면 exceed 로 판단되어 packet drop이 발생하게 될 수 있다.

AWS Network Throttling Mystery

https://medium.com/@gtamilarasan/aws-network-throttling-mystery-8e14643b3f3d

 

- replica 로 복제되는 back log 의 경우도 network bandwidth 에 포함된다

참고

https://serverfault.com/questions/1105308/elasticache-bandwidth-usage-is-low-but-bandwidth-allowance-exceeded