초당 2,000건의 요청을 받는 CDN에서 캐시 히트율이 90%에서 98%로 올라갔다. 히트했을 때의 응답 시간은 20 ms, 히트하지 않았을 때는 오리진 서버에서 가져와 돌려주므로 200 ms가 걸리며, 히트하지 않은 요청만 오리진 서버에 도달한다고 한다. 98%가 된 후 오리진 서버에 도달하는 요청 수와 평균 응답 시간의 조합은?

정답: A. 초당 40건, 약 24 ms

히트하지 않은 요청은 전체의 100 − 98 = 2%이므로, 오리진 서버에 도달하는 것은 2,000 × 0.02 = 초당 40건입니다. 90%일 때는 초당 200건이었으므로, 히트율이 8포인트 올라간 것만으로 오리진 서버의 부하는 5분의 1이 됩니다. 평균 응답 시간은 0.98 × 20 + 0.02 × 200 = 19.6 + 4 = 23.6 ms로 약 24 ms입니다. 90%일 때의 0.9 × 20 + 0.1 × 200 = 38 ms와 비교해도 크게 짧아집니다.