쿠팡의 대규모 트래픽을 처리하는 백엔드 코어 서빙 레이어 전략

배경

쿠팡은 한국 최대의 이커머스 플랫폼으로, 로켓배송을 포함한 수백만 주문을 매일 처리한다. 상품 상세 페이지는 초당 수만 건의 요청을 받는 핵심 서비스이다.

도전 과제

상품 상세 정보를 구성하기 위해 수십 개의 마이크로서비스에서 데이터를 조합해야 하며, 하나의 서비스 장애가 전체 페이지 렌더링을 차단할 수 있었다. 대규모 프로모션 기간에는 트래픽이 평소의 10배 이상 급증한다.

해결 방안

코어 서빙 레이어를 도입하여 GraphQL 기반의 데이터 집계와 BFF(Backend For Frontend) 패턴을 적용했다. 서킷 브레이커와 벌크헤드 패턴으로 장애 격리를 구현하고, 멀티레벨 캐싱(로컬 + 분산 + CDN)으로 응답 시간을 최적화했다.

결과

p99 응답 시간 200ms 이하를 달성하고, 단일 서비스 장애 시에도 부분 렌더링으로 사용자 경험을 유지할 수 있게 되었다.

핵심 인사이트

• 1.코어 서빙 레이어로 마이크로서비스 호출을 중앙화하면 장애 격리와 캐싱 전략을 효과적으로 적용할 수 있다
• 2.BFF 패턴은 클라이언트별 최적화된 API를 제공하는 데 효과적이다
• 3.멀티레벨 캐싱은 대규모 트래픽에서 응답 시간과 가용성을 동시에 보장한다