Toss 실시간 이상거래 탐지 시스템 (FDS) 구축기

배경

핀테크 서비스의 성장과 함께 이상거래 시도가 급증하면서, 기존 룰 기반 탐지 시스템의 한계가 드러났습니다. 오탐률이 높아 정상 사용자 경험을 저해하고, 새로운 유형의 사기 패턴에 대응이 느렸습니다.

도전 과제

수십만 TPS의 거래를 밀리초 단위로 분석해야 하며, 실시간으로 사기 패턴을 탐지하면서도 정상 거래의 지연을 최소화해야 했습니다. 또한 지속적으로 변화하는 사기 수법에 모델을 빠르게 업데이트할 수 있는 MLOps 파이프라인이 필요했습니다.

해결 방안

Kafka + Flink 기반의 실시간 스트림 처리 파이프라인을 구축하고, Feature Store를 통해 거래 컨텍스트를 밀리초 내에 조회할 수 있게 했습니다. 룰 엔진과 ML 모델을 앙상블로 결합하여 탐지 정확도를 높이고, A/B 테스트 기반 모델 배포로 안전한 업데이트를 보장했습니다.

결과

이상거래 탐지율 99.7% 달성, 오탐률 60% 감소. 거래 판정 지연시간 50ms 이내 유지. 새로운 사기 패턴 대응 시간이 주 단위에서 시간 단위로 단축되었습니다.

핵심 인사이트

• 1.실시간 스트림 처리에서 Exactly-once 시맨틱 보장이 금융 시스템의 핵심
• 2.Feature Store 패턴으로 ML 모델의 입력 일관성과 서빙 속도를 동시에 해결
• 3.룰 기반과 ML 기반의 앙상블 접근이 단일 방식보다 우수한 성능 제공
• 4.섀도우 모드 배포로 프로덕션 안전성을 확보하면서 모델 성능 검증 가능