Elasticsearch를 통한 주문/결제에 대한 모니터링 및 이상 감지에 대한 Alert & 머신러닝 적용 사례.

11번가는 고객에게 다양한 상품을 제공하는 커머스 포털입니다. 11번가의 김태경 백엔드 개발자는 "우리는 단순히 고객의 주문과 배송을 담당하는 것이 아닌 그 이상의 가치를 제공하기 위해 노력합니다.”라고 말합니다. 11번가는 고객이 원하는 모든 유형의 상품과 서비스를 경험 할 수 있도록 검색부터 구매까지, 쇼핑의 모든 과정에서 고객에게 최적의 솔루션을 자체 기술로 제공하고 있습니다. AI 기반의 상품 검색, 빅데이터 기반 맞춤형 추천 기술 등과 같이 11번가는 즐거운 쇼핑경험을 위해 수 많은 기술을 개발 지원하고 있습니다.
<a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul">Elastic{ON} Tour Seoul</a>을 통해 김태경 백엔드 개발자는 11번가가 그동안 시스템을 개편해 나가면서 어떻게 <a href="https://www.elastic.co/kr/products/elastic-stack">Elastic Stack</a>을 활용했는지에 대해 공유했습니다. <a href="https://www.elastic.co/kr/products/elastic-stack">Elasticsearch</a>를 만나기 전, 11번가는 모니터링에 필요한 모든 기능들을 개발하려 했습니다. 개발팀의 목적은 고객의 주문 개선인데, 모니터링과 관련된 기능만 개발하는 상황이 오게 될까 봐 두려웠었습니다. 하지만 11번가는 Elastic Stack적용 후 최소한의 개발로 시스템 오류 및 장애를 쉽게 대처할 수 있게 됐습니다.
<h2>Elastic과 함께한 11번가의 여정</h2>2016년 11번가는 모노리틱 아키텍처를 사용하는 하나의 거대한 애플리케이션에 지나지 않았습니다. 2017년 마이크로 서비스 아키텍처로의 변환을 시도하며 이벤트 구동형 아키텍처를 추가하였습니다. 또한 주문, 결제, 메일, App Push 등 기존의 애플리케이션을 모두 복합형 아키텍처에 맞춰 변경하였습니다. 이후에도 11번가 개발팀은 계속해서 아키텍처를 업그레이드하였으나 기술적인 고민에 빠지게 됩니다. 이벤트가 잘 생성되고 있는지, 중간에 유실이 일어나지 않았는지, 혹은 중복 처리된 이벤트는 어떻게 처리할지 등의 문제가 계속해서 쌓였지만 이를 확인할 방법이 없었습니다. 마이크로 서비스 아키텍처로 개선하며 축적한 노하우로 자신감이 붙은 11번가 팀은 다시 한번 변화의 필요성을 느끼게 됩니다.
11번가 개발팀은 늘어나는 트래픽에 맞춰 서버를 계속해서 증설하기에 바빴습니다. 하지만 계속되는 서버 증설에도 오라클 DB의 한계를 느낀 개발팀은 ‘아키텍처 변경’이라는 체질 개선을 시도하게 됩니다. 수차례의 아키텍처 업그레이드 속에서 11번가는 기존에 이미 구축하여 사용하던 Elastic Stack을 활용하였고, <a href="https://www.elastic.co/kr/products/logstash">Logstash</a>를 이용하여 Kafka 내의 모든 데이터를 Elasticsearch로 전달했습니다. 그 결과 개발팀은 시스템 장애를 줄이고 개발에 사용되는 시간을 오로지 주문 개선에 쏟으며 더 나은 쇼핑 환경을 만들 수 있었습니다.
<blockquote style="margin-left: 2px;" rel="margin-left: 2px;">"Elastic Stack은 쉽게 활용이 가능하기에 누구나 작업할 수 있고 더 좋은 결과물을 만들어낼 수 있습니다. 저희는 <a href="https://www.elastic.co/kr/products/elastic-stack/features">Monitoring</a>를 통해 이벤트 유실을 감지하고 <a href="https://www.elastic.co/kr/products/elastic-stack/features">Machine Learning</a>을 통해 직전 3개월간의 데이터를 학습하여 상품의 이상 주문을 빠르게 감지하고 있습니다. 하지만 Elastic Stack이 가져다 준 변화는 단순히 기술의 향상 뿐만이 아닙니다. Elastic Stack은 저희에게 고객이 원하는 다양한 가치를 빠르게 파악하고 제공할 수 있도록 새로운 인사이트도 제공해 주었습니다." - 11번가의 백엔드 개발자인 김태경
</blockquote> 
<img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt07370233ee371137/5da0e46e9bcde8145127db53/image2.png" data-sys-asset-uid="blt07370233ee371137" alt="11streetarchitecture.png" style="display: block; margin: auto;">
<figcaption>주석1. Elastic Stack을 사용한 11번가의 새로운 아키텍쳐</figcaption> 
기존의 아키텍처는 고객의 주문과 결제에 관련한 응답을 주지 못했고, 이벤트 유실로 인해 주문 오류를 생성하는 등의 장애를 가지고 있었습니다. 주문과 결제 서비스에 대한 느린 응답, 또는 응답의 유실은 11번가가 나아가기 위해 넘어서야 할 과제였습니다. 그래서 개발팀은 Elastic Stack을 통해 매출 추이를 작성하고 분당 주문 및 결제 현황, 인기 상품, 결제 실패 이유 등을 한 대시보드에 담았습니다. 이제 Elastic Stack을 통해 하나의 화면을 보며 서로 같은 얘기를 할 수 있는 공간이 만들어졌습니다.
향후, 11번가는 Elastic Stack을 활용하여 이전에 없던 새로운 시도를 할 예정입니다. 현재 11번가는 Monitoring과 Machine Learning을 함께 사용하며 더욱 빠르게 고객 주문의 이상 징후를 감지하고 있습니다. 현재 11번가는 Zipkin만을 분산 트레이싱 모니터링 도구로 사용하고 있지만 향후에는 <a href="https://www.elastic.co/kr/products/apm">Elastic APM(Application Performance Monitoring</a>: 오픈소스 애플리케이션 성능 모니터링)을 함께 사용하여 보다 높은 트래픽을 안정적으로 처리할 수 있도록 할 예정입니다.
<a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul/eleven-street-order-monitoring-and-anomaly-detection-with-elastic-stack">Elastic{ON} Tour Seoul</a>에서 김태경 백엔드 개발자의 전체 세션을 시청하고 11번가가 어떻게 Elastic Stack을 사용하여 고객에게 보다 높은 차원의 서비스를 제공하는지에 대해 좀 더 자세히 알아보세요.
 <a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul/eleven-street-order-monitoring-and-anomaly-detection-with-elastic-stack"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blt8635a8a345ec002d/5da0eadaafac8e111e9f90cd/Screen_Shot_2019-10-11_at_1.37.51_PM.png" data-sys-asset-uid="blt8635a8a345ec002d" alt="11streetpresentation_screenshot.png" style="display: block; margin: auto;"></a>

ipadecommerce.jpg

ipadecommercethumbnail.jpg

11번가: Elasticsearch를 통한 주문/결제에 대한 모니터링 및 이상 감지에 대한 Alert & 머신러닝 적용 사례

고성능과 고가용성에 기반한 온라인 이커머스 빅데이터의 효율적인 분석을 위한 Elasticsearch의 선택

오늘날 대부분의 사람들은 온라인에서 물건을 구매합니다. Builtón의 김보순 Chief Technology Officer(CTO)는 "전자 상거래는 빠르게 성장하고 있는 산업이며 성공적인 사업을 구축하기 위해서는 온라인 상의 소비자 행동을 분석하여 구매 패턴을 파악하는 것이 중요합니다. 그렇지만 더욱 중요한 것은 비지니스를 성공으로 이끄는 요소가 무엇인지 이해하는 것입니다." 라고 말합니다. 그 중요한 요소를 파악하려면 데이터에 대한 깊은 이해가 요구됩니다. 예를 들어, “영업실적을 높이는 효과적인 광고는 무엇인가?”와 같은 근본적인 질문에 답하는 것과 “경쟁사가 더 싼 가격으로 같은 제품을 팔 때 우리는 어떤 전략을 생각해야 하는가?”와 같은 질문은 차원이 다릅니다. Builtón은 이러한 상황에서 올바른 비지니스 결정을 내릴 수 있도록 막대한 데이터를 기반한 데이터 분석 및 시각화 도구를 활용하고 있습니다.
<a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul">Elastic{ON} Tour Seoul</a>을 통해 김보순 CTO는 Builtón의 데이터 툴이 고객의 비즈니스 주요 성과 지표를 이해하는 데 얼마나 도움이 되는지 보여주었습니다. 데이터 분석은 기존 전자 상거래 데이터, 로그 및 기타 소스를 수집하는 데이터웨어하우스에서 시작합니다. 일단 수집된 데이터는 정제되며 최종적으로는 시각화할 필요가 있습니다. Builtón은 빠르게 성장하고 있는 회사로서 데이터 처리 속도를 빠르게 향상할 필요가 있었습니다. 개발과 테스트에 대한 Builtón의 지나친 열정이 저장된 데이터 양의 폭발을 이끌었다고 김보순 CTO는 설명했습니다. 처음에는 하드웨어의 확장이 모든 문제에 대한 해결책이 될 것이라고 생각했지만 그러기 위해서는 많은 비용이 들게됩니다.
<h2>Elastic과 함께한 Builtón의 여정</h2>Builtón은 이전에 RDBMS(Relational Database Management System)를 사용했지만 이는 Builtón의 성장에 제한을 가져왔습니다. 많은 양의 데이터를 추가할수록 RDBMS의 속도는 느려졌으며 동시에 잦고 긴 다운타임을 야기했습니다. 이러한 문제는 Builtón에 막대한 시간과 비용을 발생시켰고, Builtón의 고객들에게도 부정적인 영향을 주었습니다. RDBMS는 수많은 문제점을 가지고 있었지만 데이터 처리 확장에 지나치게 많은 비용이 든다는 점에서 Builtón은 새로운 솔루션을 찾아 나서게 되었습니다. 처음에는 기존에 사용하던 HDD를 SSD로 교체하였고 결국에는 고성능의 NVMe SSD로 전환했습니다. 하드웨어 업그레이드를 통해 스토리지 성능은 향상되었지만 교체로 인해 발생하는 스토리지 비용과 유지 관리는 크게 증가했고 더욱 잦은 다운타임이 발생하였습니다.
어느 날 Builtón은 고객으로부터 분석의 결과를 즉시 생성하길 요청받았습니다. 그러나 당시 Builtón의 능력으로는 이를 해결할 수 없었습니다. Builtón의 툴은 결과 생성에 필요한 모든 데이터를 집계하고 처리하기까지 약 3분이 소요됐습니다. 이에 대한 해결책으로 김보순 CTO는 <a href="https://www.elastic.co/kr/products/elastic-stack">Elasticsearch</a>를 조사하였고 이것이 Builtón이 필요로 하는 강력한 검색 솔루션이라는 것을 확인했습니다. 김보순 CTO와 기술팀은 고객의 모든 데이터를 RDBMS에서 Elasticsearch로 전송했고 그 결과 고객의 요구에 즉시 대응할 수 있게 되었습니다.
<blockquote style="margin-left: 2px;" rel="margin-left: 2px;">“<a href="https://www.elastic.co/kr/products/elastic-stack">Elastic Stack</a>은 저희의 비즈니스를 변화시켰습니다. 저희는 현재 이전 솔루션보다 60배 빠른 성능을 누리고 있습니다. 시각화는 Kibana를 기반으로 하고 있으며 저희가 이전에 했던 모니터링은 Metricbeat를 통해 쉽게 처리할 수 있게 되었습니다.” - Builtón의 Chief Technology Officer(CTO)인 김보순
</blockquote><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/bltc7fe8a64c23c8d58/5da0c74ad5c93610bc97ec88/image3.png" data-sys-asset-uid="bltc7fe8a64c23c8d58" alt="Builton Architecture.png" style="display: block; margin: auto;">
<figcaption>주석1. Elastic Stack을 사용한 Builtón의 새로운 아키텍쳐</figcaption> 
이전에 사용하던 RDBMS 클러스터는 고가인 고성능 NVMe SSD 420000 IOPS를 사용했지만 응답 시간은 3분이었으며 일일 처리량은 겨우 30GB였습니다. 하지만 Elasticsearch는 저렴한 일반 SSD 96000 IOPS를 사용하고 응답 시간은 단 3초로 이전보다 60배 더 빨라졌으며 일일 처리량은 500GB로 증가하였습니다. 
Builtón은 또한 Elasticsearch를 사용하며 함께 제공되는 기술 지원을 구입했습니다. 김보순 CTO는 자칫 데이터 손실로 이어질 뻔 했던 지난 상황에 대해 설명했습니다. 큰 문제를 야기시킬 뻔 한 상황에서 Elasticsearch의 기술지원팀은 재빠른 대응을 통해 Builtón 기술자들과 협력하며 상황을 신속하게 해결했습니다. 김보순 CTO는 이러한 실수는 Builtón의 비즈니스에 있어 해가 될 것이라고 말하며 Elasticsearch의 기술 지원의 중요성을 강조했습니다.
<a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul">Elastic{ON} Tour Seoul</a>에서 김보순 CTO의 전체 세션을 시청하고 Builtón이 어떻게 Elastic Stack을
사용하여 E-commerce 기업들에게 비즈니스의 이해를 제고하는지에 대해 좀 더 자세히 알아보세요.
 
<a href="https://www.elastic.co/kr/elasticon/tour/2019/seoul/builton-elasticsearch-selection-for-efficient-analysis-of-big-data"><img src="https://images.contentstack.io/v3/assets/bltefdd0b53724fa2ce/blta7479bd26c71ea59/5da0cc4915eb9510b79578b6/Screen_Shot_2019-10-11_at_11.36.27_AM.png" data-sys-asset-uid="blta7479bd26c71ea59" alt="BuiltlonPresentation.png" style="display: block; margin: auto;"></a>

Articles by Caleb Wang

11번가: Elasticsearch를 통한 주문/결제에 대한 모니터링 및 이상 감지에 대한 Alert & 머신러닝 적용 사례

Builton: 고성능과 고가용성에 기반한 온라인 이커머스 빅데이터의 효율적인 분석을 위한 Elasticsearch의 선택

제품

회사 소개

리소스