정보 정확성 보장
EY는 Elastic의 고급 검색 기술을 통해 고객이 비정형 데이터에서 인사이트를 얻을 수 있도록 지원하는 생성형 AI 경험을 구축했습니다.
생성형 AI 스택과의 원활한 통합
Elastic을 통해 EY는 최첨단 AI 검색 기능을 생성형 AI 스택의 다른 구성 요소와 쉽게 통합할 수 있습니다.
생성형 AI 혁신을 대규모로 구현
Elastic을 통해, EY의 생성형 AI 경험은 다양한 대량 문서를 처리할 수 있으며 여러 조직 단위에 걸쳐 원활하게 확장할 수 있습니다.
EY 금융 고객이 규정 준수 및 혁신을 위한 귀중한 인사이트를 확보할 수 있도록 지원하는 Elastic AI 검색 툴킷
금융 기관에는 자본 적정성과 ESG(환경, 사회, 지배구조) 기준과 같은 변화하는 규제에 대한 압박이 커지는 상황에서 신뢰할 수 있는 정보에 신속히 접근하는 것이 그 어느 때보다 중요합니다. 이러한 이유로 많은 은행과 그 파트너들은 PDF 및 기타 문서를 포함한 방대한 양의 비정형 데이터에서 가치를 창출하기 위해 생성형 AI의 잠재력을 모색하고 있습니다.
세계 최대 규모의 전문 서비스 네트워크 중 하나이자 금융 부문에 최첨단 솔루션을 제공하는 선도 기업인 Ernst & Young(EY)은 은행들이 이러한 어려움을 헤쳐나갈 수 있도록 지원하기 위해 적극적으로 노력하고 있습니다. EY의 생성형 AI 매니저인 Vishaal Venkatesh는 이렇게 설명합니다. "당사의 주요 목표는 책임감 있는 AI를 옹호하고 이러한 솔루션을 고객에게 효과적으로 제공하는 것입니다. 고객이 기술을 이해하는 것뿐만 아니라, 성공적으로 구현하는 데 필요한 적절한 프레임워크를 갖추도록 보장합니다."
이 목표를 달성하기 위해 EY는 Elasticsearch 플랫폼을 기반으로 생성형 AI 솔루션을 활용해 구축했습니다. "검색 및 조회 분야에서 Elastic의 최첨단 기술에 깊은 인상을 받았습니다."라고 Venkatesh는 말합니다. "이러한 기능을 Retrieval-Augmented Generation(RAG)을 위한 AI 스택에 통합하여 비정형 데이터에서 인사이트를 더욱 정확하고 빠르게 추출할 수 있도록 하였습니다."
혁신 추진, 위험 완화
EY 솔루션의 중심에는 ESRE(Elasticsearch Relevance Engine)가 있으며, 이는 머신 러닝 모델, 데이터 변환, 벡터 데이터베이스 및 데이터 검색 및 조회 기능을 결합한 도구 모음입니다.
Venkatesh는 이렇게 설명합니다. "ESRE를 통해 머신 러닝 모델을 활용해 대규모 벡터 임베딩을 생성할 수 있습니다. 초고효율 임베딩 모델을 사용하여 RAG 구성 요소를 구축했고, 이를 통해 처리 시간을 크게 단축했습니다." EY는 또한 Elastic 제품군에서 제공하는 향상된 인덱싱 및 청킹 기능을 활용했습니다.
이번 협력을 통해 EY는 금융 서비스 분야에서 전략적으로 중요한 두 가지 비정형 데이터 영역인 ESG와 재무 보고서를 공략할 수 있게 되었습니다. "Elastic을 사용하면 은행이 내부 지표와 전체 가치 사슬의 세부 정보를 포함하여 ESG 책임에 대한 보고를 간소화할 수 있습니다." 그는 말합니다.
재무 보고서를 위해 Elastic으로 구동되는 EY의 AI 솔루션은 수많은 테이블이 있는 복잡한 문서에서 데이터와 통찰을 추출할 수 있습니다. "40페이지 분량의 PDF에서 핵심 변수 14개를 추출하거나, 여러 해에 걸쳐 작성된 다양한 보고서의 정보를 비교한다고 상상해 보세요. 이를 통해 고객의 시간과 자원을 크게 절약할 수 있습니다." Venkatesh는 이렇게 말합니다.
Elastic은 최첨단 기술을 제공하는 것 외에도, LLM 애플리케이션 구축을 위한 데이터 프레임워크인 LamaIndex, LangChain, LanceDB와 같은 오픈 소스 벡터 데이터베이스를 포함하여 EY의 생성형 AI 스택에 있는 다른 구성 요소와 원활하게 통합합니다.
"Elastic을 사용하면 책임감 있는 AI와 혁신을 동시에 촉진할 수 있습니다. 이는 고객이 규정을 준수하고, 더 빠르게 대응하며, 내부 위험을 완화할 수 있음을 의미합니다."
EY는 Elastic 배포 후 세 가지 주요 분야에서 상당한 개선을 확인하였습니다.
- 다양한 문서 및 추출 방법에서 정확도가 약 10~15% 향상되었습니다.
- Elastic의 RAG 설정은 기존 RAG 방식에 비해 3배 더 빠른 결과를 도출할 수 있었습니다.
- 확장성이 향상되어 다양한 문서 형식을 처리하고 여러 조직 단위에 걸쳐 원활하게 확장할 수 있습니다.
가치 실현 속도도 또 다른 중요한 장점이었습니다. "전통적으로 공급업체 솔루션 통합은 긴 준비 기간으로 인해 상당한 어려움을 야기해 왔습니다."라고 Venkatesh는 말합니다. "하지만 Elasticsearch의 독특한 인프라 덕분에 개발 프로세스가 크게 가속화되어 이점을 훨씬 빠르게 실현할 수 있었습니다."
생성형 AI 혁명의 중심
Venkatesh는 Elasticsearch의 핵심 강점이 대규모 정보 검색을 수행하는 동시에 전체 개발 라이프사이클에 걸쳐 다양한 AI 기술의 통합을 가능하게 하는 능력에 있다고 덧붙였습니다. 이러한 통합적 접근 방식은 필수적인 통합 가시성 및 보안 기능을 제공하여 EY가 자체 개발한 AI 파이프라인 전반에 걸쳐 최적의 성능을 보장합니다.
"Elastic과 같이 강력하고 안전한 솔루션을 활용하면, 이러한 핵심 구성 요소를 처음부터 새로 구축하고 유지 관리하는 데 상당한 자원을 투자할 필요가 없습니다."라고 Venkatesh는 말합니다. "더 나아가, Elastic과 같이 검증되고 신뢰할 수 있는 솔루션을 활용하면 자체 개발 구성 요소에서 발생할 수 있는 예상치 못한 문제의 위험을 줄일 수 있습니다."
프로젝트 전반에 걸쳐 EY는 필요할 때마다 Elastic 계정 관리자와 기술 전문가의 지원을 받을 수 있었습니다. "Elastic과의 협업은 처음부터 탄탄한 토대를 구축했기 때문에 매우 순조롭게 진행되었습니다. "Elastic 솔루션 아키텍트와 계정 관리자들의 공동 노력 덕분에 생성형 AI의 복잡성을 신속하게 파악하고 빠른 프로토타입을 달성할 수 있었습니다." Venkatesh는 이렇게 설명합니다.
무엇보다 EY가 생성형 AI 혁명의 선두에 서는 데 도움이 됩니다. "Elastic의 강력한 검색 및 조회 기능과 벡터 임베딩을 위한 머신 러닝을 결합함으로써, 고객에게 혁신을 촉진하고 가치를 창출하며 위험을 완화하는 책임감 있는 생성형 AI 도구를 제공할 수 있는 최적의 발판을 다졌습니다."
