90% 이상의 RAG 정확도 달성
Elastic의 효율적인 검색 기능을 통해 90% 이상의 정확도를 달성하는 Contextual AI로 구축된 에이전트
확장을 통한 방대한 양의 콘텐츠 처리 가능
Elastic을 통해 Contextual AI 플랫폼은 수백만 개의 다양한 문서에서 작동하며, 2,200만 개의 청크를 가진 저장소를 관리합니다.
효율성 향상
Elastic을 통해 Contextual AI는 다중 검색 API를 활용하여 단일 API 호출로 시맨틱 검색과 키워드 검색을 포함한 여러 유형의 검색을 가능하게 합니다.
Elastic의 통합 플랫폼과 검색 기술은 Contextual AI가 검색 증강 생성(RAG)의 경계를 넓히고 전례 없는 정확성과 확장성을 달성할 수 있도록 합니다.
엔터프라이즈 AI에서 RAG(검색 증강 생성)는 기업에 중대한 영향을 끼치는 핵심 기술입니다. 이 기술을 통해 기업은 자체 데이터를 대규모 언어 모델(LLM)과 통합하여 직원과 고객에게 독특하고 맥락에 맞는 AI 경험을 제공할 수 있습니다. 최종 사용자는 친숙한 채팅 환경에서 직접 상호 작용하거나 엔터프라이즈 워크플로우 및 앱에 직접 내장되어 엔터프라이즈 지식 검색, 규정 준수 및 위험 분석, 고객 지원을 포함한 다양한 작업을 해결할 수 있습니다.
그러나 고정된 RAG 구성 요소를 사용하는 기존 기술은 미세 조정 및 기타 정확도 향상 후에도 여전히 부정확한 결과를 생성할 가능성이 있습니다. 바로 이 지점에서 Elastic으로 뒷받침되는 Contextual AI는 POC 단계에 머물러 있던 AI 프로젝트를 실제 운영 환경에 적합한 상태로 만듭니다.
Contextual AI는 고급 RAG 및 컨텍스트 엔지니어링 기술을 중심으로 한 LLM에 엔터프라이즈 데이터와 관련 비즈니스 컨텍스트를 효과적으로 공급하는 통합 컨텍스트 레이어를 제공합니다. 플랫폼은 문서 이해, 검색, 재순위 지정, 쿼리 계획, 근거 있는 생성, 귀속 및 도구 사용을 포함한 복잡한 지식 작업에서 정확성을 위해 특별히 설계된 모델, 구성 요소 및 워크플로우를 포함합니다. Elastic의 벡터 및 시맨틱 검색 기술은 Contextual AI 플랫폼이 엔터프라이즈 고객에게 확장 가능한 솔루션을 제공하는 데 중요한 역할을 합니다.
RAG를 한 단계 더 업그레이드
Contextual AI 기술 리드인 매튜 호건(Mathew Hogan)은 Elastic을 통해 회사의 컨텍스트 엔지니어링과 RAG 분야의 한계를 극복할 수 있는 세 가지 영역을 밝혔습니다. 먼저, 대부분의 RAG 솔루션은 정확성을 개선하고 환각을 최소화하기 위해 다양한 오픈 소스 도구와 기능을 결합하며, 일반적인 정확도는 65%~75%입니다.
Contextual AI의 고급 RAG 시스템은 Elastic을 기반으로 한 통합 플랫폼에 구축되어 있어 고객이 에이전트를 신속하게 최적화하고 효율적으로 미세 조정하여 고가치 및 복잡한 생산 사용 사례에 필요한 90% 이상의 정확도를 달성할 수 있습니다.
두 번째 핵심 이점은 확장성입니다. Contextual AI의 에이전트는 수백만 개의 문서에서 효과적으로 작동합니다. 가장 큰 개별 데이터 저장소에는 6만 개 이상의 문서에서 가져온 약 1,400만 개의 데이터 조각이 포함되어 있습니다. 이를 관리하기 위해 회사는 데이터를 덩어리로 나누고 임베딩한 다음, Elasticsearch 클러스터에 인덱싱하는 맞춤형 문서 이해 파이프라인을 사용합니다. 일반적으로 수신되는 데이터는 PDF, HTML 파일, 이미지, 표, 도식, 다이어그램 및 차트가 포함된 문서 등 다양한 형식의 비정형 데이터입니다. Elastic의 벡터 데이터베이스가 이 모든 것을 처리합니다.
하이브리드 검색은 Contextual AI가 벡터 데이터베이스 및 검색 기술의 기반으로 Elastic을 선택한 세 번째 이유입니다. Elastic은 BM25 키워드 알고리즘과 임베딩 기반 검색 방법론을 모두 지원합니다. BM25를 통해 Elastic은 사용자 정의, 동의어 지원 및 어간 추출을 포함한 여러 유용한 기능을 제공하여 다양한 단어 형태를 고려할 수 있습니다.
"Elastic의 BM25에 대한 포괄적인 지원과 동일한 데이터베이스 내의 벡터 검색 기능을 결합함으로써, 별도의 서비스를 관리하는 복잡성 없이 동시에 두 가지 유형의 검색을 수행할 수 있습니다."
연구, 배포 및 유연성
Contextual AI 연구팀은 또한 Elastic의 벡터 데이터베이스를 사용하여 벡터 유사성 쿼리를 통한 시맨틱 검색을 통해 임베딩 모델을 테스트하고 비교합니다. 데이터를 임베딩으로 색인하고 근사 최인접 이웃 검색을 실행함으로써 FAQ 검색, 제품 검색 또는 고객 지원과 같은 작업에서 다양한 모델이 의미와 맥락을 얼마나 잘 포착하는지 평가할 수 있습니다. 이 설정은 확장성 있는 실제 테스트를 허용하고, 시맨틱 이해와 전통적인 필터를 결합한 보다 복잡한 사용 사례를 반영하는 하이브리드 검색을 지원합니다.
Contextual AI 기술 직원인 구르누르 싱 쿠라나(Gurnoor Singh Khurana)도 연구와 생산 간의 일관성의 중요성을 강조합니다. "우리에게 중요한 이점은 플랫폼 팀도 Elasticsearch를 배포 솔루션으로 사용한다는 것입니다. 이는 연구 환경과 플랫폼 환경 간의 조화를 보장합니다."
이는 특정 접근 방식이 연구 단계에서 잘 작동한다면, Contextual AI가 생산 환경으로 원활하게 확장할 수 있다는 확신을 갖고 이질적인 데이터베이스 기술 사용으로 발생할 수 있는 문제를 피할 수 있음을 의미합니다.
Elastic의 또 다른 강점은 멀티 클라우드 환경에 대한 유연성입니다. Contextual AI는 주로 Google Cloud에서 작동하지만, 고객이 선호하는 AWS 또는 Azure 지역에 쉽게 배포할 수 있습니다. Elastic의 셀프 호스팅 기능은 엄격한 데이터 규정 준수 및 클라우드 마이그레이션 정책으로 인해 온프레미스 또는 VPC 솔루션이 필요한 고객에게도 중요합니다.
호건은 또한 Elastic의 포괄적인 API 지원 범위를 강조합니다. 스냅샷 저장부터 인덱스 검사에 이르기까지 복잡한 검색 실행까지, 팀은 잘 문서화된 API를 통해 모든 것을 처리할 수 있으며 맞춤형 도구를 만들 필요가 없습니다. 특히 흥미로운 것은 다중 검색 API입니다. 단일 API 호출로 하이브리드 검색을 포함한 여러 유형의 검색을 지원합니다. 이를 통해 워크플로우가 간소화되고 Elasticsearch를 효율적이고 개발자 친화적으로 사용할 수 있습니다.
