Elastic과 Red Hat: NVIDIA GPU 가속을 통한 주권 AI 팩토리 확장

성공적인 기업용 AI 구축은 페타바이트 규모의 비정형 기업 기밀 데이터에서 컨텍스트를 추출합니다. 이러한 RAG 파이프라인의 핵심은 벡터 검색입니다. 그러나 데이터 양이 증가하면서 이러한 벡터 색 구축이 배포를 지연시키고 높은 간접 비용을 유발하는 병목 현상을 초래하는 경우가 많습니다.

Elastic은 GPU 가속 색인화를 위해 NVIDIA cuVS를 통합하여 데이터 수집 중에 컴퓨팅 집약적인 작업을 오프로드하며,.그 결과는 놀라울 정도입니다.

• 최대 12배 빠른 색인 속도 

• 최대 7배 빠른 강제 병합

• CPU 사용률 감소

NVIDIA Enterprise AI Factory에서 검증된 설계의 권장 벡터 데이터베이스인 Elastic은 자율 에이전트가 가장 관련성이 높은 데이터로 효과적으로 추론하고 조치를 취할 수 있도록 엔진을 구동합니다. 가속화된 색인은 에이전트가 대규모의 실시간 회사 데이터를 기반으로 의사 결정을 내리고 있음을 의미합니다.

Red Hat AI는 기업이 모델 훈련을 위한 데이터 검색 파이프라인에서 추론에 이르는 AI 워크로드를 운용하는 데 필요한 Kubernetes 네이티브 기반을 제공합니다. Red Hat AI 스택과 결합된 NVIDIA 가속을 갖춘 Elastic은 주권 AI를 우선시하는 고객의 중요한 격차를 해소합니다.

Elastic Agent 빌더와 Elastic 워크플로우를 사용하여 OpenShift AI의 Red Hat AI에서 자율 에이전트를 구축할 수 있습니다. 이 에이전트는 하이브리드 클라우드 전반에서 정보를 검색하고 운영 워크플로우를 트리거하며, 데이터와 모델을 사용자 환경 내에 유지합니다. 

Red Hat의 에코시스템 개발 선임 디렉터 Katie Giglio는 “Red Hat OpenShift는 엔터프라이즈가 하이브리드 클라우드 환경에서 AI 워크로드를 운영화하고 확장하는 데 꼭 필요한 Kubernetes 네이티브 기반을 제공합니다.”라고 말합니다. "Red Hat OpenShift 및 Red Hat AI에서 NVIDIA의 속도로 Elastic의 GPU 가속 검색을 구현함으로써, 고객이 데이터 주권을 완전히 제어하면서 안전하고 성능이 우수한 RAG 및 자율 AI 에이전트를 구축할 수 있도록 지원하는 프로덕션 준비 완료된 개방형 플랫폼을 제공하고 있습니다."

Elastic과 Red Hat, NVIDIA의 협력은 엄격한 데이터 주권 규정을 따르는 조직에 데이터가 어디에 있든 유연하게 관리할 수 있는 능력을 제공합니다.

• Red Hat AI는 모델을 호스팅하고 보호하는 기반을 제공합니다.

• Elastic은 컨텍스트 레이어와 에이전트 프레임워크를 제공합니다.

• NVIDIA AI 인프라는 성능 가속을 제공합니다.

• 통합 고객은 에이전트 기반 AI 시스템과 운영화된 AgentOps 방식을 원활하게 배포할 수 있습니다.

Red Hat AI가 포함된 Elastic은 자체 데이터 센터, 클라우드 리전 또는 하이브리드 아키텍처 등 사용자가 선택한 환경 내에서 기밀 비즈니스 데이터와 모델을 배포할 수 있도록 보장합니다. 

고객 대면 AI 어시스턴트를 배포하는 데 따른 규제 복잡성과 인프라 비용에 직면한 금융 기관을 생각해 보세요. AI 어시스턴트가 효과적으로 실행되려면 고객 계정 정보를 확인하고 의심스러운 활동을 실시간으로 감지할 수 있어야 합니다.

이 금융 기관은 이제 Red Hat AI 플랫폼에서 Elastic GPU 가속 검색을 통해 다음과 같은 기능을 활용할 수 있습니다. 

• 고객 기록이 업데이트될 때 새로운 관련 데이터를 최대 12배 빠르게 색인

• 수백만 개의 벡터를 검색하여 관련 컨텍스트를 추출하고 실시간으로 조치를 취하는 자율 에이전트 실행 
• 단일 관리형 플랫폼 내에서 전체 AI 파이프라인 배포 및 확장
• 데이터 주권에 대한 완벽한 통제 및 보안 유지

GPU 가속이 포함된 Elasticsearch는 현재 Red Hat AI Platform에서 사용할 수 있습니다. 초기 RAG 애플리케이션을 구축하든 글로벌 규모의 AI 팩토리를 배포하든, Elastic, Red Hat, NVIDIA의 조합은 오픈 소스 기반에서 최신 AI 솔루션에 필요한 성능과 유연성을 제공합니다.

• Elasticsearch를 통한 RAG 기반 검색으로 재무 분석가의 효율성 향상 

• Elastic + Red Hat AI: 하이브리드 클라우드의 AI 모델을 위한 개방형 플랫폼