NVIDIA cuVS는 GPU 가속 벡터 검색 및 데이터 클러스터링을 위한 오픈소스 라이브러리로 벡터 검색과 인덱스 구축 속도를 크게 향상시킵니다.
확장 가능한 데이터 분석을 지원하고 시맨틱 검색 효율성을 높이며, 개발자가 기존 시스템을 가속화하거나 새로운 시스템을 처음부터 빠르게 구축할 수 있도록 지원합니다.
주요 라이브러리 및 데이터베이스와 통합된 cuVS는 새로운 NVIDIA 아키텍처와 NVIDIA® CUDA® 버전이 출시될 때 복잡한 코드 업데이트를 관리하여 최상의 성능과 원활한 확장성을 보장합니다.
NVIDIA NIM™은 클라우드, 데이터센터, RTX™ AI PC 및 워크스테이션 등 다양한 환경에서 사전 학습 및 커스터마이즈된 AI 모델을 GPU 가속 추론 마이크로서비스 형태로 자체 호스팅할 수 있는 컨테이너를 제공합니다. NIM 마이크로서비스는 업계 표준 API를 제공하여 AI 애플리케이션, 개발 프레임워크 및 워크플로우에 손쉽게 통합할 수 있습니다. NVIDIA® TensorRT™ 및 TensorRT-LLM을 포함한 NVIDIA와 커뮤니티의 사전 최적화된 추론 엔진을 기반으로 구축된 NIM 마이크로서비스는 각 파운데이션 모델과 GPU 조합에 맞춰 응답 지연 시간 및 처리량을 최적화합니다.
자세히 보기
- NVIDIA GTC 2025 세션: Apache Lucene을 사용한 대규모 벡터 검색을 GPU로 구현하기