NVIDIA cuVS ist eine Open-Source-Bibliothek für GPU-beschleunigte Vektorsuche und Daten-Clustering, die schnellere Vektorsuchen und Indexerstellungen ermöglicht.
Das unterstützt skalierbare Datenanalysen, verbessert die Effizienz der semantischen Suchen und hilft Entwicklern, bestehende Systeme zu beschleunigen oder von Grund auf neue zu erstellen.
cuVS ist in wichtige Bibliotheken und Datenbanken integriert und verwaltet komplexe Code-Updates bei der Veröffentlichung neuer NVIDIA-Architekturen und NVIDIA® CUDA®-Versionen, um Spitzenleistung und nahtlose Skalierbarkeit zu gewährleisten.
NVIDIA NIM™ bietet Container zum Selbsthosten von GPU-beschleunigten Inferenz-Microservices für vortrainierte und angepasste KI-Modelle in Clouds, Rechenzentren, RTX™ AI-PCs und Workstations. NIM-Microservices stellen branchenübliche APIs für die einfache Integration in KI-Anwendungen, Entwicklungs-Frameworks und Workflows bereit. Basierend auf voroptimierten Inferenz-Engines von NVIDIA und der Community, einschließlich NVIDIA® TensorRT™ und TensorRT-LLM, optimieren NIM-Microservices die Reaktionslatenz und den Durchsatz für jede Kombination aus Basismodell und GPU.
- GPU-beschleunigte Vektorsuche in Elasticsearch mit NVIDIA
- NVIDIA NIM mit Elasticsearch-Vektordatenbank
Weitere Informationen
- NVIDIA GTC 2025-Sitzung: Bringen Sie mit Apache Lucene Vektorsuche in großem Stil auf die GPU.