NVIDIA

NVIDIA cuVS 是一个开源库，用于 GPU 加速向量搜索和数据聚类，可提高向量搜索和索引构建效率。

它支持可扩展数据分析，提高语义搜索效率，并帮助开发人员加速现有系统或从头构建新系统。

cuVS 与关键库和数据库集成，在新的 NVIDIA 架构和 NVIDIA® CUDA® 版本发布时管理复杂的代码更新，确保峰值性能和无缝可扩展性。NVIDIA NIM™ 提供容器以自托管 GPU 加速推理微服务，适用于跨云、数据中心、RTX™ AI PC 和工作站的预训练和定制 AI 模型。NIM 微服务提供行业标准的 API，便于集成到 AI 应用、开发框架和工作流中。NIM 微服务基于 NVIDIA 和社区的预优化推理引擎（包括 NVIDIA® TensorRT™ 和 TensorRT-LLM）构建，优化每种基础模型和 GPU 组合的响应延迟和吞吐量。