¡Las GPU a toda máquina! Servicio de Inferencia Elastic (EIS): inferencia acelerada por GPU para Elasticsearch

Nos entusiasma anunciar el Elastic Inference Service (EIS), que introduce la inferencia acelerada por GPU que se integra de manera nativa con Elasticsearch en Elastic Cloud. 

Elasticsearch es la base de datos de búsqueda vectorial y semántica más ampliamente desplegada. Las cargas de trabajo modernas de búsqueda e inteligencia artificial dependen de una inferencia rápida y con escalabilidad para embeddings, reclasificación y modelos de lenguaje. A medida que los volúmenes crecen, gestionar la infraestructura, probar modelos, manejar integraciones y unir soluciones puntuales agrega una gran carga operativa. Esto ha creado una clara necesidad del cliente de Fleet administradas aceleradas por GPU que ofrezcan velocidad, escalabilidad y rentabilidad sin la sobrecarga operativa de la infraestructura o las integraciones. El Servicio de Inferencia de Elastic está diseñado para ofrecer inferencia como servicio y para proporcionar incrustación, reclasificación y modelos de lenguaje grandes y pequeños como servicio a escalar. También hemos diseñado EIS para que sea un proveedor de servicios multi-cloud (CSP), multirregional y multimodal para satisfacer todas tus necesidades de inferencia a largo plazo.

EIS ya proporciona acceso a un modelo de lenguaje extenso (LLM) de última generación, que a su vez impulsa características de IA listas para usar para la ingesta automática, la detección de amenazas, la investigación de problemas, el análisis de la causa raíz y mucho más para Playground y asistentes de IA. Ahora estamos encantados de presentar Elastic Learned Sparse EncodeR (ELSER), el modelo de vectores dispersos integrado en Elastic para una búsqueda de relevancia de última generación, como el primer modelo de incrustación de texto en EIS en vista previa técnica. ELSER impulsa la mayoría de los casos de uso de búsqueda semántica en nuestra Platform y proporciona una relevancia y un rendimiento líderes en el sector. Esto es solo el principio; se acercan modelos adicionales para incrustaciones multilingües, reranking y modelos de Jina AI (que recientemente se unió a Elastic mediante adquisición) que desafiarán las posibilidades.

Estamos trabajando en muchas mejoras emocionantes en el servicio Elastic Inference para impulsar una amplia variedad de casos de uso. Algunos de los principales son: 

• Más modelos: estamos ampliando nuestro catálogo de modelos para satisfacer las crecientes necesidades de inferencia de nuestros clientes. En los próximos meses, presentaremos nuevos modelos en EIS para satisfacer una variedad más amplia de necesidades de búsqueda e inferencia, como las siguientes:

  • Modelo de embeddings multilingües para búsqueda semántica

  • Modelo de reordenamiento semántico para una búsqueda semántica mejorada y una búsqueda mejorada basada en palabras clave

  • Modelos de incrustación y reordenamiento multimodales 

  • Modelos de lenguaje pequeños (SLM)

  • Más modelos de lenguaje grandes (LLM)

Continuaremos agregando más tipos de modelos, así que si hay un modelo que te gustaría ver, contáctanos en support@elastic.co. 

• Más CSPs y regiones: estamos trabajando para ampliar la cobertura a más CSPs y regiones pronto. Para conocer la disponibilidad actual, consulta nuestros documentos. 

• Búsqueda semántica simplificada: la búsqueda semántica con semantic_text, un tipo de campo en la consulta, simplifica el flujo de trabajo de inferencia al proporcionar inferencia en el momento de la ingesta y valores predeterminados razonables automáticamente. Muy pronto, semantic_text comenzará a usar por defecto el endpoint ELSER en el Elastic Inference Service.
• Más amor para los clientes autogestionados: nuestros usuarios autogestionados podrán unirse a la diversión pronto. En un futuro cercano, el Modo Conectado al cloud llevará EIS a entornos autogestionados, reduciendo la sobrecarga operativa y permitiendo arquitecturas híbridas y escalado donde prefieras.

Tenemos muchas más mejoras interesantes en las que estamos enfocados, así que ponte en contacto con nosotros si tienes alguna pregunta.

El lanzamiento y el momento de cualquier característica o funcionalidad descrita en esta publicación quedan a exclusivo criterio de Elastic. Es posible que cualquier característica o funcionalidad que no esté disponible en este momento no se lance a tiempo o no se lance en absoluto.

En esta publicación del blog, es posible que hayamos usado o nos hayamos referido a herramientas de AI generativa de terceros, que son propiedad de sus respectivos propietarios y están gestionadas por ellos. Elastic no tiene ningún control sobre las herramientas de terceros y no tenemos ninguna responsabilidad por su contenido, operación o uso, ni por ninguna pérdida o daño que pueda surgir de tu uso de dichas herramientas. Ten cuidado al usar herramientas de AI con información personal, sensible o confidencial. Cualquier dato que envíes puede usarse para el entrenamiento de AI u otros fines. No se garantiza que la información que proporciones se mantenga segura o confidencial. Debes familiarizarte con las prácticas de privacidad y los términos de uso de cualquier herramienta de AI generativa antes de usarla. 

Elastic, Elasticsearch y las marcas asociadas son marcas comerciales, logotipos o marcas comerciales registradas de Elasticsearch B.V. en los Estados Unidos y otros países. Todos los demás nombres de empresas y productos son marcas comerciales, logotipos o marcas comerciales registradas de sus respectivos dueños.