GPUs auf Kurs! Elastic Inference Service (EIS): GPU-beschleunigte Inferenz für Elasticsearch

Wir freuen uns, den Elastic Inference Service (EIS) ankündigen zu können, der GPU-beschleunigte Inferenz einführt, die nativ in Elasticsearch auf Elastic Cloud integriert ist. 

Elasticsearch ist die am weitesten verbreitete Vektor- und semantische Suchdatenbank. Moderne Suchen und KI-Workloads sind auf schnelle, Skalierbarkeit Inferenzen für Embeddings, Reranking und Sprachmodelle angewiesen. Mit zunehmendem Volumen stellen die Verwaltung der Infrastruktur, das Testen von Modellen, die Handhabung von Integrationen und das Zusammenfügen von Punktlösungen einen erheblichen operativen Aufwand dar. Dies hat einen klaren Kundenbedarf an verwalteten, GPU-beschleunigten Fleets geschaffen, die Geschwindigkeit, Skalierbarkeit und Kosteneffizienz bieten, ohne den betrieblichen Aufwand von Infrastruktur oder Integrationen. Der Elastic Inference Service wurde entwickelt, um Inferenz-as-a-Service bereitzustellen und Einbettung, Neubewertung sowie große und kleine Sprachmodelle als Service zu skalieren. Wir haben EIS auch als Multi-Cloud-Dienstanbieter (CSP), multiregionalen und multimodalen Dienst konzipiert, um alle Ihre langfristigen Inferenzanforderungen zu erfüllen.

EIS bietet bereits Zugriff auf ein hochmodernes Large Language Model (LLM), das wiederum sofort einsatzbereite KI-Features für die automatische Ingest, Bedrohungserkennung, Problemuntersuchung, Ursachenanalyse und mehr für Playground und KI-Assistenten bereitstellt. Wir freuen uns nun, Elastic Learned Sparse EncodeR (ELSER) – das integrierte Sparse-Vektormodell von Elastic für modernste Suchrelevanz – als erstes Texteinbettungsmodell auf EIS in der technischen Vorschau anbieten zu können. ELSER unterstützt einen Großteil der Anwendungsfälle für die semantische Suche auf unserer Plattform und bietet branchenführende Relevanz und Leistung. Das ist erst der Anfang; weitere Modelle für mehrsprachige Einbettungen, Reranking und Modelle von Jina AI, die kürzlich durch die Übernahme zu Elastic gestoßen sind, sind auf dem Weg, um die Möglichkeiten weiter auszubauen.

Wir arbeiten an vielen spannenden Verbesserungen des Elastic Inference Service, um eine Vielzahl von Anwendungsfällen mit Energie zu versorgen. Einige der wichtigsten sind: 

• Mehr Modelle: Wir erweitern unseren Modellkatalog, um den steigenden Inferenzanforderungen unserer Kunden gerecht zu werden. In den kommenden Monaten werden wir neue Modelle auf EIS einführen, um eine größere Vielfalt an Such- und Inferenzanforderungen zu unterstützen, darunter:

  • Mehrsprachiges Einbettungsmodell für die semantische suchen

  • Semantisches Reranking-Modell für eine verbesserte semantische suchen und eine verbesserte schlüsselwortbasierte suchen

  • Multimodale Einbettung und Neusortierung von Modellen 

  • Kleine Sprachmodelle (SLMs)

  • Mehr LLMs

Wir werden weiterhin weitere Modelltypen hinzufügen. Wenn Sie also ein Modell sehen möchten, wenden Sie sich an uns unter support@elastic.co. 

• Weitere CSPs und Regionen: Wir arbeiten daran, die Abdeckung bald auf weitere CSPs und Regionen auszuweiten. Informationen zur aktuellen Verfügbarkeit finden Sie in unseren Dokumentationen.

• Vereinfachte semantische Suchen: Die semantische Suche mit semantic_text, einem Feldtyp in der Abfrage, vereinfacht den Inferenz-Workflow, indem sie die Inferenz zum Zeitpunkt der Ingestion und sinnvolle Standardwerte automatisch bereitstellt. In Kürze wird semantic_text standardmäßig auf den ELSER-Endpoint des Elastic Inference Service verweisen.
• Mehr Liebe für selbstverwaltete Kunden: Unsere selbstverwalteten Nutzer können bald mitmachen. In naher Zukunft wird der Cloud Connected Mode EIS in selbstverwaltete Umgebungen bringen, wodurch der Betriebsaufwand reduziert wird und hybride Architekturen und Skalierungen dort ermöglicht werden, wo es für Sie am besten funktioniert.

Wir haben noch viele weitere spannende Verbesserungen, auf die wir uns konzentrieren. Bitte wenden Sie sich an uns, wenn Sie Fragen haben.

Die Entscheidung über die Veröffentlichung der in diesem Blogeintrag beschriebenen Leistungsmerkmale und Features sowie deren Zeitpunkt liegt allein bei Elastic. Es ist möglich, dass noch nicht verfügbare Leistungsmerkmale oder Features nicht rechtzeitig oder überhaupt nicht veröffentlicht werden.

In diesem Blogpost haben wir möglicherweise generative KI-Tools von Drittanbietern verwendet oder darauf Bezug genommen, die von ihren jeweiligen Eigentümern betrieben werden. Elastic hat keine Kontrolle über die Drittanbieter-Tools und übernimmt keine Verantwortung oder Haftung für ihre Inhalte, ihren Betrieb oder ihre Anwendung sowie für etwaige Verluste oder Schäden, die sich aus Ihrer Anwendung solcher Tools ergeben. Gehen Sie vorsichtig vor, wenn Sie KI-Tools mit persönlichen, sensiblen oder vertraulichen Daten verwenden. Alle Daten, die Sie eingeben, können für das Training von KI oder andere Zwecke verwendet werden. Es gibt keine Garantie dafür, dass Informationen, die Sie bereitstellen, sicher oder vertraulich behandelt werden. Setzen Sie sich vor Gebrauch mit den Datenschutzpraktiken und den Nutzungsbedingungen generativer KI-Tools auseinander. 

Elastic, Elasticsearch und zugehörige Marken sind Marken, Logos oder eingetragene Marken von Elasticsearch B.V. in den Vereinigten Staaten und anderen Ländern. Alle anderen Unternehmens- und Produktnamen sind Marken, Logos oder eingetragene Marken ihrer jeweiligen Eigentümer.