Was aber, wenn Sie Ihre benutzerdefinierten Agenten mit den Anwendungen und Produktivitätstools verwenden möchten, auf die Sie bereits angewiesen sind?

Hier kommt das Agent-to-Agent (A2A)-Protokoll ins Spiel. A2A ist ein offener Standard für Interoperabilität, der es Agenten verschiedener Plattformen ermöglicht, miteinander zu kommunizieren und zusammenzuarbeiten. Und wir haben es direkt in den Elastic Agent Builder integriert.

Heute zeigen wir Ihnen, wie Sie einen von Ihnen erstellten benutzerdefinierten Agenten anderen Diensten, insbesondere Gemini Enterprise (ehemals Agentspace), zugänglich machen können.

Die Macht offener Standards: Warum A2A wichtig ist

Im Blogbeitrag „Ihr erster Elastic Agent“ haben wir gezeigt, wie man benutzerdefinierte Agenten erstellt, zum Beispiel einen Finanzassistenten -Agenten mit sicherem Zugriff auf Ihre Marktdaten. Sein Nutzen ist jedoch begrenzt, wenn Sie die gewonnenen Erkenntnisse nicht auch in anderen Umgebungen wie Gemini Enterprise nutzen können, ohne Ihre Arbeit neu aufbauen zu müssen.

Diese Herausforderung der Interoperabilität ist es, die agentenbasierte KI zurückhält. Agenten benötigen eine gemeinsame Sprache, um plattformübergreifend zu kommunizieren. Genau diese Rolle übernimmt das A2A-Protokoll. Es bietet eine standardisierte Kommunikationsschicht, die es Ihnen nicht nur ermöglicht, direkt mit Ihrem Agenten zu interagieren, sondern auch eine Zukunft eröffnet, in der spezialisierte Agenten in Ihrem gesamten Unternehmen zusammenarbeiten und Erkenntnisse austauschen können.

Um dies zu ermöglichen, unterstützt der Elastic Agent Builder das A2A-Protokoll nativ über zwei Standardendpunkte für alle Ihre Agenten:

1. Der Agent Card-Endpunkt (GET {your-kibana-url}/api/agent_builder/a2a/{agentId}.json) - Dieser dient als Visitenkarte Ihres individuellen Agenten. Es stellt Metadaten über Ihren Agenten (Name, Beschreibung, Fähigkeiten usw.) für jeden A2A-kompatiblen Dienst bereit.

2. Der A2A-Protokollendpunkt (POST {your-kibana-url}/api/agent_builder/a2a/{agentId}) - Dies ist der Kommunikationskanal. Andere Agenten senden ihre Anfragen hierher, Ihr Agent verarbeitet sie und sendet eine Antwort zurück, alles gemäß der A2A-Protokollspezifikation.

Testen Sie Ihren Makler mit dem A2A-Inspektor.

Bevor wir unseren Agenten mit einem Produktionssystem verbinden, sollten wir überprüfen, ob die Kommunikation korrekt funktioniert. Am einfachsten geht das mit dem A2A Inspector, einem Tool, das speziell für das Testen und Debuggen von A2A-Integrationen entwickelt wurde.

Die Inbetriebnahme des Inspektors ist unkompliziert. Sie können das a2a-inspector- Repository klonen und den Anweisungen in der README-Datei folgen, um die Anwendung auszuführen. Nach dem Start ist die Benutzeroberfläche standardmäßig unter http://localhost:5001/ verfügbar.

Um den A2A-Inspektor mit Ihrem Makler zu verbinden, müssen Sie zwei wichtige Informationen angeben:

• Agentenkarten-URL: Dies ist der Endpunkt, der Ihren Agenten beschreibt. Für den Finanzassistenten-Agenten aus unserem vorherigen Beitrag lautet diese URL {your-kibana-url}/api/agent_builder/a2a/financial_assistant.json.

• Authentifizierungsheader: Wir verwenden einen Standard-API-Schlüssel zur Authentifizierung.

Sobald Sie diese Angaben in der Benutzeroberfläche des Inspektors eingegeben haben, können Sie sich mit Ihrem Agenten verbinden und sofort mit ihm chatten.

Diese einfache Validierung gibt uns die Gewissheit, dass unser Agent korrekt konfiguriert ist und für den nächsten Schritt bereit ist.

Geh live! Ihr persönlicher Kundenbetreuer in Gemini Enterprise

Und nun zum spannenden Teil: die Umsetzung unseres maßgeschneiderten Finanzberateragenten in Gemini Enterprise (ehemals Agentspace). Diese Integration wird durch den Elastic AI Agent ermöglicht, der auf dem Google Cloud Marketplace verfügbar ist.

Nach der Verbindungsherstellung nutzt Gemini Enterprise das A2A-Protokoll, um direkt mit Ihrem Agenten zu kommunizieren. Hier zeigt sich die wahre Stärke der Interoperabilität: Benutzer können nun auf die tiefgreifenden, datengestützten Erkenntnisse Ihres benutzerdefinierten Elasticsearch-Agenten zugreifen, ohne jemals ihre gewohnte Umgebung verlassen zu müssen. Sie können Ihren benutzerdefinierten Elastic Agent in der Agentenliste sehen:

Stellen Sie sich einen Benutzer in Gemini Enterprise vor, der Folgendes fragt:

„Ich bin besorgt über die Marktstimmung. Können Sie mir zeigen, welche unserer Kunden am stärksten von schlechten Nachrichten betroffen sein könnten? “

Im Hintergrund leitet Gemini Enterprise diese Anfrage über das A2A-Protokoll an Ihren benutzerdefinierten Elastic Agent weiter. Ihr Agent verwendet dann seine spezialisierten Tools, um Ihre Daten abzufragen, eine Antwort zu formulieren und diese zurückzusenden. Für den Endnutzer ist das Erlebnis nahtlos.

Und das ist noch nicht alles! Die mit dem Elastic-Agenten erhaltene Antwort kann nun als Kontext für Ihre nächsten Fragen verwendet werden, die möglicherweise einen anderen spezialisierten Agenten auslösen (z. B. (Ihr Investmentplattform-Agent passt das Engagement in börsennotierten Unternehmen an.) Alles, ohne die Suchleiste zu verlassen.

Mit Ihren Elastic-Agenten, die auf Gemini Enterprise mit A2A bereitgestellt werden, können Sie Zugriff, Orchestrierung und Workflows vereinheitlichen und Reibungsverluste zwischen KI-, Such- und Unternehmenssystemen beseitigen, indem Sie eine einzige Benutzeroberfläche anbieten, über die Benutzer mit ihren Daten und Tools interagieren können – alles im Kontext. Für die Anwender bedeutet das weniger Werkzeugwechsel und intuitivere, leistungsfähigere KI-Assistenten. Für Organisationen bedeutet dies eine integrierte, kohärente Governance, Skalierbarkeit und Interoperabilität.

Jetzt sind Sie am Zug.

Sie verfügen nun über die Werkzeuge, um Ihre Elastic Agents überall verfügbar zu machen. Durch die Nutzung des offenen A2A-Protokolls können Sie die Reichweite Ihrer benutzerdefinierten, datenorientierten Agenten erweitern.

In diesem Beitrag haben wir Ihnen die wichtigsten Schritte erläutert:

• Bereitstellung Ihres Agenten über die A2A Agent Card und Protocol Endpunkte.

• Testen der Verbindung mit dem A2A Inspector.

• Integration Ihres Agenten live in einen externen Dienst wie Googles Gemini Enterprise.

Ihre Agenten müssen nicht länger isoliert werden. Wir freuen uns schon sehr auf die leistungsstarken, vernetzten Systeme, die Sie entwickeln werden. Viel Spaß beim Bauen!

Am einfachsten gelingt der Einstieg mit Ihrer kostenlosen Elastic Cloud-Testversion auf dem Google Cloud Marketplace.

Entwickler können ihre RAG-Anwendungen jetzt im Rahmen eines einheitlichen Prozesses erstellen und ihre Chat-Erlebnisse auf Basis ihrer privaten Daten auf eine flexible und codearme Weise gestalten. Egal, ob Sie KI-Agenten für Ihre Kunden und internen Mitarbeiter entwickeln oder die Generierung von LLMs innerhalb Ihrer Software nutzen, die Vertex AI-Plattform stellt Ihnen die Relevanz von Elasticsearch mit minimalem Konfigurationsaufwand zur Verfügung. Diese Integration ermöglicht eine einfachere und schnellere Einführung von Gemini-Modellen in Produktionsumgebungen und treibt GenAI von Machbarkeitsstudien hin zu realen Anwendungsszenarien voran.

In diesem Blog führen wir Sie durch die Integration von Elasticsearch mit der Vertex AI-Plattform von Google Cloud für eine nahtlose Datenerstellung und die Erstellung vollständig anpassbarer GenAI-Anwendungen. Lassen Sie uns herausfinden, wie.

Die Vertex AI- und Gemini-Modelle von Google Cloud basieren auf Ihren Daten mithilfe von Elasticsearch.

Benutzer, die Vertex AI-Dienste und -Tools zum Erstellen von GenAI-Anwendungen nutzen, können jetzt auf die neue Option „Grounding“ zugreifen, um ihre privaten Daten automatisch in ihre Konversationsinteraktion einzubringen. Elasticsearch ist jetzt Teil dieser Funktion und kann über beides verwendet werden:

• Vertex AI LLM-APIs, die die Gemini-Modelle von Google zum Zeitpunkt der Generierung direkt anreichern (bevorzugt);

• Grounded Generation API, wird stattdessen im Vertex AI Agent Builder-Ökosystem zum Erstellen von Agentenerlebnissen verwendet.

Mit dieser Integration bringt Elasticsearch – die am häufigsten heruntergeladene und eingesetzte Vektordatenbank – Ihre relevanten Unternehmensdaten überall dorthin, wo sie in Ihren internen Chats mit Endkunden benötigt werden. Dies ist für die praktische Einführung von GenAI in Geschäftsprozesse von entscheidender Bedeutung.

Die oben genannten APIs ermöglichen es Entwicklern, diese neue Partnerfunktion in ihren Code zu übernehmen. Allerdings bleiben die schnelle Entwicklung und das Testen entscheidende Schritte bei der Anwendungsentwicklung und dienen als erste Entdeckungsplattform. Um dies zu unterstützen, ist Elasticsearch für eine einfache Auswertung durch Benutzer innerhalb des Vertex AI Studio-Konsolentools konzipiert.

Es sind nur ein paar einfache Schritte erforderlich, um die Elastic-Endpunkte mit den gewünschten Parametern (zu durchsuchender Index, Anzahl der abzurufenden Dokumente und gewünschte Suchvorlage) auf der Registerkarte „Customize Grounding“ in der Benutzeroberfläche zu konfigurieren, wie unten gezeigt (beachten Sie, dass Sie den API-Schlüssel mit dem Wort „ApiKey“ in die Benutzeroberfläche und die Codebeispiele unten eingeben müssen, damit es funktioniert). Jetzt sind Sie bereit, mit Ihrem privaten Wissen zu generieren!

Produktionsreife GenAI-Anwendungen mit Leichtigkeit

Elastic und Google Cloud arbeiten daran, Entwicklern umfassende und angenehme Erfahrungen zu bieten. Durch die native Verbindung mit Elastic sowohl in LLM als auch in der Grounding Generation API werden Komplexität und Aufwand beim Erstellen von GAI-Anwendungen auf Vertex AI reduziert, wodurch unnötige zusätzliche APIs und Datenorchestrierung vermieden werden und die Erdung in nur einem einheitlichen Aufruf erfolgt.

Sehen wir uns an, wie es in beiden Szenarien funktioniert.

Das erste Beispiel wird mit der LLM-API ausgeführt:

Im obigen Beispiel können wir mit dem Feld retrieval der API, die die Inhaltsgenerierung für Gemini 2.0 Flash anfordert, kontextbezogen eine Abruf-Engine für die Anforderung festlegen. Wenn Sie api_spec auf „ELASTIC_SEARCH“ setzen, können Sie zusätzliche Konfigurationsparameter verwenden, beispielsweise den API-Schlüssel und den Cluster-Endpunkt (erforderlich, um eine Anfrage an Ihren Elastic-Cluster weiterzuleiten), den Index, aus dem die Daten abgerufen werden sollen, und die Suchvorlage, die für Ihre Suchlogik verwendet werden soll.

Dasselbe Ergebnis könnte mit der Grounding Generation API durch Festlegen des Parameters groundingSpec erreicht werden:

Bei beiden Ansätzen erhalten Sie in der Antwort eine Antwort mit den relevantesten privaten Dokumenten, die in Elasticsearch gefunden wurden – und den damit verbundenen Datenquellen – um Ihre Anfrage zu unterstützen.

Einfachheit sollte jedoch nicht mit einem Mangel an Personalisierung verwechselt werden, um Ihre spezifischen Anforderungen und Anwendungsfälle zu erfüllen. Vor diesem Hintergrund haben wir es so konzipiert, dass Sie die Suchkonfiguration perfekt an Ihr Szenario anpassen können.

Vollständig anpassbare Suche auf Knopfdruck: Suchvorlagen

Um eine maximale Anpassung an Ihr Suchszenario zu ermöglichen, haben wir in Zusammenarbeit mit Google Cloud die Erfahrung auf der Grundlage unserer bekannten Suchvorlagen aufgebaut. Elasticsearch-Suchvorlagen sind ein hervorragendes Tool zum Erstellen dynamischer, wiederverwendbarer und wartbarer Suchanfragen. Sie ermöglichen Ihnen, Abfragestrukturen vorzudefinieren und wiederzuverwenden. Sie sind besonders nützlich, wenn ähnliche Abfragen mit unterschiedlichen Parametern ausgeführt werden, da sie Entwicklungszeit sparen und die Wahrscheinlichkeit von Fehlern verringern. Vorlagen können Platzhalter für Variablen enthalten, wodurch die Abfragen dynamisch und an unterschiedliche Suchanforderungen anpassbar werden.

Wenn Sie Vertex AI-APIs und Elasticsearch zur Erdung verwenden, müssen Sie auf eine gewünschte Suchvorlage verweisen – wie in den obigen Codeausschnitten gezeigt –, in der die Suchlogik implementiert und an Elasticsearch weitergeleitet wird. Elastic Power-User können die Suchansätze asynchron verwalten, konfigurieren und aktualisieren und sie auf die spezifischen Indizes, Modelle und Daten zuschneiden. Dies geschieht auf völlig transparente Weise für Vertex AI-Benutzer, Web-App-Entwickler oder KI-Ingenieure, die lediglich den Namen der Vorlage in der Grounding-API angeben müssen.

Dieses Design ermöglicht eine vollständige Anpassung und stellt Ihnen die umfangreichen Elasticsearch-Abruffunktionen in einer Google Cloud AI-Umgebung zur Verfügung. Gleichzeitig wird Modularität, Transparenz und Benutzerfreundlichkeit für verschiedene Entwickler gewährleistet, auch für diejenigen, die mit Elastic nicht vertraut sind.

Wann immer Sie eine BM25-Suche, eine semantische Suche oder einen hybriden Ansatz aus beiden benötigen (Haben Sie Retriever bereits erkundet? Zusammensetzbare Abruftechniken in einem einzigen Such-API-Aufruf) können Sie Ihre benutzerdefinierte Logik in einer Suchvorlage definieren, die Vertex AI automatisch nutzen kann.

Dies gilt auch für Einbettungen und Neurangmodelle, die Sie zur Verwaltung von Vektoren und Ergebnissen auswählen. Je nach Anwendungsfall möchten Sie möglicherweise Modelle auf den ML-Knoten von Elastic hosten, einen Service-Endpunkt eines Drittanbieters über die Inference-API verwenden oder Ihr lokales Modell vor Ort ausführen. Dies ist über eine Suchvorlage möglich und wir werden im nächsten Abschnitt sehen, wie es funktioniert.

Beginnen Sie mit Referenzvorlagen und erstellen Sie dann Ihre eigenen

Damit Sie schnell loslegen können, haben wir eine Reihe kompatibler Suchvorlagenbeispiele bereitgestellt, die Sie als erste Referenz verwenden können. Anschließend können Sie Ihre eigenen Vorlagen ändern und darauf aufbauen:

• Semantische Suche mit ELSER-Modell (spärliche Vektoren und Chunking)

• Semantische Suche mit dem mehrsprachigen e5-Modell (dichte Vektoren und Chunking)

• Hybridsuche mit dem Text-Embedding-Modell von Vertex AI

Sie finden sie in diesem GitHub-Repo.

Sehen wir uns ein Beispiel an: Erstellen von Einbettungen mit den Vertex AI-APIs von Google Cloud in einem Produktkatalog. Zuerst müssen wir die Suchvorlage in Elasticsearch wie unten gezeigt erstellen:

In diesem Beispiel führen wir die KNN-Suche in zwei Feldern innerhalb einer einzigen Suche aus: title_embedding – das Vektorfeld, das den Namen des Produkts enthält – und description_embedding – das Feld, das die Darstellung seiner Beschreibung enthält.

Sie können die excludes -Syntax nutzen, um die Rückgabe unnötiger Felder an das LLM zu vermeiden, da dies zu Störungen bei der Verarbeitung führen und die Qualität der endgültigen Antwort beeinträchtigen kann. In unserem Beispiel haben wir die Felder ausgeschlossen, die Vektoren und Bild-URLs enthalten.

Vektoren werden zum Zeitpunkt der Abfrage auf der übermittelten Eingabe über einen Inferenzendpunkt zur Vertex AI-Einbettungs-API googlevertexai_embeddings_004 im laufenden Betrieb erstellt, der zuvor wie folgt definiert wurde:

Weitere Informationen zur Verwendung der Inference API von Elastic finden Sie hier.

Wir sind jetzt bereit, unsere Vorlagensuche zu testen:

Die Felder params ersetzen die Variablen, die wir in den Vorlagenskripten in doppelten geschweiften Klammern festgelegt haben. Derzeit können die APIs Vertex AI LLM und Grounded Generation die folgenden Eingabevariablen an Elastic senden:

• „query“ – die zu durchsuchende Benutzerabfrage

• „index_name“ – der Name des Index, in dem gesucht werden soll

• „num_hits“ – wie viele Dokumente wir in der endgültigen Ausgabe abrufen möchten

Hier ist eine Beispielausgabe:

Die obige Abfrage ist genau das, was Vertex AI von Google Cloud im Hintergrund auf Elasticsearch ausführt, wenn auf die zuvor erstellte Suchvorlage verwiesen wird. Gemini-Modelle verwenden die Ausgabedokumente, um ihre Antwort zu untermauern: Wenn Sie fragen „Was brauche ich, um meine Trockenbauwand zu flicken?“, erhalten Sie vom Chat-Agenten keinen allgemeinen Vorschlag, sondern konkrete Produkte!

End-to-End-GenAI-Reise mit Elastic und Google Cloud

Elastic arbeitet mit Google Cloud zusammen, um produktionsreife, durchgängige GenAI-Erlebnisse und -Lösungen zu schaffen. Wie wir gerade gesehen haben, ist Elastic der erste ISV, der direkt in die Benutzeroberfläche und das SDK für die Vertex AI-Plattform integriert ist, was nahtlose, fundierte Eingabeaufforderungen und Agenten für Gemini-Modelle mithilfe unserer Vektorsuchfunktionen ermöglicht. Darüber hinaus lässt sich Elastic in die Einbettungs-, Neubewertungs- und Vervollständigungsmodelle von Vertex AI und Google AI Studiointegrieren, um Vektoren zu erstellen und zu bewerten, ohne die Google Cloud-Landschaft zu verlassen, und so die Grundsätze verantwortungsvoller KI sicherzustellen. Durch die Unterstützung multimodaler Ansätze ermöglichen wir gemeinsam Anwendungen über verschiedene Datenformate hinweg.

Sie können Ihren GenAI-Suchcode über unseren Playground optimieren, testen und exportieren.

Aber es geht nicht nur um die Entwicklung von Such-Apps: Elastic nutzt Gemini-Modelle, um den IT-Betrieb zu stärken, beispielsweise in den Elastic AI Assistants, der Angriffserkennung und den Funktionen für den automatischen Import. Dadurch wird die tägliche Ermüdung von Sicherheitsanalysten und SREs bei Aufgaben mit geringem Wert verringert und es ihnen ermöglicht, sich auf die Verbesserung ihres Geschäfts zu konzentrieren. Elastic ermöglicht außerdem eine umfassende Überwachung der Vertex AI-Nutzung und verfolgt Metriken und Protokolle wie Antwortzeiten, Token und Ressourcen, um eine optimale Leistung sicherzustellen. Gemeinsam verwalten wir den gesamten GenAI-Lebenszyklus, von der Datenaufnahme und Einbettungsgenerierung bis hin zur Verankerung mit hybrider Suche, und gewährleisten gleichzeitig eine robuste Beobachtbarkeit und Sicherheit der GenAI-Tools mit LLM-gestützten Aktionen.

Entdecken Sie mehr und probieren Sie es aus!

Haben Sie Interesse, dies auszuprobieren? Die Funktion ist derzeit in Ihren Google Cloud-Projekten allgemein verfügbar!

Falls Sie dies noch nicht getan haben, können Sie am einfachsten mit der Elastic Search AI Platform beginnen und unsere Funktionen erkunden, indem Sie Ihre kostenlose Elastic Cloud-Testversion nutzen oder sich über den Google Cloud Marketplace anmelden.

Die Entscheidung über die Veröffentlichung der in diesem Blogeintrag beschriebenen Leistungsmerkmale und Features sowie deren Zeitpunkt liegt allein bei Elastic. Es ist möglich, dass noch nicht verfügbare Leistungsmerkmale oder Features nicht rechtzeitig oder überhaupt nicht veröffentlicht werden. Elastic, Elasticsearch und zugehörige Marken, Waren- und Dienstleistungszeichen sind Marken oder eingetragene Marken von Elastic N.V. in den USA und anderen Ländern. Alle weiteren Marken- oder Warenzeichen sind eingetragene Marken oder eingetragene Warenzeichen der jeweiligen Eigentümer.